En bref
- noRecognition utilise des motifs pour perturber les algorithmes de reconnaissance et réduire la détection automatique.
- Bill Swearingen a testé son système sur 11 algorithmes open source, avec 31 millions d’essais et une démonstration publique à Def Con.
- Le projet est encore expérimental, mais vise à proposer des vêtements et accessoires capables de mieux protéger la vie privée.
Ce que Bill Swearingen montre avec noRecognition, ce n’est pas une cape d’invisibilité. C’est plus malin que ça. La caméra filme toujours, mais ses algorithmes ne savent plus quoi faire de ce qu’ils voient. Plus d’alerte, plus de détection automatique, et d’un coup vous revoilà perdu dans la masse. Franchement, pour comprendre l’intérêt du projet, c’est là qu’il faut regarder.
Ce que le motif change vraiment
Depuis quelques années, les caméras de surveillance ne se contentent plus d’enregistrer. Elles repèrent, trient, signalent. Plaques d’immatriculation, visages, personnes, objets, tout peut remonter plus vite qu’avant à la police ou à d’autres systèmes. Swearingen dit vouloir redonner aux gens un moyen d’échapper à ce suivi automatique, au nom d’un droit fondamental à la vie privée et de la possibilité de ne pas être traqué.
Son idée est simple sur le papier, beaucoup moins en pratique. Le motif recouvre un vêtement, un objet ou même une voiture, puis perturbe la lecture de l’algorithme. L’image existe toujours, mais la machine ne voit plus ce qu’elle est censée voir. Résultat ? La surveillance reste là, sauf que son tri automatisé prend un coup.
Un an d’essais pour apprendre à la machine à peindre
À Kansas City, où il a cofondé le meetup cybersécurité SecKC, Bill Swearingen raconte vivre au milieu des caméras. Certaines sont installées à quelques mètres les unes des autres. C’est cette saturation, et le malaise ressenti à l’idée d’aller manifester sous des objectifs partout, qui l’ont poussé à lancer le projet.
Il ne partait pas de zéro. D’autres avant lui ont tenté de déjouer la reconnaissance faciale avec des vêtements, des projets artistiques ou même des lunettes, avec une efficacité disons que variable. Lui a monté un labo de preuve de concept, puis a enchaîné les tests contre des algorithmes open source. Au fil des mois, le système est devenu un modèle par renforcement, capable d’apprendre seul quels motifs fonctionnent et lesquels échouent. Sa formule à lui est parfaite, il dit avoir appris à son modèle à peindre.
Les algorithmes visés sont loin d’être anecdotiques
Le chiffre qui claque, c’est 31 millions de tests. Et ce volume n’a pas servi à battre des records pour le sport. Swearingen affirme que son modèle a fini par trouver des recettes capables de tromper en même temps les 11 algorithmes open source qu’il visait.
Là où ça devient très concret, c’est la liste des technos concernées. Il cite les logiciels derrière les lecteurs de plaques de Flock, des caméras-piétons d’Axon et des caméras utilisant Clearview AI. Le modèle générerait maintenant de nouveaux motifs chaque minute, chaque série étant mathématiquement meilleure que la précédente. Pas mal de promesses, mais sur le papier ça ne sonne pas du tout comme un gadget.
Une démo publique à Def Con, puis la suite
Durant la conférence cybersécurité Def Con de Las Vegas, il a testé ça en public sur une Toyota Yaris de 2009 recouverte d’un de ses derniers motifs, avec l’aide de Donut Media. Objectif, voir si la voiture passait sous le radar d’une caméra Flock. Selon lui, le test a marché, même si les roues ont posé problème. La vidéo de la démo doit arriver dans les prochaines semaines.
Le projet reste au stade de preuve précoce, mais la suite est déjà dessinée. noRecognition a lancé une campagne participative pour financer des premiers produits, du hoodie au T-shirt, avec l’idée d’aller plus tard vers des skins pour véhicules. Les motifs les plus puissants, eux, ne seront pas mis en ligne pour éviter que les fabricants de caméras les neutralisent trop vite. Et ça, clairement, c’est le détail qui montre que la partie ne fait que commencer.
