Un chercheur en sécurité à Kansas City a passé un an à exécuter le même test encore et encore, dans l’espoir de créer quelque chose qui pourrait discrètement déjouer les caméras qui surveillent les rues américaines. Le résultat est un ensemble de motifs de camouflage IA qui, une fois imprimés sur des vêtements ou appliqués sur une voiture, semblent empêcher les systèmes de surveillance de reconnaître ce qu’ils regardent. Bill Swearingen appelle le projet noRecognition, et il vient de subir son premier test public à Def Con à Las Vegas.
Summary
Points clés à retenir
- Le projet noRecognition de Bill Swearingen utilise des motifs de camouflage générés par IA conçus pour empêcher les logiciels de caméras de surveillance d’identifier des personnes, des visages ou des véhicules.
- Les motifs ont mis en échec les 11 algorithmes de détection open source testés par Swearingen, y compris des logiciels liés aux lecteurs de plaques d’immatriculation Flock, aux caméras-piétons Axon et à Clearview AI.
- Il a fallu environ 31 millions d’exécutions de test pour entraîner le modèle à générer des motifs fiables et efficaces.
- La première démonstration publique a eu lieu vendredi à Def Con, où une Toyota Yaris 2009 recouverte a roulé devant une caméra Flock sans être détectée.
- Les motifs recouvrent la carrosserie du véhicule plutôt que les plaques d’immatriculation, un choix délibéré destiné à contourner les lois sur l’obstruction des plaques.
Camouflage piloté par l’IA pour échapper aux caméras de surveillance
noRecognition fonctionne en exploitant un décalage entre la vision humaine et la vision machine — un habillage qui ressemble à un graphisme tapageur pour une personne peut ne rien enregistrer du tout pour un algorithme de détection. Cet écart est le principe même du projet de Swearingen, et c’est la raison pour laquelle ces motifs comptent au-delà d’un simple coup d’éclat au bord de la route.
Le projet noRecognition et l’approche technique
Swearingen, qui a cofondé le meetup de sécurité SecKC, a construit noRecognition à l’aide d’un modèle d’apprentissage par renforcement qui, en substance, corrige lui-même ses devoirs. Un motif est détecté, le modèle s’ajuste et réessaie, une boucle que Swearingen a décrite comme l’apprentissage par le système de « comment peindre ». Selon TechCrunch, il a commencé par un laboratoire de preuve de concept qui a progressivement mis en échec un algorithme de détection open source après l’autre, puis a augmenté la puissance de calcul pour affiner les résultats sur une année.
Ce processus a finalement abouti à 31 millions de tests, selon Decrypt, avant que Swearingen ne puisse produire de manière fiable des motifs à la demande. Le résultat : les 11 algorithmes de détection open source qu’il a testés ont tous été mis en échec par les motifs, couvrant la technologie qui alimente les lecteurs de plaques d’immatriculation Flock, les caméras-piétons Axon et Clearview AI. Il affirme désormais que le modèle peut générer de nouveaux motifs environ chaque minute, et il garde délibérément les plus efficaces hors ligne afin que les fournisseurs de caméras ne puissent pas entraîner leurs systèmes contre eux.
Démonstration publique à Def Con
L’idée est passée de l’expérience de laboratoire à la preuve dans le monde réel vendredi, lorsque Swearingen a collaboré avec la chaîne YouTube Donut Media pour recouvrir une Toyota Yaris 2009 de l’un de ses motifs les plus récents et la faire passer devant une caméra Flock à Def Con. TechCrunch a rapporté qu’il s’agissait du premier test public du motif appliqué à un véhicule, et il a montré que les motifs de camouflage IA peuvent tenir le coup en dehors d’un environnement de test contrôlé, et pas seulement en simulation.
Motivations et contexte en matière de vie privée
Pour Swearingen, le projet n’est pas seulement un exercice technique — il est présenté comme une réponse à ce qu’il considère comme une expansion incontrôlée de la surveillance. « La vie privée est un droit fondamental », a-t-il déclaré aux journalistes, décrivant les motifs comme un moyen pour les gens de « se soustraire au pistage ».
Droits à la vie privée et préoccupations liées à la surveillance
Swearingen a indiqué que l’idée a pris forme l’année dernière lorsqu’il a voulu participer à une manifestation mais s’est senti mal à l’aise face au nombre de caméras susceptibles d’enregistrer chaque personne présente. Il a reconnu ouvertement qu’en tant qu’homme blanc d’âge moyen vivant dans le centre des États-Unis, il n’a pas personnellement fait l’objet du type de surveillance ou de discrimination que d’autres peuvent subir. Mais il a soutenu que si lui se sentait mal à l’aise, d’autres personnes exerçant leur droit à la liberté d’expression ressentaient probablement la même chose — voire pire.
C’est en partie pour cela que cette histoire compte au-delà du laboratoire domestique d’un chercheur : elle s’inscrit pleinement dans un débat en cours sur la surveillance automatisée aux États-Unis. Flock est décrit comme un système de surveillance controversé actuellement déployé à travers le pays, et il suscite une attention bien au-delà des cercles de défense de la vie privée. Des documents internes cités dans des reportages montrent que l’entreprise a proposé de transformer 350 000 caméras embarquées Uber et Lyft en une flotte mobile de lecteurs de plaques, un projet qui a alimenté une réaction négative au Congrès.
Efforts adversariaux existants contre la détection
noRecognition n’est pas la première tentative pour contourner la détection algorithmique, mais il vise une liste de systèmes plus ciblée que la plupart de ses prédécesseurs. Des militants à San Francisco ont placé des cônes de signalisation sur les capots des robotaxis Waymo et Cruise pour les immobiliser — sans écrire une seule ligne de code. Lors des raids d’immigration à Los Angeles l’année dernière, certains manifestants sont allés plus loin et ont incendié plusieurs véhicules Waymo. Masques, capuches et casquettes à large bord restent l’équipement par défaut sur les lignes de protestation, et des marques de vêtements adversariaux vendent depuis des années des imprimés brouillant les visages, même si les lunettes anti-reconnaissance ont montré peu de preuves de leur efficacité réelle.
Ce qui distingue l’approche de Swearingen, c’est la précision : plutôt qu’un gadget générique anti-reconnaissance, noRecognition a été testé contre les piles de détection spécifiques déjà déployées à grande échelle, y compris le logiciel qui fonctionne à l’intérieur du réseau de caméras de Flock.
Considérations juridiques et pratiques
Recouvrir une voiture d’un motif adversarial soulève une question juridique qui n’a rien à voir avec l’algorithme et tout à voir avec la route. Les lois sur l’obstruction des plaques varient d’un État à l’autre, et Swearingen a construit le projet en tenant compte de cette réalité plutôt qu’en la défiant.
Recouvrement de la carrosserie pour éviter les lois sur l’obstruction des plaques
Les motifs noRecognition sont appliqués à la carrosserie, pas aux plaques d’immatriculation, un choix de conception explicitement destiné à éviter les ennuis juridiques liés à l’obscurcissement d’une plaque. C’est une distinction étroite mais importante : la technologie vise la manière dont les caméras classent les formes et les objets, et non la visibilité du numéro de plaque lui-même, qui est le principal objet des lois actuelles sur l’obstruction.
Préoccupations juridiques et de confidentialité persistantes autour de la surveillance
Le contexte juridique et politique plus large ne s’est pas ralenti. Des lecteurs automatiques de plaques d’immatriculation ont déjà conduit à l’interpellation, armes au poing, de conducteurs innocents dans des cas documentés, et des immigrés ainsi que des manifestants ont été pris dans des filets de surveillance fédérale alimentés par l’IA et liés à l’ICE. Des législateurs exercent par ailleurs des pressions sur Meta au sujet des fonctionnalités de reconnaissance faciale intégrées à ses lunettes connectées, un combat parallèle qui montre à quel point la détection algorithmique attire désormais l’attention des régulateurs.
Pourquoi c’est important : à mesure que les outils de détection automatisée se multiplient dans les forces de l’ordre et la sécurité privée, les outils conçus spécifiquement pour les déjouer — même ceux présentés comme des moyens légaux de protéger la vie privée — se retrouvent au cœur d’une zone grise juridique que les régulateurs n’ont pas encore pleinement cartographiée.
Swearingen ne s’arrête pas à Def Con. noRecognition mène une campagne de financement participatif pour des premiers produits dérivés, en commençant par des T-shirts et des sweats à capuche et en visant ensuite des habillages de véhicules, avec l’objectif déclaré de maintenir une résolution suffisamment élevée pour fonctionner à distance tout en rendant les motifs suffisamment attrayants pour que les gens aient réellement envie de les porter. « Chaque échec améliore mon modèle, et donc les motifs deviennent de mieux en mieux », a déclaré Swearingen — une phrase qui fait également office d’avertissement pour les fournisseurs de caméras qui observent cette course aux armements en temps réel.
FAQ
Qu’est-ce que le projet noRecognition ?
noRecognition est un système basé sur l’IA développé par Bill Swearingen qui génère des motifs conçus pour empêcher les logiciels de caméras de surveillance de détecter des personnes, des visages ou des véhicules.
Quelle est l’efficacité du motif noRecognition contre les caméras de surveillance ?
Les motifs ont mis en échec 11 algorithmes de détection open source, y compris des logiciels utilisés par Flock, les caméras-piétons Axon et Clearview AI, après environ 31 millions de tests au cours du développement.
Est-il légal de conduire des véhicules recouverts de ces motifs de camouflage générés par IA ?
Les motifs recouvrent la carrosserie du véhicule plutôt que les plaques d’immatriculation précisément pour éviter les problèmes d’obstruction de plaque, même si la légalité plus large de la conduite d’une voiture recouverte varie selon les États.
Qu’est-ce qui a motivé la création de noRecognition ?
Bill Swearingen a déclaré qu’il a créé noRecognition pour permettre aux gens de « se soustraire au pistage » par les systèmes de surveillance, une préoccupation qu’il a ressentie pour la première fois en envisageant de participer à une manifestation sous une forte couverture de caméras.
{« @context »: »https://schema.org », »@type »: »FAQPage », »mainEntity »:[{« @type »: »Question », »name »: »Qu’est-ce que le projet noRecognition ? », »acceptedAnswer »:{« @type »: »Answer », »text »: »noRecognition est un système basé sur l’IA développé par Bill Swearingen qui génère des motifs conçus pour empêcher les logiciels de caméras de surveillance de détecter des personnes, des visages ou des véhicules. »}},{« @type »: »Question », »name »: »Quelle est l’efficacité du motif noRecognition contre les caméras de surveillance ? », »acceptedAnswer »:{« @type »: »Answer », »text »: »Les motifs ont mis en échec 11 algorithmes de détection open source, y compris des logiciels utilisés par Flock, les caméras-piétons Axon et Clearview AI, après environ 31 millions de tests au cours du développement. »}},{« @type »: »Question », »name »: »Est-il légal de conduire des véhicules recouverts de ces motifs de camouflage générés par IA ? », »acceptedAnswer »:{« @type »: »Answer », »text »: »Les motifs recouvrent la carrosserie du véhicule plutôt que les plaques d’immatriculation précisément pour éviter les problèmes d’obstruction de plaque, même si la légalité plus large de la conduite d’une voiture recouverte varie selon les États. »}},{« @type »: »Question », »name »: »Qu’est-ce qui a motivé la création de noRecognition ? », »acceptedAnswer »:{« @type »: »Answer », »text »: »Bill Swearingen a déclaré qu’il a créé noRecognition pour permettre aux gens de « se soustraire au pistage » par les systèmes de surveillance, une préoccupation qu’il a ressentie pour la première fois en envisageant de participer à une manifestation sous une forte couverture de caméras. »}}]}
Article produit avec l’aide de l’intelligence artificielle et relu par l’équipe éditoriale.
