[L’industrie c’est fou] Ce poncho lumineux parvient à duper les logiciels de reconnaissance faciale

On savait déjà que l’entreprise canadienne Hyperstealth Biotechnology avait développé en octobre 2019 un bouclier capable de courber la lumière pour rendre un objet ou une personne quasiment invisible. Le cabinet de design allemand WertelOberfell et l’institut Fraunhofer IZM se sont encore rapprochés de la cape d’invisibilité de Harry Potter avec un poncho lumineux baptisé «Ignotum» («inconnu» en latin), pouvant tromper les logiciels de reconnaissance faciale des caméras installées dans l’espace public.

Le vêtement, parcouru de motifs incurvés et rehaussé d’une grille lumineuse faite de LEDs, parvient à duper les caméras dans deux cas sur trois : celles-ci indiquent alors que le porteur n’est humain qu’avec «33% de chances». Pour repérer les êtres humains, l’intelligence artificielle des caméras de surveillance découpe l’espace en petites tuiles, puis analyse l’effet de contraste entre elles, calculant une probabilité de reconnaissance. Un squelette virtuel est ensuite attribué aux formes humaines et les images du visage envoyées sur un serveur.

WertelOberfell a recréé ces squelettes virtuels dans son studio et recouvert son mannequin numérique de plusieurs motifs pour déterminer ceux le plus susceptibles de passer inaperçus. L’équipe est ensuite passée aux tests pratiques, en imprimant et en portant elle-mêmes ces motifs. «S’il était très difficile de de déboussoler l’intelligence artificielle (à moins de dissimuler complètement le corps), les sources lumineuses actives telles que les bandes LED semblaient affecter les chiffres», écrit le studio sur son site. Fraunhofer IZM a ensuite construit les LEDs et les composants électroniques dissimulés dans le vêtement. Même en cas de fort contraste, poursuit l’entreprise, «le poncho abaisse le pourcentage de reconnaissance à un niveau où il n’est pas assez élevé pour être concluant».

Un vêtement fait pour capter l’attention du public, pas des caméras

Si vous souhaitez vous procurer «Ignotum» pour dévoiler un secret d’Etat ou participer à la prochaine Fashion week parisienne, vous allez devoir sortir votre machine à coudre. Car ce poncho lumineux n’est qu’un démonstrateur. Financé par le consortium Re-FREAM, un projet de recherche collaboratif entre artistes et designers soutenu par l’Union européenne, «Ignotum» vise à attirer l’attention du public et des autorités sur l’usage fait de la vidéo-surveillance, et sur son ampleur. «Nous trouvons l’évolution [de la surveillance publique] discutable et avec ce projet, le porteur peut décider quand être visible de ces technologies», assure Werteloberfell.

En France, seule la reconnaissance faciale a posteriori est autorisée, notamment pour la police depuis 2012, qui utilise le fichier de traitement des antécédents judiciaires (TAJ). Plusieurs expérimentations ont néanmoins eu lieu récemment : un premier logiciel de reconnaissance faciale avait été testé en février 2019 lors du carnaval de Nice (Alpes-Maritimes) auprès de figurants qui se savaient filmés et avaient donné leur accord (et leur photo). En février dernier, la ville de Valenciennes (Nord) a été mise en garde par la Commission nationale de l’informatique et des libertés (Cnil) pour ses 308 caméras offertes par l’entreprise chinoise Huawei, au «caractère particulièrement intrusif» en raison de leur «un dispositif de lecture automatisée des plaques d'immatriculation» et de leurs «dispositifs d'analyse assistée des images».