La ville de Boston interdit timidement la reconnaissance faciale aux forces de l'ordre

Lors d'un vote à l'unanimité, les membres du Conseil municipal de Boston aux Etats-Unis ont interdit la reconnaissance faciale par les services de la ville et les forces de l'ordre, révèle Engadget le 24 juin. Le projet de loi empêche également tout fonctionnaire d'obtenir cette technologie par l'intermédiaire d'un tiers. Pour être définitivement adopté, le texte doit être signé par le maire Marty Walsh.

Des biais discriminatoires

« Boston ne devrait pas utiliser une technologie discriminatoire qui menace la vie privée et les droits fondamentaux de ses habitants », a déclaré la conseillère municipale Michelle Wu à l'initiative du projet de loi avec Ricardo Arroya.

Lors des débats, les deux responsables se sont alarmés du mauvais fonctionnement de la reconnaissance faciale sur les personnes de couleurs en particulier les femmes à la peau foncée. Ces biais ont été démontrés à de nombreuses reprises. Une étude du Massachusetts Institute of Technology (MIT) a révélé que pour les femmes à la peau foncée, les logiciels de reconnaissance faciale avaient un taux d'erreur allant jusqu'à 35 %.

Cette interdiction ne devrait en réalité pas changer grand-chose car les services de police de Boston déclarent ne jamais utiliser de technologie de reconnaissance faciale. «Tant que cette technologie n'est pas à 100 % sûre, elle ne m'intéresse pas», a déclaré le commissaire de police William Gross lors d'une audition au début du mois. Mais une mise à jour récente du logiciel d'analyse de vidéo utilisé par les forces de l'ordre permet d'ajouter une fonctionnalité d'analyse faciale. La police de Boston a promis qu'elle ne l'installerait pas.

Cette interdiction a deux limites. Premièrement, elle ne s'applique pas aux infractions les plus graves. Les contours de cette exception demeurent flous. Deuxièmement, cette prohibition s'arrête aux frontières de la ville et donc à ses services. Résultat : les entreprises privées ou les agences fédérales comme le FBI pourront utiliser cette technologie. A ce titre, l'American Civil Liberties Union (ACLU) du Massachusetts fait désormais pression sur les législateurs de l'Etat pour que l'interdiction soit adoptée à une plus grande échelle. Un projet de loi d'interdiction est en cours de discussion devant le comité mixte de l'Etat composé des membres de la Chambre des représentants et du Sénat.

Une interdiction en demi-teinte

Cette interdiction en demi-teinte intervient dans un contexte bien particulier. Le 24 juin, le New York Times rapporte que Robert Julian-Borchak Williams, un Afro-Américain, a déposé plainte contre l'Etat de Détroit. Il estime avoir été arrêté à tort après qu'un système de reconnaissance faciale a faussement fait correspondre sa photo à des images de sécurité d'un voleur à l'étalage.

De plus, les mouvements de protestation suscités par la mort de George Floyd lors d'une interpellation à Minneapolis ont poussé les grandes entreprises technologiques à prendre des engagements. IBM a annoncé l'arrêt de la vente de ses logiciels de reconnaissance faciale. Amazon a suspendu l'usage de Rekognition par la police et Microsoft a déclaré qu'il se refusait à vendre sa technologie de reconnaissance faciale aux services de police.