La détention par erreur d’une femme enceinte ravive le rejet des systèmes de reconnaissance faciale | Technologie

L’utilisation croissante des outils d’identification biométrique à New York n’a pour l’instant pas suscité plus de polémiques que de critiques d’atteinte à la vie privée dans les supermarchés, qui ont massivement recouru à des caméras et à des scanners pour empêcher le vol à l’étalage. “Cette technologie nous aide à réduire le nombre de braquages”, explique un panneau à l’entrée d’un supermarché bien connu de Manhattan. L’année dernière, les employeurs de New York ont ​​​​enregistré 63 000 vols à l’étalage, soit 45% de plus qu’en 2021. De grands stades à travers le pays ont également adopté des outils automatisés tels que l’iris ou le scanner ovale facial pour contrôler l’accès du public, et le Madison Square Garden a été vu dans la fusillade parce qu’elle le fait pour discriminer des individus ennuyeuxnotamment des avocats impliqués dans des litiges contre le légendaire pavillon.

Mais une chose est ce qui se passe à New York et une autre dans le reste du pays, où des villes comme San Francisco ont interdit son utilisation, tandis que d’autres (par exemple, Oakland et Berkeley, en Californie, et Somerville, dans le Massachusetts, toutes gouvernés par des démocrates) envisagent de leur emboîter le pas. Les outils de reconnaissance faciale alimentés par l’IA sont connus pour échouer, générant de fausses images ou entraînant un biais de confirmation immédiat et facile, la plupart du temps sans conséquence. Mais parfois, l’utilisation de cette technologie a un impact plus grave sur la réputation et le bien-être des personnes. C’est le cas de Porcha Woodruff, une femme de Détroit de 32 ans, qui a été arrêtée et menottée en février à son domicile, devant ses deux filles, lors d’une opération policière.

Woodruff a été accusé (à tort) d’agression et de vol de voiture. Les autorités disposaient d’images de vidéosurveillance d’une station-service où l’incident s’est produit, montrant une femme en flagrant délit, et les ont soumises à un outil de reconnaissance faciale DataWorks Plus pour l’identifier. Malgré ce déploiement de moyens, les agents n’ont pas pris en compte une petit détail lorsque, quelques jours après le crime, ils ont fait irruption dans la maison de Woodruff : la voleuse n’était pas enceinte. Elle le fait, huit mois.

Woodruff est la première femme arrêtée par erreur aux États-Unis à la suite d’une fausse identification, mais il y a eu plus de cas. Rien qu’à Détroit, il s’agit du troisième dossier impliquant la police locale, qui effectue en moyenne 125 perquisitions par reconnaissance faciale par an, la quasi-totalité d’hommes noirs, selon les statistiques fournies au conseil de surveillance des citoyens. Woodruff est la sixième personne dans le pays à être faussement accusée d’avoir utilisé la technologie de reconnaissance faciale automatisée, qui relie le visage d’un délinquant inconnu à une photographie dans une base de données spécifiée. La photographie de Woodruff figurait dans les dossiers de la police pour avoir conduit avec un permis expiré il y a quelques années.

Les dommages causés à la réputation de Woodruff, qui a été menottée devant sa maison devant les voisins, ont été encore moindres que ceux causés à sa santé, en raison de sa grossesse avancée. « J’ai eu des contractions dans la cellule. Il avait des douleurs aiguës dans le dos. J’ai souffert de spasmes. J’étais sur le point d’avoir une crise de panique”, a déclaré Woodruff, qui étudie les soins infirmiers, au journal. Le New York Times. “C’était une torture d’être assis sur ces bancs de ciment, tout mon corps me faisait mal.” Le fait qu’elle arrangeait ses deux filles pour qu’elles aillent à l’école n’a pas arrêté les six agents qui sont venus l’arrêter. Ils l’ont fait aller à la porte, où ils l’ont menottée, alors qu’elle n’a réussi qu’à leur demander si c’était une blague, en montrant son ventre. Après 11 heures de garde à vue et le paiement d’une caution de 100 000 $, la femme a été libérée le jour même. Du poste de police, elle est allée directement à l’hôpital, où ils ont constaté qu’elle était déshydratée. Un mois plus tard, le procureur a classé l’affaire. Début août, Woodruff a intenté une action en justice pour arrestation injustifiée contre la ville de Detroit devant le tribunal fédéral du district oriental du Michigan.

Selon des documents remis au conseil de surveillance des citoyens, DataWorks Plus est le fournisseur de la technologie de reconnaissance faciale utilisée par la police pour faire correspondre des visages inconnus à une base de données policière de photos sur des dossiers criminels ; le système utilise l’IA pour présenter les matchs ordonnés selon le calcul des probabilités. En fin de compte, un analyste humain est chargé de décider si l’une des options est cohérente. Comme cela s’est produit, par exemple, dans le cas de Robert Williams, un autre Detroiter qui a été arrêté en janvier 2020 pour vol à l’étalage en raison d’une correspondance de reconnaissance faciale incorrecte, pour laquelle l’accusation s’est ensuite excusée.

Normes d’identification biométrique

“Les données biométriques des clients peuvent être collectées”, prévient une pancarte dans un supermarché bien connu de Manhattan. Parce que toute entreprise ou établissement à New York doit, selon la loi, informer par des annonces très visibles qu’il soumet le client à une surveillance biométrique. Le géant du e-commerce Amazon a été dénoncé en mars pour ne pas avoir explicitement notifié l’utilisation de ces méthodes (telles que le scanner palmaire et la mesure corporelle du client) dans ses magasins de la Grosse Pomme.

Les États-Unis ne sont pas le seul pays à utiliser des outils d’identification biométrique. Au Royaume-Uni, les entreprises utilisent la technologie de reconnaissance faciale basée sur l’IA pour empêcher les personnes ayant des antécédents de vol d’entrer dans leurs établissements. Bruxelles protège ses frontières en collectant les données biométriques de ceux qui entrent sur le territoire européen ; une mesure, selon les experts, à fort potentiel discriminatoire. Les forces de sécurité espagnoles s’apprêtent à adopter le programme ABIS (acronyme en anglais de système d’identification biométrique automatique) pour identifier les suspects en quelques secondes à partir de tout type d’image. Au-delà des doutes sur la transparence de ces systèmes, et de la crainte compréhensible des citoyens d’être surveillés ou espionnés, le cas de Pocha Woodruff est un avertissement sur les risques de prolifération de ce type de technologie.

Vous pouvez suivre LE PAYS Technologie dans Facebook y Twitter ou inscrivez-vous ici pour recevoir nos bulletin d’information sémanal.