Un homme réclame neuf millions aux magasins Macy’s pour avoir utilisé la reconnaissance faciale pour l’accuser d’un vol qu’il n’a pas commis | Technologie

Un homme de 61 ans a poursuivi le grand magasin Macy’s et Sunglass Hut pour avoir utilisé un système de reconnaissance faciale contre lui pour l’accuser à tort d’avoir cambriolé leurs magasins sous la menace d’une arme. Harvey Eugene Murphy Jr., comme on appelle le plaignant, a été arrêté en octobre 2023 pour le vol dans l’un de ces magasins de la région de Houston (États-Unis). Pendant sa détention et jusqu’à ce que l’alibi prouvant son innocence soit prouvé, Murphy a été violé et battu, selon sa plainte. Si cela se confirme, ce serait un nouveau cas dans lequel les systèmes de reconnaissance faciale appliqués à la sécurité des citoyens provoquent des erreurs aux conséquences graves.

L’histoire fatidique commence en janvier 2022, lorsque deux voleurs à main armée volent des milliers de dollars et des produits dans l’un de ces magasins de lunettes de Houston. Près de deux ans plus tard, la police a arrêté Murphy alors qu’il se trouvait au Texas dans un bureau pour renouveler son permis de conduire. D’après la plainte qui a été déposée Le gardienla personne arrêtée affirme que c’est un employé de la société mère de Sunglass Hut (EssilorLuxottica), en collaboration avec Macy’s, qui a donné son nom aux autorités.

Alors que la police de Houston enquêtait sur le vol à main armée, cet employé a utilisé un logiciel de reconnaissance faciale pour identifier Murphy comme l’un des voleurs. Même si l’image saisie dans le système provenait de caméras de mauvaise qualité, selon le procès, le représentant d’EssilorLuxottica a appelé la police pour l’informer qu’il avait déjà identifié l’un des coupables grâce à cette technologie. En outre, il a accusé Murphy, qui vivait alors en Californie, d’être responsable de deux autres vols.

Murphy réclame désormais 10 millions de dollars (un peu plus de neuf millions d’euros) à Macy’s et EssilorLuxottica pour l’utilisation abusive de ce système de reconnaissance faciale qui l’a identifié à tort. Au cours de sa détention de dix jours dans la prison du comté de Harris (Texas), il a subi des coups et un viol collectif, qui lui ont laissé de graves conséquences physiques et psychologiques.

“L’attaque lui a laissé des blessures permanentes avec lesquelles il doit vivre chaque jour de sa vie”, indique le procès. “Tout cela est arrivé à Murphy parce que les accusés s’appuyaient sur une technologie de reconnaissance faciale, connue pour être sujette aux erreurs et défectueuse.”

Le cas de Murphy souligne une fois de plus les lacunes et les dangers du recours à la reconnaissance faciale, en particulier dans un domaine aussi sensible que la poursuite des criminels présumés, car elle est connue pour produire des faux positifs, notamment contre les Noirs. Son avocat, Daniel Dutko, a expliqué aux médias locaux que cette technologie est la seule explication plausible de sa fausse identification et de son arrestation.

« Nous savons que des études montrent que les Afro-Américains ont un taux élevé de faux positifs basés sur les logiciels de reconnaissance faciale. On sait également que comparer des personnes âgées avec des photos d’elles-mêmes lorsqu’elles étaient jeunes entraîne un taux très élevé de faux positifs pouvant atteindre 90 %, affirme Dutko. Murphy avait un casier judiciaire datant des années 1980 et 1990, c’est pourquoi il est apparu dans le système qui l’a identifié par erreur. Ce serait le premier cas connu d’un homme blanc accusé à tort d’utiliser cette technologie. “L’histoire de M. Murphy est inquiétante pour tous les citoyens de ce pays”, a déclaré Dutko dans un communiqué. “N’importe qui pourrait être accusé à tort d’un crime basé sur un logiciel de reconnaissance faciale sujet aux erreurs, tout comme lui.”

Ces dernières années, plusieurs cas ont mis en garde contre le danger de faire confiance à ces algorithmes pour arrêter des citoyens, comme ce fut le cas avec Robert Julian-Borchak Williams, arrêté par la police de Détroit, ou celui de Porcha Woodruff, qui était enceinte et que le véritable voleur ne l’était pas. C’est pour cette raison que l’utilisation de la reconnaissance faciale pour lutter contre la criminalité a été l’un des points les plus controversés du débat sur la loi pionnière sur l’intelligence artificielle dans l’Union européenne.

Vous pouvez suivre Technologie EL PAÍS dans Facebook oui X ou inscrivez-vous ici pour recevoir notre bulletin d’information semanal.