Les policiers utilisent des logiciels d’IA pour rédiger des rapports de police

2024-08-27 05:04:59

Les services de police sont souvent parmi les premiers à adopter de nouveaux produits dans le secteur des technologies, comme les drones, la reconnaissance faciale, les logiciels prédictifs et, désormais, l’intelligence artificielle. Après avoir déjà adopté des programmes de transcription audio par IA, certains services testent désormais un nouvel outil plus complet : un logiciel qui exploite une technologie similaire à ChatGPT pour générer automatiquement des rapports de police. Selon un rapport du 26 août de Presse associéede nombreux officiers sont déjà « enthousiasmés » par l’outil d’IA générative qui prétend réduire de 30 à 45 minutes le travail de bureau de routine.

« Lorsque les agents peuvent passer plus de temps à communiquer avec la communauté et à prendre soin d’eux-mêmes, tant physiquement que mentalement, ils peuvent prendre de meilleures décisions qui conduisent à des résultats plus positifs en matière de désescalade », a déclaré Axon dans son communiqué.

La société a déclaré à l’époque que Draft One est construit avec La plateforme Azure OpenAI de Microsoftet retranscrit automatiquement l’audio de la caméra corporelle de la police avant de « tirer parti de l’IA pour créer rapidement un brouillon de récit ». Les rapports sont « rédigés strictement à partir de la transcription audio » en suivant le « modèle sous-jacent de Draft One… pour éviter toute spéculation ou embellissement ». Une fois les informations clés supplémentaires ajoutées, les agents doivent approuver l’exactitude d’un rapport avant qu’il ne soit soumis à un autre cycle d’examen humain. Chaque rapport est également signalé si l’IA a participé à sa rédaction.

Parler avec AP Lundi, Noah Spitzer-Williams, responsable des produits d’IA d’Axon, a affirmé que Draft One utilise la « même technologie sous-jacente que ChatGPT ». Conçu par OpenAI, le modèle de langage génératif de base de ChatGPT a été fréquemment critiqué pour sa tendance à fournir des informations trompeuses ou fausses dans ses réponses. Spitzer-Williams, cependant, compare les capacités d’Axon à un « accès à plus de boutons et de cadrans » que ceux dont disposent les utilisateurs occasionnels de ChatGPT. Le réglage de son « cadran de créativité » aiderait prétendument Draft One à garder ses rapports de police factuels et à éviter les problèmes d’hallucinations persistants de l’IA générative.

La portée de Draft One semble actuellement varier selon les services. Le capitaine Jason Bussert, de la police d’Oklahoma City, a déclaré que son service de 1 170 agents n’utilise actuellement Draft One que pour les « rapports d’incidents mineurs » qui n’impliquent pas d’arrestations. Mais à Lafayette, dans l’Indiana, AP Selon un rapport, la police qui dessert les quelque 71 000 habitants de la ville a toute liberté pour utiliser Draft One « sur n’importe quel type d’affaire ». Les professeurs de l’université Purdue, voisine de Lafayette, soutiennent quant à eux que l’IA générative n’est tout simplement pas suffisamment fiable pour gérer des situations potentiellement bouleversantes comme des accrochages avec la police.

« Les grands modèles linguistiques qui sous-tendent des outils comme ChatGPT ne sont pas conçus pour générer la vérité. Au contraire, ils enchaînent des phrases plausibles basées sur des algorithmes de prédiction », explique Lindsay Weinberg, professeure clinicienne agrégée à Purdue spécialisée dans l’éthique numérique et technologique, dans une déclaration à Vulgarisation scientifique.

Weinberg, qui est directeur de la Laboratoire de technologie et de justicesoutient également que « presque tous les outils algorithmiques auxquels vous pouvez penser ont été montrés à maintes reprises comme reproduisant et amplifiant les formes existantes d’injustice raciale ». documenté de nombreux exemples de biais fondés sur la race et le genre dans les grands modèles linguistiques au fil des ans.

« L’utilisation d’outils qui facilitent la génération de rapports de police dans le contexte d’un système juridique qui soutient et sanctionne actuellement l’incarcération massive de [marginalized populations] « Cela devrait être profondément préoccupant pour ceux qui se soucient de la vie privée, des droits civiques et de la justice », déclare Weinberg.

Dans un courriel adressé à Vulgarisation scientifiqueun représentant d’OpenAI a suggéré que les demandes de renseignements soient adressées à Microsoft. Axon, Microsoft et le département de police de Lafayette n’ont pas répondu aux demandes de commentaires au moment de la rédaction du présent document.

#Les #policiers #utilisent #des #logiciels #dIA #pour #rédiger #des #rapports #police
1724739355