Un éducateur du comté de Baltimore a piégé le directeur avec une voix générée par l’IA, selon la police

La police du comté de Baltimore a arrêté jeudi matin l’ancien directeur sportif du lycée de Pikesville et l’a accusé d’avoir prétendument utilisé l’intelligence artificielle pour se faire passer pour le principal Eric Eiswert, laissant croire au public qu’Eiswert avait fait des commentaires racistes et antisémites à huis clos.

Dazhon Darien a été accusé de perturbation des activités scolaires, après que les enquêteurs ont déterminé qu’ils avaient falsifié sa voix et diffusé l’audio sur les réseaux sociaux en janvier, selon le bureau du procureur de l’État du comté de Baltimore. Le surnom de Darien, DJ, figurait parmi les noms mentionnés dans les clips audio qu’il aurait falsifiés.

La voix d’Eiswert, qui, selon la police et les experts d’IA, était simulée, tenait des commentaires désobligeants à l’égard des étudiants noirs et de la communauté juive environnante, et a été largement diffusée sur les réseaux sociaux.

Des questions sur l’authenticité de l’audio ont rapidement suivi. La police a écrit dans des documents d’accusation que Darien avait accédé au réseau de l’école à plusieurs reprises en décembre et janvier à la recherche d’outils OpenAI et avait utilisé des « grands modèles de langage » qui pratiquaient « l’apprentissage en profondeur, qui implique l’extraction de grandes quantités de données provenant de diverses sources sur le réseau ». Internet, peut reconnaître le texte saisi par l’utilisateur et produire des résultats conversationnels. Ils ont également connecté Darien à un compte de messagerie qui avait distribué l’enregistrement.

La Bannière de Baltimore remercie ses sponsors. Devenez un.

De nombreux étudiants actuels et anciens pensaient qu’Eiswert était responsable des remarques offensantes, tandis que d’anciens collègues dénonçaient l’audio et défendaient le caractère d’Eiswert. Eiswert lui-même a nié avoir fait ces commentaires et a déclaré que ces commentaires ne correspondaient pas à son point de vue.

L’audio, publié sur le populaire compte Instagram meurtre_ink_bmore, a déclenché une enquête dans les écoles publiques du comté de Baltimore et la police du comté de Baltimore. Eiswert ne travaille plus à l’école depuis le début de l’enquête.

La voix fait référence aux « enfants noirs ingrats qui ne parviennent pas à sortir d’un sac en papier » et se demande à quel point il est difficile d’amener ces élèves à répondre aux attentes de leur niveau scolaire. L’orateur utilise les noms de personnes qui semblent être des membres du personnel et affirme qu’elles n’auraient pas dû être embauchées et qu’il devrait se débarrasser d’une autre personne « d’une manière ou d’une autre ».

« Et si je dois recevoir une plainte supplémentaire d’un Juif de plus dans cette communauté, je me joindrai à l’autre camp », a déclaré la voix.

La police affirme que le clip a été reçu par trois enseignants la veille de sa diffusion virale.

La Bannière de Baltimore remercie ses sponsors. Devenez un.

La surintendante Myriam Rogers de l’époque avait qualifié ces commentaires de « dérangeants » et de « déclarations très offensantes et inappropriées à l’égard des étudiants afro-américains, du personnel du lycée de Pikesville et de la communauté juive de Pikesville ».

Billy Burke, chef du Conseil des employés administratifs et de surveillance, le syndicat qui représente Eiswert, a été le seul responsable à suggérer que l’audio était généré par l’IA.

Burke s’est dit déçu par l’hypothèse du public quant à la culpabilité d’Eiswert. Lors d’une réunion du conseil scolaire en janvier, il a déclaré que le directeur avait besoin de la présence de la police à son domicile parce que lui et sa famille avaient été harcelés et menacés. Burke avait également reçu des courriels de harcèlement, avait-il déclaré à l’époque.

Des experts en détection de contrefaçons audio et vidéo ont déclaré à The Banner en mars qu’il existait des preuves accablantes que la voix était générée par l’IA. Ils ont noté son ton plat, ses bruits de fond inhabituellement clairs et son manque de bruits de respiration ou de pauses cohérents comme caractéristiques de l’IA. Ils ont également analysé l’audio via plusieurs techniques de détection d’IA différentes, qui ont systématiquement conclu qu’il s’agissait d’un faux, même s’ils ne pouvaient pas en être sûrs à 100 %.

Les outils de génération vocale d’IA sont désormais largement disponibles en ligne, un enregistrement d’une seule minute de la voix d’une personne peut suffire à la simuler avec un outil d’IA à 5 $ par mois, le Le laboratoire de journalisme Nieman a rapporté en février.

Il existe peu de réglementations pour empêcher les imitations de l’IA, appelées deepfakes, et peu d’auteurs sont poursuivis.

2024-04-25 15:44:00
1714050463


#éducateur #comté #Baltimore #piégé #directeur #avec #une #voix #générée #par #lIA #selon #police