L’ennemi tombe avec sa voix. Quand l’IA semble sinistre

AGI – La dernière affaire très médiatisée concerne un professeur d’éducation physique et ancien directeur sportif d’un lycée du comté de Baltimore arrêté pour avoir utilisé un service de clonage vocal d’IA pour piéger le directeur de l’école. Mais l’année dernière, l’intérêt porté à la technologie de Clonage vocal basé sur l’IA il s’est développé à mesure que les services se sentent plus humains. Et les cas d’utilisation inappropriée, voire carrément criminelle, d’applications et de logiciels de clonage vocal se multiplient également.

L’affaire Baltimore découle d’un enregistrement diffusé sur les réseaux sociaux en janvier d’un prétendu faux audio du directeur du lycée de Pikesville, Eric Eiswert, faisant des commentaires racistes et antisémites. Des experts ont déclaré au Baltimore Banner et à la police que l’enregistrement, qui a conduit à la brève suspension d’Eiswert, avait un “ton plat, des bruits de fond inhabituellement clairs et un manque de bruits de respiration ou de pauses cohérents”.

La police du comté de Baltimore a retracé l’enregistrement jusqu’à Dazhon Darien, un ancien directeur sportif de l’école dont le nom était également mentionné dans le clip audio. Il aurait utilisé les ordinateurs de l’école “pour accéder aux outils OpenAI et aux services Microsoft Bing Chat”, comme le rapportent WBAL-TV 11 et Actualités NBC. Il a également été lié à la diffusion de l’audio via une adresse e-mail et un numéro de téléphone de récupération associé.

On ne sait pas quelle plate-forme vocale IA Darien a utilisée. La police a arrêté l’homme jeudi à l’aéroport et a déclaré que le directeur sportif de l’école secondaire de Pikesville avait réalisé l’enregistrement pour se venger d’Eiswert, qui poursuivait à l’époque une enquête sur une éventuelle mauvaise gestion des fonds de l’école. Il a été libéré sous caution et fait face à des accusations de vol (en raison du problème des fonds de l’école), de perturbation du fonctionnement d’une école, de représailles contre un témoin et de harcèlement criminel.

D’autres cas notables se sont également produits au Pakistan, où le parti politique d’Imran Khan, l’ancien Premier ministre pakistanais emprisonné, a utilisé ElevenLabs, une plateforme populaire de génération de synthèse vocale disponible dans le commerce, pour reproduire sa voix pendant la campagne électorale. Au Texas, deux entreprises sont liées à une seule faux appel automatisé se faisant passer pour le président Joe Biden dire aux gens de ne pas voter. La Commission fédérale des communications interdit l’utilisation des appels automatisés IA en février. Et naturellement, le faux Drake a utilisé l’intelligence artificielle pour créer la chanson “Heart on My Sleeve”.

Dans ce climat tendu, OpenAI a décidé en mars de se retenir sa plateforme de génération de synthèse vocale par IA, Voice Engine, à usage public. Le service, qui ne nécessite qu’un clip audio de 15 minutes pour cloner la voix d’une personne, n’est disponible que pour un nombre limité de chercheurs en raison du manque de garde-fous autour de la technologie.

Les législateurs américains ont présenté, mais n’ont pas encore été adoptés, plusieurs projets de loi tels que il Loi contre les contrefaçons e il No AI Fraud Act qui cherchent à empêcher les entreprises technologiques d’utiliser le visage, la voix ou le nom d’un individu sans sa permission Bannière de Baltimore rapporte que la police du comté de Baltimore croit à un enregistrement