2024-07-31 08:42:00
Méta du groupe Facebook
Tentative d’assassinat contre Donald Trump ? Jamais existé! Le chatbot IA hallucine
Meta et ses produits : Le chatbot du groupe ne peut pas être utilisé en Europe
© Jens Büttner / DPA
Les chatbots IA aiment inventer des choses. La société Facebook Meta a fait cette expérience sur un sujet politiquement sensible comme la tentative d’assassinat de Donald Trump.
Un chatbot IA qui enquête sur la tentative d’assassinat de l’ex-président Donald Trump l’a démenti, mettant le groupe Facebook Meta en attente d’explications. Meta fait référence à ce qu’on appelle les « hallucinations », dans lesquelles un logiciel doté d’une intelligence artificielle invente simplement des choses. L’industrie n’a pas encore trouvé de solution fondamentale au problème.
Lorsqu’on lui pose des questions sur l’assassinat de Trump, la machine ment
Meta a dû se justifier après les critiques du camp politique des partisans de Trump. Il a été dénoncé que le chatbot Meta AI avait d’abord refusé de répondre aux questions sur la tentative d’assassinat contre l’ex-président – et avait ensuite en partie affirmé qu’elle n’avait jamais eu lieu.
La société a expliqué dans un article de blog que Meta AI n’avait initialement pas été autorisé à parler de l’attaque du 13 juillet. Car autour d’événements qui font la une des journaux, il y a souvent des informations contradictoires et des spéculations infondées, voire des théories du complot.
Meta : “Malheureux”, mais pas intentionnel
Mais même après que le chatbot IA ait reçu des informations sur l’attaque, il a affirmé “dans quelques cas” que cela ne s’était pas produit, a admis Meta. C’était « malheureux », mais pas intentionnel.
Les « hallucinations » sont un problème courant avec les chatbots IA et sont liées au fonctionnement du logiciel. Les programmes sont d’abord formés avec d’énormes quantités d’informations. Lorsqu’ils répondent aux requêtes des utilisateurs, ils utilisent ensuite cette base pour réfléchir, mot par mot, à la façon dont une phrase devrait probablement continuer.
Cela signifie que le logiciel peut créer des déclarations complètement fausses, même s’il n’a été formé qu’avec des informations correctes. Les développeurs d’IA tentent de maîtriser le problème à l’aide de garde-fous supplémentaires pour les programmes.
Étiquette de vérification des faits sur la mauvaise photo
Dans un deuxième numéro, une photo montrant Trump avec ses gardes du corps immédiatement après l’assassinat a reçu à tort une étiquette de vérification des faits. Il s’agissait à l’origine d’une version manipulée de l’image dans laquelle un sourire était ajouté aux visages des gardes du corps. Mais les systèmes automatisés de Meta ont eu du mal à faire la différence entre les deux photos – et ils ont également ajouté l’étiquette de vérification des faits à la photo originale.
Lors de l’attaque, un homme a tiré sur Trump lors d’une apparition électorale dans l’État de Pennsylvanie. Les balles ont tué un spectateur et en ont blessé deux autres. L’ex-président a été touché à l’oreille.
#MetaCorporation #Tentative #dassassinat #Donald #Trump #Jamais #existé #chatbot #ment
1722408412
