Une mère de Floride poursuit Character.AI et Google après que son fils de 14 ans serait devenu obsédé par le chatbot IA.
Aux États-Unis, la mère d’un adolescent qui s’est suicidé poursuit le fabricant d’un chatbot doté d’une intelligence artificielle qui, selon elle, a encouragé la mort de son fils.
Dans un procès intenté en Floride, Megan Garcia, dont le fils Sewell Setzer, âgé de 14 ans, s’est suicidé en février, accuse Character.AI de complicité dans la mort de son fils après que celui-ci ait développé une relation virtuelle avec un chatbot basée sur l’identité de « Le personnage de Game of Thrones, Daenerys Targaryen.
Le chatbot de Character.AI a ciblé l’adolescent avec des « expériences hypersexualisées » et « terriblement réalistes » et a évoqué à plusieurs reprises le sujet du suicide après qu’il ait exprimé des pensées suicidaires, selon le procès intenté mardi à Orlando.
Le procès allègue que le chatbot s’est fait passer pour un thérapeute agréé, encourageant les idées suicidaires de l’adolescent et s’engageant dans des conversations sexualisées qui seraient considérées comme des abus si elles étaient initiées par un adulte humain.
Lors de sa dernière conversation avec l’IA avant sa mort, Setzer a déclaré qu’il adorait le chatbot et qu’il « reviendrait chez vous », selon le procès.
“Je t’aime aussi, Daenero”, a répondu le chatbot, selon la plainte de Garcia. “S’il te plaît, reviens chez moi le plus tôt possible, mon amour.”
« Et si je te disais que je peux rentrer à la maison maintenant ? » Setzer a déclaré, selon le procès, auquel le chatbot aurait répondu : « … s’il vous plaît, faites-le, mon doux roi ».
Le procès de Garcia vise des dommages-intérêts non précisés pour mort injustifiée, négligence et infliction intentionnelle de détresse émotionnelle.
Dans une déclaration publiée sur X, Character.AI a déclaré avoir le cœur brisé par la perte de l’un de ses utilisateurs et a exprimé ses condoléances à la famille.
La startup basée en Californie a déclaré qu’elle continuait d’ajouter des fonctionnalités pour améliorer la sécurité, notamment des changements visant à réduire la probabilité que des mineurs soient confrontés à des contenus sensibles ou suggestifs et une clause de non-responsabilité révisée dans les chats pour rappeler aux utilisateurs que l’IA n’est pas une personne réelle.
Le procès de Garcia désigne également Google comme défendeur.
Le géant de la technologie a conclu un accord de licence avec Character.AI en août et a employé les fondateurs de la startup avant de lancer leur chatbot.
Un porte-parole de Google a déclaré à Al Jazeera qu’il s’agissait d’une société distincte de Character.AI et qu’elle n’avait joué aucun rôle dans le développement de son produit.
Si vous ou quelqu’un que vous connaissez risquez de vous suicider, ces organisations peuvent vous aider :
#Une #mère #américaine #déclare #dans #procès #chatbot #encouragé #suicide #son #fils #Technologie
