Snapchat AI Glitch inquiète les utilisateurs

Les utilisateurs de Snapchat ont été laissés perplexes et inquiets lorsque le chatbot d’intelligence artificielle de la plate-forme, connu sous le nom de My AI, a publié une mise à jour en direct de son profil et a cessé de répondre aux messages. En règle générale, My AI, alimenté par l’outil de chatbot d’IA ChatGPT, propose des recommandations, répond aux questions et engage des conversations avec les utilisateurs. Cependant, publier une vidéo en direct d’un mur sur la plate-forme était une nouvelle fonctionnalité, normalement réservée aux utilisateurs humains.

La réponse des utilisateurs sur les réseaux sociaux a été rapide, beaucoup exprimant leur malaise et leur confusion. Snapchat a rapidement précisé qu’il ne s’agissait pas d’une mise à jour intentionnelle mais plutôt d’un problème. Un porte-parole de l’entreprise a confirmé que le problème avait été résolu.

Cet incident a mis en lumière les inquiétudes entourant l’intelligence artificielle et ses risques potentiels. Depuis son lancement en avril, l’outil My AI a fait face à des réactions négatives de la part des parents et des utilisateurs de Snapchat. Les problèmes de confidentialité, les échanges inconfortables et l’impossibilité de supprimer la fonctionnalité sans abonnement premium ont été quelques-unes des critiques reçues.

Contrairement à d’autres outils d’intelligence artificielle, la version de Snapchat présente plusieurs caractéristiques uniques. Les utilisateurs peuvent personnaliser le nom du chatbot, créer un avatar Bitmoji personnalisé et l’inclure dans des conversations avec des amis. Cette approche vise à rendre les interactions avec le chatbot moins robotiques et plus naturelles.

La réaction mitigée au problème reflète les défis auxquels sont confrontées les entreprises lors de l’intégration de nouvelles technologies d’IA génératives dans leurs produits, en particulier celles destinées aux jeunes utilisateurs, comme Snapchat. Snapchat a été l’un des premiers partenaires de ChatGPT d’OpenAI, et davantage d’entreprises devraient adopter l’outil à l’avenir.