Récemment, une vidéo est devenue virale qui montre comment deux agents d’IA se reconnaissent tout en simulant une réservation d’hôtel. Après cela, ils commencent tous les deux à interagir dans leur propre langue: une série de bips rapides et de grincements. Les images ont suscité une fascination, mais aussi des préoccupations concernant les implications d’une intelligence artificielle hors témoignage.
D’ACCORD escroquer GizmodoCette conversation a été une expérience créée par une entreprise spécialisée dans le logiciel de synthèse vocale Elevenlabs. Le langage incompréhensible fait partie d’un nouveau protocole basé sur le son modo gibberlinkce qui permet à l’IA d’interagir plus efficacement.
Les agents de l’IA ont leur propre langue
Dans la vidéo, les agents de l’IA ont simulé un appel téléphonique pour gérer la réservation d’une chambre dans un hôtel. Lorsque le premier bot, qui avait le rôle de réceptionniste, il a répondu, le second a été identifié comme une intelligence artificielle. À ce moment-là, AI “réceptionniste“Il les offre à La Ia”client“Changer en mode gibberlink”Pour une communication plus efficace“.
Grâce à la traduction offerte par la vidéo, nous pouvons comprendre la conversation que l’IA a maintenue. Selon L’indépendantLe mode Gibberlink a été développé par Boris Starkov et Anton Pidkuiko, Meta Software Engineers. Les créateurs ont expliqué que ce projet faisait partie d’un protocole programmé. Comme rapports GizmodoDans le code des robots, il a été établi que, en cas de détection qu’ils ont parlé avec une autre IA, ils devraient changer en mode gibberlink.
En mode Gibberlink, l’IA utilise des données codées en sons, ce qui élimine la nécessité de traiter le texte ou la voix. Ne pas avoir besoin d’un GPU pour la gestion de l’audio, Cette méthode est la plus efficace et économiqueParce qu’il raccourcit la communication entre les bots d’IA de 80% et réduit le coût de calcul de 90%.
Image | @Ukeharries_ dans x
Implications de la “langue secrète” de l’IA
En dépit d’être une simulation, l’idée que les agents de l’IA ont leur propre langue préoccupante chez les utilisateurs du réseau et les spécialistes. Luiza Jarovsky, chercheuse de l’IA, écrit dans un post X que “Les agents de l’IA soulèvent de graves problèmes éthiques et juridiques. Le scénario hypothétique dans lequel un agent d’IA est «auto-correction» d’une manière qui va à l’encontre des intérêts humains est définitivement possible“.
La vidéo a également rappelé à plusieurs médias certains incidents qui ont également suscité des inquiétudes parmi les internautes. Par exemple, L’incident s’est produit en 2023, Lorsque Chatgpt a faussement accusé un professeur de droit du nom de Jonathan Turley pour harceler un élève. Selon Busité aujourd’huiLe chatbot a généré une fausse liste avec des noms d’universitaires de droit qui avaient commis un harcèlement sexuel.
Ce n’est pas non plus le premier système de communication propre développé par l’IA. En 2017Au cours d’une expérience développée par objectif, deux qui devraient simuler un échange de chapeaux, Les chatbots ont créé une sorte de sténographie qui était incompréhensible pour les humains. Cela a forcé l’entreprise à quitter l’étude.
#Ces #développeurs #ont #créé #une #langue #secrète #pour #lIA #elle #nest #pas #seulement #beaucoup #moins #chère #elle #réduit #également #jusquà #derreurs