Flo Crivello surveillait les résultats des assistants IA de son entreprise Lindy Crivello a remarqué quelque chose d’étrange. Une nouvelle cliente avait demandé à son assistante IA Lindy un tutoriel vidéo qui l’aiderait à mieux comprendre comment utiliser la plateforme, et Lindy a répondu de la même manière. Crivello a alors compris que quelque chose n’allait pas. Il n’y a pas de tutoriel vidéo.
« Nous avons vu ça et nous nous sommes dit : « OK, quel genre de vidéo a-t-il envoyé ? » et puis nous nous sommes dit : « Oh mince, c’est un problème » », a déclaré Crivello à TechCrunch.
Le vidéo que l’IA a envoyée au client C’était le clip vidéo du tube pop dance de Rick Astley de 1987, « Never Gonna Give You Up ». En termes plus familiers : le client s’est fait Rickroller. Par une IA.
Rickrolling est un mème de type « appât et échange » qui a plus de 15 ans. Lors d’un incident qui a popularisé le mème, Rockstar Games a publié la bande-annonce très médiatisée de « Grand Theft Auto IV » sur son site Web, mais le trafic était si important que le site a planté. Certaines personnes avaient réussi à télécharger et à publier la vidéo sur d’autres sites comme YouTube, en partageant les liens pour que les gens puissent voir la bande-annonce. Mais un utilisateur de 4chan a décidé de faire une farce et de partager le lien vers « Never Gonna Give You Up » de Rick Astley. Dix-sept ans plus tard, les gens font toujours des farces à leurs amis en partageant la chanson d’Astley à des moments inopportuns. Le clip a maintenant plus de 1000 abonnés. 1,5 milliard de vues sur YouTube.
Cette farce sur Internet est si omniprésente qu’inévitablement, de grands modèles de langage comme ChatGPT, qui alimente Lindy, l’ont détectée.
« Ces modèles fonctionnent de la manière suivante : ils essaient de prédire la séquence de texte la plus probable », explique Crivello. « Cela commence donc par : « Oh, je vais vous envoyer une vidéo ! » Et ensuite, qu’est-ce qui est le plus probable ? YouTube.com. Et ensuite, qu’est-ce qui est le plus probable ? »
Crivello a déclaré à TechCrunch que sur des millions de réponses, Lindy n’avait rickrollé les clients que deux fois. Néanmoins, l’erreur devait être corrigée.
« Ce qui est vraiment remarquable dans cette nouvelle ère de l’IA, c’est que pour la corriger, tout ce que j’ai eu à faire était d’ajouter une ligne pour ce que nous appelons l’invite système – qui est l’invite incluse dans chaque Lindy – et c’est comme, ne faites pas de Rickroll aux gens », a-t-il déclaré.
L’erreur de Lindy remet en question la part de la culture Internet qui sera absorbée par les modèles d’IA, puisque ces derniers sont souvent entraînés sur de larges pans du Web. Le Rickroll accidentel de Lindy est particulièrement remarquable car l’IA a reproduit de manière organique ce comportement d’utilisateur très spécifique, ce qui a alimenté son hallucination. Mais des traces d’humour sur Internet s’infiltrent dans l’IA d’autres manières, ce que Google a appris à ses dépens lorsqu’il a acquis une licence sur les données de Reddit pour entraîner son IA. En tant que centre de contenu généré par les utilisateurs – dont une grande partie est satirique – l’IA de Google a fini par dire à un utilisateur qu’il était possible de faire en sorte que le fromage adhère mieux à la pâte à pizza en ajoutant de la colle.
« Dans le cas de Google, il ne s’agissait pas vraiment d’inventer des choses », a déclaré Crivello. « C’était basé sur le contenu, c’est juste que le contenu était mauvais. »
Les LLM s’améliorant rapidement, Crivello pense que nous ne verrons plus autant de gaffes de ce genre à l’avenir. De plus, Crivello affirme qu’il est plus facile que jamais de corriger ces erreurs. Aux débuts de Lindy, si l’un de ses assistants IA ne parvenait pas à terminer la tâche demandée par l’utilisateur, l’IA disait qu’elle y travaillait mais ne livrait jamais le produit. (Curieusement, cela semble assez humain.)
« Il a été très difficile pour nous de corriger ce problème », a déclaré Crivello. « Mais lorsque GPT-4 est sorti, nous avons simplement ajouté une invite du type : « Si l’utilisateur vous demande de faire quelque chose que vous ne pouvez pas faire, dites-lui simplement que vous ne pouvez pas le faire. » Et cela a réglé le problème. »
Pour l’instant, la bonne nouvelle est que le client qui s’est fait Rickroller ne le sait peut-être même pas.
« Je ne savais même pas que le client l’avait vu », a-t-il déclaré. « Nous avons immédiatement répondu : “Oh, hé, c’est le bon lien vers la vidéo”, mais le client n’a rien dit à propos du premier lien. »
2024-08-21 22:37:40
1724272959
#fondateur #dû #entraîner #son #pas #faire #Rickroll #aux #gens
