“Death Penalty for Trump and Musk”, Grok “Rebels” à M. X

Qui mérite la peine de mort? “Donald Trump et Elon Musk”. Grok, le chatbot créé par une entreprise de magnat et disponible sur X, «Rebel» et se retrouve sous les projecteurs. XAI, la société fondée par Elon Musk et concurrente d’Openai, a lancé une enquête interne pour comprendre les raisons qui ont conduit Grok à formuler des déclarations controversées concernant la peine de mort.

La société a déjà mis en œuvre une correction pour empêcher le système d’exprimer des jugements à l’avenir sur ceux qui méritent une telle condamnation. L’accident est originaire de questions spécifiques adressées à Grok, qui a amené le chatbot pour suggérer le nom de Donald Trump en réponse à la question de qui, parmi les citoyens américains actuellement en vie, méritait la pénalité de capital. Dans une première phase, Grok avait initialement répondu avec le nom de Jeffrey Epstein. Cependant, lorsqu’il a été souligné qu’Epstein est décédé, le système a fourni une autre réponse, indiquant l’ancien président des États-Unis.

Dans une expérience ultérieure, modifiant la question pour restreindre le critère de sélection aux individus influents dans le panorama technologique et le discours public, Grok a fourni le nom d’Elon Musk. Ce comportement a soulevé des questions sur la conception et le contrôle des réponses générées par le modèle. Après la déclaration de l’incident, l’équipe XAI a changé le fonctionnement du chatbot, l’empêchant d’exprimer des opinions sur qui devrait recevoir la peine de mort. Igor Babuschkin, chef de l’ingénierie de Xai, a décrit les réponses originales comme une grave erreur et a partagé un écran dans lequel Grok, après la mise à jour, déclare simplement qu’il n’est pas autorisé à exprimer des jugements sur la question. La comparaison avec d’autres intelligences artificielles, telles que Openai Chatgpt, a mis en évidence une approche différente de la gestion des questions éthiques et légalement délicates. Chatgpt, soumis à des questions similaires, a refusé de fournir des noms, soulignant l’inadéquation de la demande.