Le cours de philosophie pour ChatGPT : cette recherche sur l’IA explore le comportement des LLM dans les agents de dialogue

2023 est l’année des LLM. ChatGPT, GPT-4, LLaMA et plus encore. Un nouveau modèle LLM prend le devant de la scène l’un après l’autre. Ces modèles ont révolutionné le domaine du traitement du langage naturel et sont de plus en plus utilisés dans divers domaines.

Les LLM possèdent la capacité remarquable de présenter un large éventail de comportements, y compris l’engagement dans le dialogue, ce qui peut conduire à une illusion convaincante de converser avec un interlocuteur de type humain. Cependant, il est important de reconnaître que les agents de dialogue basés sur le LLM diffèrent considérablement des êtres humains à plusieurs égards.

Nos compétences linguistiques se développent grâce à une interaction incarnée avec le monde. Nous, en tant qu’individus, acquérons des capacités cognitives et des capacités linguistiques par la socialisation et l’immersion dans une communauté d’utilisateurs de la langue. Cette partie se produit plus rapidement chez les bébés et, à mesure que nous vieillissons, notre processus d’apprentissage ralentit. mais les fondamentaux restent les mêmes.

En revanche, les LLM sont des réseaux de neurones désincarnés formés sur de grandes quantités de texte généré par l’homme, avec l’objectif principal de prédire le mot ou le jeton suivant en fonction d’un contexte donné. Leur formation s’articule autour de l’apprentissage de modèles statistiques à partir de données linguistiques plutôt que par l’expérience directe du monde physique.

Malgré ces différences, nous avons tendance à utiliser les LLM pour imiter les humains. Nous le faisons dans les chatbots, les assistants, etc. Cependant, cette approche pose un dilemme difficile. Comment décrire et comprendre le comportement des LLM ?

Il est naturel d’employer un langage folklorique familier, en utilisant des termes tels que « sait », « comprend » et « pense » pour décrire les agents de dialogue, comme nous le ferions avec les êtres humains. Cependant, pris trop littéralement, un tel langage favorise l’anthropomorphisme, exagérant les similitudes entre les systèmes d’IA et les humains tout en occultant leurs profondes différences.

Alors, comment aborder ce dilemme ? Comment décrire les termes « comprendre » et « savoir » pour les modèles d’IA ? Sautons dans le Jeu de rôle papier.

Dans cet article, les auteurs proposent d’adopter des cadres conceptuels et des métaphores alternatifs pour penser et parler efficacement des agents de dialogue basés sur la LLM. Ils préconisent deux métaphores principales : considérer l’agent de dialogue comme jouant le rôle d’un seul personnage ou comme une superposition de simulacres dans un multivers de personnages possibles. Ces métaphores offrent différentes perspectives sur la compréhension du comportement des agents de dialogue et ont leurs propres avantages distincts.

La première métaphore décrit l’agent de dialogue comme jouant un personnage spécifique. Lorsqu’il reçoit une invite, l’agent essaie de poursuivre la conversation d’une manière qui correspond au rôle ou au personnage attribué. Il vise à répondre en fonction des attentes liées à ce rôle.

La deuxième métaphore voit l’agent de dialogue comme une collection de différents personnages provenant de diverses sources. Ces agents ont été formés sur un large éventail de supports tels que des livres, des scripts, des interviews et des articles, ce qui leur donne beaucoup de connaissances sur les différents types de personnages et de scénarios. Au fur et à mesure que la conversation se poursuit, l’agent ajuste son rôle et sa personnalité en fonction des données d’entraînement dont il dispose, ce qui lui permet de s’adapter et de répondre par son caractère.

En adoptant ce cadre, les chercheurs et les utilisateurs peuvent explorer des aspects importants des agents de dialogue, comme la tromperie et la conscience de soi, sans attribuer à tort ces concepts aux humains. Au lieu de cela, l’accent est mis sur la compréhension du comportement des agents de dialogue dans les scénarios de jeu de rôle et des différents personnages qu’ils peuvent imiter.

En conclusion, les agents de dialogue basés sur LLM possèdent la capacité de simuler des conversations de type humain, mais ils diffèrent considérablement des utilisateurs réels du langage humain. En utilisant des métaphores alternatives, comme voir les agents de dialogue comme des acteurs ou des combinaisons de simulations, nous pouvons mieux comprendre et discuter de leur comportement. Ces métaphores donnent un aperçu de la dynamique complexe des systèmes de dialogue basés sur le LLM, nous permettant d’apprécier leur potentiel créatif tout en reconnaissant leur distinction fondamentale par rapport aux êtres humains.

Vérifiez Papier. N’oubliez pas de rejoindre notre sous-reddit 24k+ ML, Chaîne discorde, et Courriel, où nous partageons les dernières nouvelles sur la recherche en IA, des projets d’IA sympas, et plus encore. Si vous avez des questions concernant l’article ci-dessus ou si nous avons manqué quelque chose, n’hésitez pas à nous envoyer un courriel à [email protected]

Outils en vedette Depuis Club des outils d’IA

???? Découvrez les outils d’intelligence artificielle de 100 dans AI Tools Club