Empathy Unleashed : les divulgations personnelles d’IA stimulent l’acceptation des utilisateurs

Résumé: Lorsque des agents d’intelligence artificielle (IA) divulguent des informations personnelles, cela peut renforcer l’empathie des utilisateurs à leur égard, augmentant ainsi l’acceptation des technologies d’IA. L’étude impliquait des expériences en ligne où les participants se livraient à des discussions textuelles avec un agent d’IA.

Les chercheurs ont constaté que la divulgation par les agents d’informations personnelles pertinentes au travail était associée à une plus grande empathie de la part des participants, alors qu’aucune divulgation ne supprimait l’empathie.

La représentation visuelle de l’agent d’IA, qu’elle soit humaine ou robotique, n’a pas influencé de manière significative les niveaux d’empathie.

Faits marquants:

1. L’étude a révélé que lorsque les agents d’IA divulguent des informations personnelles, en particulier liées au travail, cela peut accroître l’empathie des utilisateurs à leur égard, améliorant ainsi l’acceptation de ces technologies d’IA.
2. La représentation visuelle de l’agent de l’IA, qu’elle soit humaine ou robotique, n’a eu aucun impact significatif sur le niveau d’empathie ressenti par les participants envers l’IA.
3. L’étude impliquait des discussions textuelles en ligne où les agents d’IA et les participants s’engageaient dans un scénario comme s’ils étaient des collègues en pause déjeuner, indiquant que le contexte et la dynamique relationnelle peuvent jouer un rôle dans les résultats de l’interaction homme-IA.

Source: PLO

Dans une nouvelle étude, les participants ont montré plus d’empathie pour un agent d’intelligence artificielle (IA) anthropomorphe en ligne lorsqu’il semblait divulguer des informations personnelles sur lui-même tout en discutant avec les participants.

Takahiro Tsumura de la Graduate University for Advanced Studies, SOKENDAI à Tokyo, au Japon, et Seiji Yamada de l’Institut national d’informatique, également à Tokyo, présentent ces résultats dans la revue en libre accès PLOS ONE le 10 mai 2023.

L’utilisation de l’IA dans la vie quotidienne augmente, suscitant l’intérêt pour les facteurs qui pourraient contribuer au niveau de confiance et d’acceptation que les gens ressentent envers les agents de l’IA.

Des recherches antérieures ont suggéré que les gens sont plus susceptibles d’accepter des objets artificiels si les objets suscitent de l’empathie. Par exemple, les gens peuvent sympathiser avec les robots de nettoyage, les robots qui imitent les animaux de compagnie et les outils de chat anthropomorphes qui fournissent une assistance sur les sites Web.

Des recherches antérieures ont également souligné l’importance de la divulgation d’informations personnelles dans l’établissement de relations humaines.

À partir de ces découvertes, Tsumura et Yamada ont émis l’hypothèse que la divulgation de soi par un agent d’IA anthropomorphique pourrait renforcer l’empathie des gens envers ces agents.

Pour tester cette idée, les chercheurs ont mené des expériences en ligne dans lesquelles les participants avaient une conversation textuelle avec un agent d’IA en ligne qui était visuellement représenté soit par une illustration de type humain, soit par une illustration d’un robot anthropomorphe.

Le chat impliquait un scénario dans lequel le participant et l’agent étaient des collègues en pause déjeuner sur le lieu de travail de l’agent. Dans chaque conversation, l’agent semblait divulguer lui-même des informations personnelles très pertinentes pour le travail, des informations moins pertinentes sur un passe-temps ou aucune information personnelle.

L’analyse finale comprenait les données de 918 participants dont l’empathie pour l’agent d’IA a été évaluée à l’aide d’un questionnaire d’empathie standard.

Les chercheurs ont découvert que, par rapport à une auto-divulgation moins pertinente, une auto-divulgation très pertinente pour le travail de la part de l’agent d’IA était associée à une plus grande empathie de la part des participants. Un manque de révélation de soi était associé à une empathie supprimée.

L’apparence de l’agent en tant qu’humain ou robot anthropomorphe n’avait pas d’association significative avec les niveaux d’empathie.

Ces résultats suggèrent que l’auto-divulgation par les agents d’IA peut, en effet, susciter l’empathie des humains, ce qui pourrait aider à éclairer le développement futur des outils d’IA.

Les auteurs ajoutent : « Cette étude examine si la révélation de soi par des agents anthropomorphes affecte l’empathie humaine. Notre recherche changera l’image négative des artefacts utilisés dans la société et contribuera aux futures relations sociales entre les humains et les agents anthropomorphes.

Financement: Ce travail a été partiellement soutenu par JST, CREST (JPMJCR21D4), Japon. Ce travail a également été soutenu par JST, la création de bourses universitaires pour la création d’innovations scientifiques et technologiques, Grant Number JPMJFS2136. Les bailleurs de fonds n’ont joué aucun rôle dans la conception de l’étude, la collecte et l’analyse des données, la décision de publier ou la préparation du manuscrit.

À propos de cette actualité sur la recherche en intelligence artificielle

Auteur: Hana Abdallah
Source; PLO
Contact: Hanna Abdallah – PLOS
Image: L’image est créditée à Neuroscience News

Recherche originale : Libre accès.
“Influence de la révélation de soi de l’agent sur l’empathie humaine” de Takahiro Tsumura et al. PLOS ONE

Abstrait

Influence de la révélation de soi de l’agent sur l’empathie humaine

À mesure que les technologies d’IA progressent, l’acceptation sociale des agents d’IA, y compris les agents virtuels intelligents et les robots, devient encore plus importante pour davantage d’applications de l’IA dans la société humaine. Une façon d’améliorer la relation entre les humains et les agents anthropomorphes est de faire en sorte que les humains sympathisent avec les agents.

En faisant preuve d’empathie, les humains agissent positivement et gentiment envers les agents, ce qui leur permet d’accepter plus facilement les agents. Dans cette étude, nous nous concentrons sur la révélation de soi des agents aux humains afin d’augmenter l’empathie ressentie par les humains envers les agents anthropomorphes.

Nous étudions expérimentalement la possibilité que la révélation de soi d’un agent facilite l’empathie humaine. Nous formulons des hypothèses et analysons expérimentalement et discutons des conditions dans lesquelles les humains ont plus d’empathie envers les agents.

Des expériences ont été menées avec un plan mixte à trois voies, et les facteurs étaient l’apparence des agents (humain, robot), l’auto-divulgation (auto-divulgation très pertinente, auto-divulgation peu pertinente, pas d’auto-divulgation), et empathie avant/après un stimulus vidéo. Une analyse de variance (ANOVA) a été réalisée à partir des données de 918 participants.

Nous avons constaté que le facteur d’apparence n’avait pas d’effet principal et que la divulgation de soi qui était très pertinente pour le scénario utilisé facilitait plus d’empathie humaine avec une différence statistiquement significative. Nous avons également constaté qu’aucune révélation de soi ne supprimait l’empathie.

Ces résultats confortent nos hypothèses. Cette étude révèle que le dévoilement de soi représente une caractéristique importante des agents anthropomorphes qui aide les humains à les accepter.