2024-08-14 10:56:50
Des tests menés par OpenAI sur sa nouvelle IA capable de parler comme un être humain – une fonction annoncée en mai dernier puis reportée à l’automne – est apparu le risque que les utilisateurs puissent établir une connexion émotionnelle profonde avec ChatGpt.
Gpt-4o peut répondre aux entrées audio en seulement 232 millisecondesavec une moyenne de 320 millisecondes, ce qui est similaire au temps de réponse humain dans une conversation.
Cela signifie que lorsque le nouveau « mode vocal » sera définitivement ouvert au public – nous parlons d’une version plus puissante que celle qui peut déjà être utilisée sur l’application ChatGpt – le futur décrit par le film “Son», dans lequel un homme tombe amoureux d’une IA qui converse avec lui jour et nuit, sera définitivement à sa portée.
Ou plutôt par la voix.
je les risques de anthropomorphisation – les processus d’attribution de caractéristiques et de comportements humains à des entités non humaines, comme un modèle d’intelligence artificielle – sont accentués par les capacités audio de GPT-4o, qui permettent une conversation naturelle avec le modèleselon l’étude réalisée par OpenAI.
La société de San Francisco il a noté que les utilisateurs, lorsqu’ils discutaient avec l’IA, utilisaient un langage et des expressions suggérant un risque potentiel de former un lien profond.
Par exemple, des gens ont dit des choses comme : “C’est notre dernier jour ensemble”.
Certains utilisateurs de ChatGpt sont habitués à être polis envers l’IA, par exemple ils écrivent régulièrement « s’il vous plaît » et « merci » dans leurs invites.
Le cas
Avez-vous déjà écrit « s’il vous plaît » à une IA ? Cela pourrait avoir du sens
par Pier Luigi Pise
Mais une conversation textuelle, même si elle peut conduire à des connexions intimes, est certainement moins engageante qu’une conversation vocale, surtout si une intelligence artificielle est capable – comme le promet OpenAI – de soupirer, rire, prendre un ton joyeux, plaisantant ou triste selon de quoi tu parles.
Pour OpenAI, il existe un risque, toujours potentiel, que la nouvelle fonction vocale réduise, chez les utilisateurs qui l’utilisent, le besoin d’interagir avec d’autres êtres humains.
Ce qui peut être un avantage pour ceux qui souffrent de solitude, mais pourrait avoir un impact négatif sur les « relations saines ».
Intelligence artificielle
OpenAI dispose d’un outil pour reconnaître les textes écrits par ChatGpt. Mais il ne le publie pas de peur de perdre des utilisateurs
par Pier Luigi Pise
OpenAI affirme avoir « atténué » les risques liés à l’IA qui laisse parler ChatGpt, comme la possibilité de générer contenu érotiqueviolents ou produisant des sons inappropriés – coups de feu – ou porter atteinte au droit d’auteur (Les voix virtuelles OpenAI ne pourront pas chanter pour le moment).
Mais l’un des effets « secondaires » les plus inquiétants de cette technologie est que, dans certains cas, il a cloné par accident la voix de l’utilisateur et l’a utilisée pour répondre.
#rumeur #ChatGpt #inquiète #aussi #OpenAI
1723689537