Il y a un nouvel outil d’intelligence artificielle en ville, et il attire massivement l’attention du grand public.
ChatGPT est un programme où les utilisateurs peuvent taper une question ou une tâche, et le logiciel extraira des informations de milliards d’exemples de texte sur Internet, pour proposer une réponse conçue pour imiter un humain.
“L’une des principales caractéristiques qui le distinguent est sa capacité à comprendre et à générer un langage naturel. Cela signifie qu’il peut fournir des réponses qui semblent naturelles et conversationnelles, ce qui en fait un outil précieux pour un large éventail d’applications.”
Ou, dit le chatbot à propos de lui-même – ChatGPT a écrit le paragraphe ci-dessus.
Dans quelle mesure l’outil de traitement “comprend” réellement le langage n’est pas clair. Mais ça fait tourner les têtes.
“Vous pouvez avoir ce qui semble alarmant proche d’une conversation humaine avec lui, alors j’ai été un peu surpris”, a déclaré Osh Momoh, conseiller technique en chef pour MaRS, un centre d’innovation à Toronto.
L’outil a été créé par OpenAI, une société de recherche et développement basée à San Francisco cofondée par Elon Musk qui compte Peter Thiel et Microsoft parmi ses investisseurs.
ChatGPT a capturé l’imagination du public car il est si facile à utiliser. Il a été dévoilé au monde il y a à peine 11 jours et a déjà rassemblé plus d’un million d’utilisateurs – gagnant l’adoption plus rapidement que Facebook, qui a mis dix mois pour atteindre le même jalon.
Mais il y a des défis que même l’entreprise derrière elle reconnaît, y compris la tendance à générer des “non-sens” en cours de route.
Demandez-lui n’importe quoi
Les invites données au bot peuvent être idiotes, comme lui demander d’écrire un scénario de film sur des éléphants sur des montagnes russes, ou complexes, comme lui demander d’expliquer l’histoire du Moyen-Orient. Il peut écrire Chansons, dissertations de faculté de droitet même du code informatique.
Momoh dit que le bot est meilleur que tout ce qui a précédé pour générer des réponses textuelles à de vraies questions humaines. Il suggère que les gens pourraient utiliser ChatGPT comme un outil pour améliorer leur productivité, en particulier dans des secteurs comme le service client, la publicité et les médias.
“Dans un an ou deux, je pense que cela aura un impact sur tout ce qui implique la génération de texte”, a-t-il déclaré.
Bien que cela puisse soulever des inquiétudes quant à l’intelligence artificielle mettant les gens au chômage, Melanie Mitchell, informaticienne à l’Institut Santa Fe, s’attend à ce que les emplois changent simplement car les travailleurs ne sont plus tenus d’accomplir des tâches répétitives.
“La technologie a tendance à créer des emplois dans des domaines inattendus car elle supprime des emplois”, a-t-elle déclaré.
“Réponses incorrectes ou absurdes”
L’outil d’IA en est à ses débuts et les utilisateurs découvrent ses limites.
ChatGPT n’a aucun moyen de savoir si les réponses qu’il génère sont vraies ou fausses. Mitchell dit que c’est un gros problème, et pour l’instant, utiliser le bot pour des responsabilités professionnelles devrait nécessiter une vérification minutieuse des faits par l’homme.
“J’ai cherché mon propre nom et il a dit beaucoup de choses correctes sur moi, mais il a également dit que j’étais décédé le 28 novembre 2022, ce qui est un peu dérangeant à lire.”
OpenAI a reconnu la tendance de l’outil à répondre par des “réponses plausibles mais incorrectes ou absurdes”, un problème qu’il considère comme difficile à résoudre.
La diffusion de ChatGPT au public peut aider OpenAI à trouver et à corriger les failles. Bien qu’il ait programmé le bot dans le but d’éviter des tâches inappropriées comme demander des conseils sur des activités illégales ou des demandes biaisées ou offensantes, certains utilisateurs ont encore trouvé des moyens de contourner les garde-fous.
Parce qu’elle est formée sur le langage existant, la technologie de l’IA peut également perpétuer les préjugés sociétaux comme ceux autour de la race, du sexe et de la culture.
“Alors, quel effet ces réponses pourraient-elles avoir ? Peut-être pas sur moi ou sur vous, mais encore une fois sur un petit enfant ou quelqu’un qui est impressionnable et qui essaie juste de se forger une vision du monde sur certains de ces sujets plus difficiles”, a déclaré Sheldon Fernandez, PDG de Darwin AI, qui travaille sur l’exploitation de l’IA pour la fabrication.
Encore certains dans le domaine comme Fernandez décrivent les débuts de ChatGPT comme un moment “séminal”. Et à mesure que le bot gagne du terrain auprès du public, il suscite également un débat sur le moment et la manière dont il doit être utilisé – et qui doit le réglementer.
“Nous devons y réfléchir sérieusement… L’un des défis à relever est que la technologie évolue si rapidement et plus rapidement que ne le peuvent souvent les organes législatifs”, a déclaré Fernandez.
Demandez à ChatGPT lui-même si le monde est prêt pour cela, et il crache cette réponse :
“Il est important que la société examine attentivement ces problèmes et développe une approche responsable de l’utilisation des technologies d’IA.”
