Préjugés et “racisme” dans ChatGtp, Pescapè : “La faute n’est pas à la machine mais aux hommes et aux données utilisées”

“ChatGPT est une Intelligence Artificielle Générative, c’est-à-dire un système d’intelligence artificielle capable de créer du contenu”.

Quelle est sa véritable innovation ?

« En particulier, ChatGPT est un chatbot avancé qui, en répondant aux questions en temps réel, est capable d’interagir et de créer des contenus de nature différente ».

Comment ça marche dans le détail ?

«ChatGPT utilise successivement des techniques d’apprentissage automatique non supervisées qui sont ensuite optimisées avec des techniques d’apprentissage supervisé et d’apprentissage par renforcement. Essentiellement, ChatGPT utilise une quantité incroyable de données textuelles pour former un système qui est ensuite “recyclé” en fonction des commentaires des utilisateurs. C’est pourquoi plus vous l’utilisez, plus il s’améliore et devient plus précis».

ChatGtp reproduit dans ses textes certains des stéréotypes consolidés dans le débat public. Est-ce dû à la base de données utilisée pour entraîner ChatGtp ?

“Oui. ChatGPT utilise un énorme corpus de données textuelles jusqu’en 2021. S’il vous a donné ces réponses c’est parce que les données utilisées reflètent les clichés du débat Nord/Sud ».

Pourquoi un sujet aussi controversé trouve-t-il également de la place sur cette plate-forme ?

«Le sujet de la polarisation des algorithmes d’intelligence artificielle est un sujet bien connu et très sérieux. Il existe des problèmes de polarisation de nature différente, par exemple en ce qui concerne le sexe et la race. Tout dépend moins des algorithmes eux-mêmes (qu’il faut aussi analyser) que des données utilisées pour entraîner les algorithmes ; des données qui sont affectées par la polarisation car elles sont produites par les humains et reflètent donc les polarisations des hommes : raciste, macho, sexiste, etc. ».

Existe-t-il des outils pour limiter le biais de l’algorithme ?

« Le seul outil que je vois pour le moment c’est la formation, il faut savoir que c’est le cas et donc évaluer ce qu’on entend et lit. Et suivre donc l’usage conscient ».

Dans quels domaines ChatGto apportera-t-il les plus grandes transformations ?

«Définitivement dans le monde de la formation et de la création de contenu. Nous n’en sommes qu’au début.”

ChatGtp peut-il être un outil utile pour identifier les stéréotypes et distorsions reproduits dans le langage et dans le débat public ?

“Bien sûr. Plus qu’un outil, il représente une mise à l’épreuve de notre façon d’écrire, de nous exprimer et donc de penser. Par exemple, celle qui concerne sa catégorie : si lors de la séparation entre Francesco Totti et Ilary Blasi tous les journaux titrent “Totti et Ilary…” on ne peut alors s’étonner qu’une machine entraînée avec des données similaires s’adresse à un homme par son nom de famille et un femme par son nom. Comme toujours, le thème est l’homme et non la machine».

ChatGtp est-il la fin des créateurs humains d’informations et de contenus ou va-t-il sauver la communication ?

« Pour le moment, bien que très prometteurs, des outils comme ChatGPT lorsqu’ils répondent correctement sont encore capables de fournir des réponses en moyenne très superficielles et généralement peu profondes. À des années-lumière de ce qui, par exemple, peut être une étude journalistique bien faite. Mais vous savez mieux que moi qu’il y a aussi beaucoup de journalisme clickbait».

La newsletter du Corriere del Mezzogiorno

Si vous souhaitez rester informé de l’actualité de la Campanie, abonnez-vous gratuitement à la newsletter Corriere del Mezzogiorno. Arrive tous les jours directement dans votre boîte de réception à midi. Cliquez ici.