Les États-Unis enquêtent sur OpenAI pour les dangers de ChatGPT

Comme signalé ‘Le Washington Post‘, média qui a fait avancer l’actualité, la FTC a adressé cette semaine une lettre à OpenAI dans laquelle l’entreprise est interrogée sur la formation qu’elle utilise pour former ChatGPT et le traitement qu’elle fait des données personnelles que les utilisateurs y déversent.

La société d’intelligence artificielle dirigée par Sam Altman suscite depuis des mois des soupçons sur le manque de transparence quant à l’utilisation qu’elle fait des informations des utilisateurs et la formation qu’elle soumet à sa machine, qui reste floue.

Ces doutes ont par exemple motivé qu’en avril dernier l’Italie a décidé de bloquer l’accès au robot conversationnel pendant des semaines. Dans l’UE, des agences de protection des données, dont l’espagnole, ont ouvert des enquêtes sur l’entreprise pour l’utilisation qu’elle fait des informations des internautes.

Parmi les questions que la FTC pose à OpenAI figurent, par exemple, les mesures que l’entreprise a prises pour faire face au potentiel de son IA à “générer des déclarations sur de vraies personnes qui sont fausses, trompeuses ou désobligeantes”. Quelque chose qui s’est déjà produit. Il y a quelques mois, le maire d’une ville australienne a même menacé de poursuivre la startup après avoir vérifié que ChatGPT avait faussement affirmé qu’il avait été condamné à 30 ans de prison.

La FTC consulte également l’entreprise au sujet d’une défaillance des systèmes de sa machine en mars dernier qui a exposé les conversations et les informations sensibles de nombreux utilisateurs. La société a ensuite publié un communiqué dans lequel elle soulignait que le nombre de personnes touchées avait été extrêmement faible.

L’enquête de la FTC intervient à un moment où les régulateurs du monde entier sont de plus en plus préoccupés par le danger de laisser les systèmes d’intelligence artificielle continuer à se développer sans contrôle. L’UE espère approuver la loi sur l’intelligence artificielle d’ici la fin de l’année, ce qui obligera, entre autres, les plates-formes développant des machines telles que ChatGPT à les empêcher de générer des contenus illégaux. Ils devront également publier des résumés des données protégées par le droit d’auteur utilisées pour la formation sur les machines.