OpenAI veut que la technologie ChatGPT modère ce qui se dit sur internet

En un annoncela société dirigée par Sam Altmann Il a valorisé la nécessité de modérer le contenu sur les plateformes numériques, car c’est quelque chose de “crucial pour maintenir la santé” desdits médias. En ce sens, il a souligné “l’effort méticuleux, la sensibilité et la compréhension profonde du contexte” que requiert le processus de modération de contenu en ligne. De même, il a également souligné la nécessité d’une “adaptation rapide” aux nouveaux cas d’utilisation dans ce domaine.

OpenAI a également fait remarquer qu’en raison de sa complexité, il s’agit d’un processus “lent et difficile” pour les utilisateurs qui se consacrent à la modération du contenu et au filtrage du matériel nuisible ou inapproprié.

Dans ce cadre, la société technologique a présenté un système de modération de contenu, qui utilise sa propre technologie GPT-4 pour filtrer le contenu en ligne et ainsi détecter le matériel « toxique et nocif » sur les plateformes numériques.

Ainsi, comme OpenAI l’a détaillé dans une déclaration sur son blog, il s’agit d’un système qui, grâce à sa technologie d’IA la plus puissante, peut aider à modérer le trafic en ligne conformément aux politiques spécifiques des plateformes où il est implémenté. . En fait, tout utilisateur ayant accès à l’API OpenAI peut implémenter ce système et créer son propre processus de modération assistée par l’IA.

De cette manière, le système est conçu pour “soulager la charge mentale d’un grand nombre de modérateurs humains”, qui peuvent s’appuyer sur GPT-4 pour filtrer le contenu. De plus, comme l’a expliqué l’entreprise, cette technologie permet un étiquetage “plus cohérent” des contenus en ligne, puisque les LLM (grands modèles linguistiques) sont plus sensibles aux différences de formulation et peuvent s’adapter plus rapidement aux mises à jour des politiques pour délivrer une “cohérence”. expérience de contenu.” En plus de tout cela, il offre une “boucle de rétroaction plus rapide” pour affiner les politiques de modération utilisées.

Pour utiliser ce système, les règles de modération souhaitées doivent d’abord être saisies dans GPT-4. Après cela, OpenAI teste le fonctionnement du système de modération avec un échantillon de contenu problématique, sur la base de ces règles préétablies.

Les décisions prises par l’IA doivent être revues par les utilisateurs modérateurs et, en cas de constatation de jugements erronés, la décision de l’IA peut être corrigée et, ainsi, formée pour effectuer une modération plus précise. “Nous pouvons répéter les étapes jusqu’à ce que nous soyons satisfaits de la qualité de la politique”, a expliqué OpenAI. Cette procédure réduit le processus de développement de la politique de contenu “de plusieurs mois à quelques heures”.

Malgré tout cela, OpenAI a souligné que, pour le moment, il existe certaines limitations dans le système. Par exemple, vous avez fait référence à d’éventuels “biais indésirables” qui auraient pu être introduits dans le modèle pendant la formation.

“Alors que nous continuons à affiner et à développer cette méthode, nous restons attachés à la transparence et continuerons à partager nos apprentissages et nos progrès avec la communauté”, a déclaré OpenAI à cet égard.