Photo de : Medium
Technologie.id – Les utilisateurs d’intelligence artificielle (IA) doivent utiliser ChatGPT à bon escient, OpenAI commence à se préparer filigrane et un système de détection de texte créé par ChatGPT.
Dans un rapport du Wall Street Journal rédigé dimanche (4/8), la société OpenAI a développé un système qui peut fournir filigrane sur les œuvres écrites créées via ChatGPT.
Filigrane ChatGPT fonctionne de la même manière que filigrane que l’on retrouve souvent dans des images ou des photos appartenant à une personne ou une entreprise. Cette marque est la preuve que le travail écrit répertorié est le résultat de ChatGPT.
À travers filigrane, OpenAI se concentre uniquement sur la détection des publications de ChatGPT. Il y a une petite différence par rapport à ChatGPT dans le choix des mots à créer filigrane invisible qui peut ensuite être détecté par un outil distinct.
A lire aussi : Microsoft qualifie OpenAI de « concurrent » dans le dernier rapport de la SEC
OpenAI lui-même envisage toujours de lancer la fonctionnalité filigrane. En dehors de cela, cette méthode présente des avantages et des inconvénients de la part de diverses parties.
Citant TechCrunch, un représentant d’OpenAI a reconnu qu’il existait des risques importants pour le système. filigrane le.
«La méthode de tatouage de texte que nous développons est techniquement prometteuse, mais elle comporte des risques importants que nous évaluons pendant que nous recherchons des alternatives, notamment la susceptibilité au contournement par de mauvais acteurs et le potentiel d’impact disproportionné sur des groupes comme les non-anglophones.“
(Donnant filigrane Le texte que nous avons élaboré est techniquement prometteur, mais comporte des risques importants que nous prenons en compte dans notre recherche d’alternatives, notamment la vulnérabilité à la fraude criminelle et un impact disproportionné sur des groupes tels que les locuteurs de langues étrangères.)
Cependant, le côté positif du don filigrane non moins important. Grâce au billet de blog d’OpenAI publié en mai sur la recherche liée à la détection de contenu, filigrane s’est avéré très précis et efficace contre les contrefaçons, y compris la paraphrase. Cependant, son utilité n’est pas très significative dans les contrefaçons plus importantes, comme l’utilisation de systèmes de traduction, la conversion de mots avec d’autres modèles génératifs ou la demande au modèle d’insérer des caractères spéciaux entre chaque mot, puis de supprimer ces caractères.
La conclusion donnée par OpenAI est que cette méthode est facilement évitée par les criminels.
A lire aussi : La société mère de ChatGPT, OpenAI, devrait être menacée de faillite cette année
En plus filigrane, OpenAI a également développé diverses recherches pour détecter le texte de l’IA. Le système fonctionne séparément, ce qui peut détecter l’écriture de l’IA avec filigrane.
Les recherches futures constituent une autre solution pour identifier les textes d’IA grâce à la classification et aux métadonnées. Ce système utilise un algorithme capable de détecter des modèles à partir du texte généré par l’IA. Grâce aux métadonnées, ChatGPT peut également fournir des informations sur l’origine du texte dans un fichier donné.
OpenAI choisit d’être prudent dans la prise de décisions concernant le lancement d’un système capable de détecter l’écriture de l’IA avec la complexité impliquée et l’impact possible sur l’écosystème plus large en dehors d’OpenAI.
Lisez d’autres nouvelles et articles sur Actualités de Google
2024-08-06 12:18:36
1722937379
#Évitez #tricher #OpenAI #prépare #une #fonctionnalité #filigrane
