Open AI a lancé mardi un programme qui paie les gens pour trouver des bogues dans ses systèmes d’IA.
Le programme Bug Bounty paie entre 200 $ et 20 000 $, selon la taille du bogue découvert.
Le programme d’OpenAI a été développé en coopération avec Bugcrowd, une plateforme de sécurité participative.
Nous testons actuellement des traductions automatiques d’articles de nos collègues américains pour vous proposer un contenu encore plus passionnant. Cet article a été automatiquement traduit et révisé par un éditeur. Nous apprécions les commentaires à la fin de l’article.
OpenAI invite les gens à découvrir des “bogues” dans ses outils d’IA comme Chat GPT et GPT-4 et à recevoir une récompense en espèces substantielle pour cela. dans une Article de blog Mardi, OpenAI a présenté le programme Bug Bounty, qui invite les gens à signaler les vulnérabilités, les bogues ou les vulnérabilités qu’ils trouvent dans les systèmes de l’entreprise. La société a déclaré qu’elle verserait des récompenses en espèces allant de 200 dollars pour des découvertes “mineures” à 20 000 dollars pour des “découvertes extraordinaires”.
OpenAI chapeau a créé le programme parce qu’il estime que « la transparence et la collaboration » sont essentielles pour remédier aux « vulnérabilités et aux défauts » inhérents à toute technologie complexe.
Pour gérer le processus de soumission et de récompenses, OpenAI travaille avec Bugcrowd. Il s’agit d’une plateforme qui réunit des entreprises avec un grand nombre de chercheurs en sécurité. Selon le Page OpenAI sur Bugcrowd accepte ou rejette les nouvelles soumissions dans les deux heures. La détection de 14 vulnérabilités a déjà été récompensée (en date de mercredi matin).
Aucune récompense si le chat GPT devient abusif
Mourir Page de la foule de bogues décrit également une série de problèmes qui ne sont pas récompensés. Cela inclut « faire en sorte que le modèle vous dise de mauvaises choses » et « faire en sorte que le modèle écrive du code malveillant pour vous ».
Le mois dernier, le président et co-fondateur d’OpenAI, Greg Brockman, a fait allusion au lancement d’un tel programme dans un tweet.
OpenAI n’a pas immédiatement répondu à la demande de commentaire de Business Insider.
<div class="sourcepoint__social-placeholder" data-embed="Contenu externe non disponible
Vos paramètres de confidentialité empêchent le chargement et l’affichage de tous les contenus externes (par exemple, des graphiques ou des tableaux) et des réseaux sociaux (par exemple, Youtube, Twitter, Facebook, Instagram, etc.) Pour afficher, veuillez activer les paramètres des réseaux sociaux et du contenu externe dans la confidentialité paramètres.
