Le côté fou de ChatGPT

Le fait que nous puissions visiter Internet sans devenir fou leur revient : les modérateurs de contenu qui passent au crible les contenus brutaux, inhumains, excessivement haineux, racistes et généralement illégaux, les marquent et les suppriment (ou les font supprimer). Les grandes plateformes de médias sociaux les utilisent depuis longtemps, souvent dans des pays à bas salaires. Il existe également des emplois similaires dans le domaine de l’IA générative. Parce que les gens vérifient à nouveau certaines des données pour les grands modèles de langage comme Bard ou ChatGPT. Cette rétroaction des gens fait partie du processus d’apprentissage et rend les programmes si “intelligents” qu’ils paraissent humains à leurs utilisateurs.

Cette recherche montre que dans ce domaine, les règles sur lesquelles l’industrie technologique s’appuie de manière démonstrative ne valent pas grand-chose Le journaliste Alex Kantrowitz dans sa newsletter Grande technologie. Il s’est entretenu avec le Kenyan Richard Mathenge, qui était l’un des examinateurs travaillant pour le compte d’OpenAI : il a examiné l’ensemble de données pour ChatGPT et a filtré les éléments désagréables. Kantrowitz ne fait que faire allusion aux choses que Mathenge et son peuple ont dû examiner. C’est assez.

L’histoire que Kantrowitz déterre semble effroyablement familière et est tout aussi importante : délocalisation vers les pays pauvres, mauvais salaires – et des deux côtés de l’Atlantique, tout le monde se baisse pour éviter la responsabilité des présentateurs traumatisés. Sauf que dans ce cas, il s’agit de ces personnes qui, comme des martyrs, assument tous les péchés du web juste pour que nous puissions avoir une “expérience propre” lorsque nous sortons le téléphone portable.

Le rendu sec de Kantrowitz des communications avec OpenAI et Sama, la société qui employait Mathenge au Kenya, se lit comme du kafkaïen :

Le porte-parole d’OpenAI a déclaré que l’entreprise avait demandé plus d’informations à Sama sur ses conditions de travail. Sama, a déclaré le porte-parole, a ensuite informé OpenAI qu’il quittait l’espace de modération de contenu. Sama n’a pas répondu à une demande de commentaire.

Néanmoins, Richard Mathenge est fier d’avoir travaillé sur le bot qui rend le monde fou. Des histoires comme celle-ci peuvent être si complexes.