Il y a quelques semaines, Clarkesworld Magazine, un magazine de science-fiction et de littérature fantastique qui publie des nouvelles, a publié un Article au cours d’une Inondation de contenu généré par l’IAqui a monté en flèche en février après la sortie de ChatGPT : “Avant fin 2022, c’était surtout du plagiat, maintenant ce sont des soumissions générées par la machine”, lit-on sur le compte Twitter du magazine.
Clarke a écrit sur son blog qu’il avait contacté des éditeurs d’autres magazines qui avaient confirmé que ce n’était pas propre à Clarkesworld et semblait être une tendance générale.
Apparemment, le lancement de ChatGPT a créé toute une scène de spam. Reuter rapporte des centaines de livres électroniques sur Amazon qui répertorient ChatGPT comme auteur ou co-auteur, y compris de nombreux livres sur ChatGPT écrits par ChatGPT. Les soumissions des lecteurs pour le magazine ont été acceptées pour le moment fermé.
Ce qui se passe aujourd’hui à Clarkesworld se passe demain avec tous les systèmes de distribution culturelle confrontés à une nouvelle forme de spam culturel synthétique. Même lorsque nous filigranons numériquement du contenu synthétique, l’édition manuelle (et vraisemblablement machine) peut facilement le détruire. Le détecteur d’IA open source GPTzero en a récemment un étude de cas qui a trouvé un taux de faux positifs de 50 %, et bien que ces approches s’améliorent, je ne suis pas sûr que le filigrane et la détection de l’IA seront jamais assez efficaces pour endiguer une marée montante de spam synthétique, dans laquelle les œuvres individuelles sont impossibles à distinguer des œuvres culturelles synthétiques des produits. La machine Voight-Kampff pour la littérature n’a pas encore été inventée.
Quelques mois plus tôt, j’avais dans mon bulletin a publié un article dans lequel je soutiens que les humains ne seraient pas submergés par un déluge de produits synthétiques, et que les œuvres fabriquées à la machine (jusqu’à présent) ont eu très peu d’impact car elles manquent tout simplement du punch émotionnel pour être convaincantes en tant qu’art. Un flot de spams d’IA ne contredit pas cela : la psyché humaine en tant que système est bien plus complexe que n’importe quelle entreprise et ses mécanismes bureaucratiques. Les gens ne sont pas facilement dupés par les histoires fluides et intermédiaires de ChatGPT, mais je doute qu’il en soit de même pour des systèmes comme GEMA ou VGWort – et les chiffres de la boutique Kindle me donnent raison : “Certes, l’intérêt des consommateurs était en sommeil jusqu’à présent : (…) les ventes s’élevaient à une dizaine d’exemplaires.”
Le modèle de base d’institutions comme GEMA ou BMI est : vous créez de la musique, la publiez et la signalez à GEMA et lorsque votre musique est jouée par un DJ, vous collectez. Alors que se passe-t-il lorsque ce DJ est remplacé par une IA générative qui génère synthétiquement la musique joue? Une nouvelle chanson, mais dans le style de Nirvana, produite à partir d’une base de données pleine d’analyses statistiques de la musique de Kurt Cobain et d’un million d’autres artistes ? Cette question est extrêmement délicate, voire impossible : si l’IA générative fournit un espace latent calculé dans lequel les utilisateurs peuvent utiliser une ingénierie rapide pour interpoler entre les chansons, qui la GEMA veut-elle payer et combien ? Comment GEMA calcule-t-il la quantité de contenu Nirvana réel contenu dans une chanson du style “Nirvana, Bongo Boys et MC Hammer” ?
L’IA générative signifie la dissolution des archives humaines de l’expression culturelle dans un espace latent explorable. Je peux former un modèle sur la structure de quelque chose, par exemple “Le repliement des molécules de protéines”, et l’IA, à partir des recherches précédentes sur le repliement des protéines, calcule un espace multidimensionnel avec toutes les solutions possibles que je peux explorer en choisissant des paramètres. Il en va de même pour la musique, l’art, les images, les films, la littérature, le coaching d’affaires, les 101 astuces marketing pour augmenter votre productivité, les offres immobilières, les demandes d’emploi, essentiellement toute forme de communication qui utilise le langage sous forme de texte, d’audio et (mouvement ) images.
Comment BMI ou GEMA ou toute autre organisation d’exploitation de droits d’auteur peut-elle sécuriser des revenus pour les créatifs lorsqu’il existe une bibliothèque stochastique et interpolable qui contient toute l’histoire de la connaissance humaine et fournit une exploration interpolative de toutes les possibilités combinatoires ?
La dissolution des archives humaines de l’expression culturelle dans des espaces latents explorables signifie également la dissolution du modèle de licence GEMA et VG Wort, qui repose sur des œuvres individuellement identifiables, puisque cette identification se brouille dans un espace latent interpolable. Le flot de spams IA de Clarkesworld SciFi Magazine en est l’un des premiers signes.
