Ada Hoffmann : « Les entreprises technologiques ont intérêt à exagérer en disant que nous avons peur de l’IA »

Lorsqu’il étudiait l’IA et sa capacité à générer de la poésie, le phénomène ChatGPT n’avait pas encore explosé.

Entre 2013 et 2018, j’ai travaillé sur ma thèse de doctorat intitulée Computational Creativity. La manière dont un ordinateur et une intelligence artificielle pourraient accomplir une tâche créative. J’ai essayé de faire en sorte que l’ordinateur génère de la poésie, mais je n’étais pas très bon dans ce domaine. Ça n’a pas marché, il a fait de la très, très mauvaise poésie. Mais ce que j’ai trouvé vraiment intéressant, et qui a finalement constitué l’essentiel de ma thèse, c’était la psychologie et la philosophie derrière une tâche comme celle-là. C’était donc quelque chose de très théorique. Eh bien, il existait déjà des systèmes destinés à créer de l’art, mais celui-ci a toujours été considéré comme un curieux jouet. Mais maintenant, tout a changé, nous sommes passés de l’analyse de l’intérêt des erreurs commises par l’ordinateur à la création de textes très similaires à un texte anglais de niveau intermédiaire. Mais, et cela a une beauté tragique, après avoir obtenu mon doctorat, tout a complètement changé, c’est presque le contraire de ce qui s’est passé lorsque j’étais aux études supérieures, car nous sommes passés de l’analyse de l’intérêt des erreurs de l’ordinateur à soudainement l’ordinateur fait un très bon travail de création de textes au niveau de l’anglais moyen. Maintenant, le problème avec ChatTGP, c’est que tout le monde veut l’utiliser, de l’industrie aux écoliers, pour faire leurs devoirs. Et ceux d’entre nous qui l’ont étudié ont constaté que nous n’avions pas vraiment réfléchi à ce qui se passerait si cette généralisation se produisait. Et dans la communauté des chercheurs, nous sommes assez déconcertés. On se dit : « Wow, peut-être que ce n’est pas vraiment bien. »

Peut-être le poésie être le plus simple à émuler en arrière-plan. Nous pardonnons si c’est décousu ou incompréhensible.

Surtout les types de poésie qui invitent le lecteur à faire un effort pour l’interpréter. Comme les haïkus, ces poèmes compacts dans lesquels le lecteur lit beaucoup de sens en quelques mots. Avec ces poèmes, ils ont eu plus de succès.

Passons non pas à l’IA du réel mais à celle de son livre. Peut-il arriver un moment de singularité, où l’IA cessera d’être un outil et deviendra une entité différente de nous, capable de collaborer, de nous concurrencer ou de nous dominer ?

Même si j’en ai parlé dans mes livres, je ne pense vraiment pas qu’il soit très probable que dans le monde réel, l’intelligence artificielle devienne une superintelligence. Je l’ai fait parce que je voulais que mes personnages soient plongés dans une dispute cosmique ou religieuse. Avec des anges qui maintiennent l’ordre et le contrôle et là-bas, le chaos primordial. Comment créer une telle religion de contrôle dans un contexte de science-fiction ? Maintenant, dans le troisième livre, j’examine un peu plus en détail comment ces dieux sont apparus à l’origine et comment les humains les ont créés, pourquoi ils les ont créés et ce qui s’est passé. Aujourd’hui, et non pas lorsque j’ai commencé à écrire ces livres, ce qui se passe, c’est qu’il existe certains très bons systèmes pour faire certaines choses. Les entreprises technologiques nous disent que nous devons être craintifs et prudents, car leur technologie deviendra super intelligente… Mais si nous voyons comment elle fonctionne, la seule chose pour laquelle elle est bonne est de reproduire les modèles qu’elle voit dans la manière dont les mots s’assemblent. Il n’a pas ce que nous appelons une « simple base », la capacité de relier ce que disent les mots à une expérience physique ou sensorielle ou de vraiment comprendre ce qu’ils signifient. Les entreprises technologiques exagèrent délibérément et demandent de l’attention, car cela leur donne plus d’argent, cela les aide à attirer les investissements de personnes qui croient vraiment qu’avec cette technologie, elles conquériront le monde. Mais ce n’est pas comme ça.

¿ChatGPT Est-ce plus qu’une simple interface en langage naturel d’un moteur de recherche ?

ChatGPT 4 four est un réseau neuronal qui a été formé sur une quantité incroyablement énorme de texte, comprenant essentiellement l’intégralité d’Internet et probablement aussi un tas de livres protégés par le droit d’auteur pour lesquels vous n’avez pas payé. Et la seule chose pour laquelle ce réseau est formé est de prédire le prochain mot qui viendra ensuite dans une séquence de mots. Prédiction statistique et réponses conversationnelles. Très doué pour donner des réponses qui semblent être une bonne réponse et qui sont correctes… mais pas toujours.

Dans la science fiction En fait, il existe une longue tradition de robots rebelles, d’ordinateurs conscients et capricieux, d’intelligences artificielles, mais pensés comme des individus, des répliques d’un esprit humain. Quelle science-fiction écrivons-nous ou serons-nous écrites compte tenu de la nouvelle vision de l’IA ?

Je ne pense pas qu’il y ait une tendance unique. Il existe encore de nombreuses façons de parler de l’IA dans la science-fiction. C’est bien d’explorer beaucoup d’idées. L’un de mes exemples actuels préférés de cette IA personnelle dont vous parlez sont les livres « Murderbot » de Martha Welles, une cyborg sarcastique qui en a assez des absurdités humaines. Mais nous nous dirigeons vers le type d’IA en réseau, quelque chose qui a commencé à apparaître sur Internet dans les années 90. Dans les années à venir, ce que j’espère sera une fiction plus engagée à expliquer comment elle affecte les valeurs humaines dans le présent et comment cela peut être extrapolé dans le futur. L’éthique de l’IA telle qu’elle existe aujourd’hui soulève des questions vraiment intéressantes : comment elle absorbe les données biaisées ou qu’arrivera-t-il aux personnes dont le travail est automatisé. Il y aura beaucoup de fiction ici dans les années à venir.

Eh bien, l’IA a également été utilisée pour trouver une manière technologiquement plausible de parler d’immortalité.

En effet. En fin de compte, dans mes livres, j’utilise l’IA pour parler de religion et de contrôle social.

Elle se définit comme non neurotypique, tout comme plusieurs de ses personnages. Pouvez-vous nous expliquer le concept ?

Ce sont des personnes dont le développement cérébral est en fait un peu différent de ce que nous appellerions le cerveau moyen. Les personnes atteintes, par exemple, d’autisme, de TDAH ou d’une autre maladie neurologique de cette nature, je ne suis pas neurotypique. J’ai reçu un diagnostic d’autisme quand j’avais 13 ans et j’aime écrire sur les personnages autistes et d’autres personnages non neurotypiques. Lorsque j’écrivais sur la façon dont mon protagoniste est confronté à l’horreur cosmique à laquelle il est confronté, je parle en réalité d’une surcharge sensorielle autistique. Il y a des gens pour qui les bruits ou les couleurs sont très intenses, alors imaginez-vous face à une horreur cosmique inconnaissable.

Il y a l’horreur cosmique, au sens le plus général de ce qu’a fait Lovecraft. Mais j’en suis à la moitié de la trilogie et pour l’instant, il n’y a pas de tentacules, on a évité son imagerie. D’autres auteurs du « new bizarre » préfèrent également que l’étrange éclate sous forme de distorsions de la réalité, comme Jeff Vandemeer, Tade Thompson, China Mieville…

Il y a des idées très intéressantes dans l’horreur cosmique. L’idée selon laquelle l’univers est si grand que nous ne pouvons pas vraiment le comprendre. Et qu’est-ce que ça fait d’être directement confronté à quelque chose que l’on ne comprend pas ? Mais les images les plus reconnaissables sont déjà devenues kitsch. Je voulais vraiment me concentrer sur l’aspect plus conceptuel, ce n’est pas forcément du calamar géant. Et imaginez un monde infecté comme métaphore de la surcharge sensorielle. Être dans un monde tellement chaotique dans lequel tant de choses se produisent en même temps et si intenses qu’il est même difficile de s’y déplacer.

Mais du cosmique, il descend jusqu’au terrestre. Il y a aussi une composante romantique. Ces deux anges, la scientifique protagoniste et son partenaire ingénieur.

Lorsque vous parlez de quelque chose de très abstrait, vous pouvez perdre la perspective, alors penser aux personnages, à leurs penchants romantiques ou à leurs liens avec d’autres personnages, vous aide à voir ce qui est en jeu dans leur vie. Il y a des choses précieuses dans la vie normale, pas seulement le destin de la galaxie.

Il y a des passages particulièrement drôles dans le livre. Les passages de chaque chapitre du catéchisme ou les histoires pour que les enfants apprennent à adorer les divines IA.

Oui, je me suis beaucoup amusé avec ces passages, je pensais plutôt aux histoires de Kipling. Et, bien sûr, ils sont un moyen d’en dire un peu plus au lecteur sur le monde.