La fin possible de l’histoire humaine – Santé et médecine

Yuval Noah Harari. Historien.

La peur de l’intelligence artificielle hante l’humanité depuis l’aube de l’ère informatique. Jusqu’à présent, ces craintes étaient centrées sur des machines utilisant des moyens physiques pour tuer, asservir ou remplacer des personnes. Cependant, au cours des deux dernières années, de nouveaux outils d’intelligence artificielle sont apparus qui menacent la survie de la civilisation humaine sous un angle inattendu. L’intelligence artificielle a acquis des capacités remarquables pour manipuler et générer le langage, qu’il s’agisse de mots, de sons ou d’images. Et ce faisant, vous avez piraté le système d’exploitation de notre civilisation.

La langue est l’étoffe dont presque toute la culture humaine est faite. Les droits de l’homme, par exemple, ne sont pas inscrits dans notre ADN. Ce sont plutôt des artefacts culturels que nous créons en construisant des histoires et en écrivant des lois. Les dieux ne sont pas des réalités physiques. Ce sont plutôt des artefacts culturels que nous créons en inventant des mythes et en composant des écritures sacrées.

L’argent est aussi un artefact culturel. Les billets de banque ne sont rien de plus que des morceaux de papier de couleur ; Aujourd’hui, plus de 90 % de l’argent n’est même pas constitué de billets de banque, mais uniquement d’informations numériques stockées dans des ordinateurs. Ce qui donne de la valeur à l’argent, ce sont les histoires que les banquiers, les ministres des finances et les gourous de la crypto-monnaie nous racontent à ce sujet. Sam Bankman-Fried, Elizabeth Holmes et Bernie Madoff n’étaient pas particulièrement doués pour créer de la valeur réelle, mais ils étaient tous des conteurs remarquablement qualifiés.

Que se passera-t-il lorsqu’une intelligence non humaine sera meilleure que l’être humain moyen pour raconter des histoires, composer des mélodies, dessiner des images et écrire des lois et des écritures ? Quand on pense à ChatGPT et à d’autres nouveaux outils similaires, on pense aux écoliers utilisant l’intelligence artificielle pour composer leurs essais. Qu’adviendra-t-il du système scolaire lorsque les jeunes feront cela? En fait, ce genre de question passe à côté de la vue d’ensemble. Oublions les salles de rédaction des écoles. Considérez la prochaine élection présidentielle américaine de 2024 et essayez d’imaginer l’impact sur eux des outils d’intelligence artificielle, qui sont susceptibles d’être utilisés pour produire en masse du contenu politique, de fausses nouvelles et des scripts pour de nouvelles sectes.

Ces dernières années, le culte QAnon s’est regroupé en ligne autour de messages anonymes connus sous le nom de “Q-pills”. Ses disciples collectionnent, vénèrent et interprètent ces “pilules” comme s’il s’agissait d’un texte sacré. Autant que nous le sachions, toutes les “pilules Q” précédentes ont été composées par des humains et des robots viennent de les diffuser, mais à l’avenir, nous pourrions voir les premiers cultes de l’histoire dont les textes vénérés auront été écrits par une intelligence non humaine. . Les religions ont soutenu à travers l’histoire que leurs livres sacrés provenaient d’une source non humaine. Cela pourrait bientôt devenir réalité.

À un niveau plus prosaïque, nous pourrions bientôt nous retrouver à discuter longuement en ligne de l’avortement, du changement climatique ou de l’invasion russe de l’Ukraine avec des entités que nous pensons être des êtres humains, mais qui sont en réalité des intelligences artificielles. Le problème est qu’il est totalement inutile de passer du temps à essayer de changer les opinions d’un bot IA, alors que l’IA peut affiner les messages si précisément qu’elle aura de bonnes chances de nous influencer.

Grâce à leur maîtrise du langage, les intelligences artificielles pourraient même nouer des relations très étroites avec les gens et utiliser le pouvoir fourni par cette proximité pour modifier nos opinions et nos visions du monde. Bien que rien n’indique que les intelligences artificielles aient une conscience ou des sentiments propres, il leur suffira de les faire se sentir affectivement attachés à elles pour favoriser une fausse intimité avec les humains. En juin 2022, Blake Lemoine, un ingénieur de Google, a annoncé que le chatbot d’intelligence artificielle LaMDA sur lequel il travaillait avait pris conscience. La réclamation controversée lui a coûté son emploi. Le plus intéressant dans cet épisode n’était pas la déclaration de Lemoine, probablement fausse. C’était plutôt sa volonté de risquer son travail lucratif pour défendre le chatbot IA. Si l’intelligence artificielle peut influencer les gens et les amener à mettre leur emploi en danger, que peut-elle les inciter à faire d’autre ?

Dans une bataille politique des cœurs et des esprits, la vie privée est l’arme la plus efficace, et l’intelligence artificielle vient d’acquérir la capacité d’établir massivement des relations très étroites avec des millions de personnes. Nous savons tous qu’au cours de la dernière décennie, les réseaux sociaux sont devenus un champ de bataille pour le contrôle de l’attention humaine. Avec la prochaine génération d’intelligence artificielle, les premières lignes passent des soins à la vie privée. Qu’adviendra-t-il de la société humaine et de la psychologie lorsque l’intelligence artificielle combattra l’intelligence artificielle dans une bataille pour simuler des relations très étroites avec nous, relations qui peuvent ensuite être utilisées pour nous convaincre de voter pour certains politiciens ou d’acheter certains produits ?

Même sans créer de « fausse vie privée », les nouveaux outils d’intelligence artificielle auront une immense influence sur nos opinions et nos conceptions du monde. Les gens pourraient éventuellement utiliser un seul conseiller en intelligence artificielle comme oracle universel omniscient. Pas étonnant que Google soit terrifié. Pourquoi s’embêter à chercher, quand je peux demander à l’oracle ? Les secteurs du journalisme et de la publicité devraient également être terrifiés. Pourquoi lire un journal si je peux demander à l’oracle de me dire quelles sont les dernières nouvelles ? Et à quoi servent les publicités si je peux demander à l’oracle de me dire quoi acheter ?

Dans tous les cas, même ces scénarios ne fournissent pas une vue d’ensemble. Ce dont nous parlons en réalité, c’est de la possible fin de l’histoire humaine. Pas la fin de l’histoire, juste la fin de sa partie dominée par l’homme. L’histoire est l’interaction entre la biologie et la culture ; entre les besoins biologiques et les désirs de choses comme la nourriture et le sexe, et les créations culturelles comme les religions et les lois. L’histoire est le processus par lequel les lois et les religions façonnent la nourriture et le sexe.

Qu’adviendra-t-il du cours de l’histoire lorsque l’intelligence artificielle s’emparera de la culture et commencera à produire des histoires, des mélodies, des lois et des religions ? Des outils antérieurs, tels que l’imprimerie et la radio, ont aidé à diffuser les idées culturelles des humains, mais n’ont jamais créé d’idées culturelles propres. L’intelligence artificielle est en tout point différente. L’intelligence artificielle peut créer des idées complètement nouvelles, une culture complètement nouvelle.

Au départ, il est susceptible d’imiter les prototypes humains avec lesquels il s’est entraîné à ses débuts. Cependant, au fil des années, la culture de l’intelligence artificielle osera s’aventurer sur des terres jamais foulées par l’homme. Pendant des millénaires, les humains ont vécu dans les rêves d’autres humains. Dans les décennies à venir, nous pourrions nous retrouver à vivre dans les rêves d’un xénointelligence.

La peur de l’intelligence artificielle ne hante l’humanité que depuis quelques décennies. Cependant, les êtres humains sont hantés par une peur bien plus profonde depuis des millénaires. Nous avons toujours apprécié le pouvoir des histoires et des images pour manipuler l’esprit et créer des illusions. Par conséquent, depuis les temps anciens, les humains ont peur d’être piégés dans un monde d’illusions.

Au 17ème siècle, René Descartes craignait qu’un démon malveillant ne l’ait piégé dans un monde d’illusions et ait créé tout ce qu’il voyait et entendait. Dans la Grèce antique, Platon racontait la célèbre allégorie de la grotte dans laquelle un groupe de personnes passe toute leur vie enchaîné à l’intérieur d’une grotte devant un mur vide. Écran. Sur cet écran, ils voient projetées diverses ombres. Les prisonniers confondent les illusions qu’ils voient en elle avec la réalité.

Dans l’Inde ancienne, les sages du bouddhisme et de l’hindouisme affirmaient que les êtres humains vivaient piégés dans maya, le monde des illusions. Souvent, ce que nous avons tendance à prendre pour la réalité ne sont rien de plus que des fictions de notre propre esprit. Les gens peuvent faire la guerre, en tuer d’autres et accepter d’être tués parce qu’ils croient en telle ou telle illusion.

La révolution de l’intelligence artificielle nous confronte au démon de Descartes, à la caverne de Platon et à Maya. Si nous n’y prenons pas garde, nous pourrions nous retrouver piégés derrière un voile d’illusions que nous serions incapables de déchirer… ni même de réaliser son existence. Bien sûr, le nouveau pouvoir de l’intelligence artificielle peut également être utilisé à des fins positives. Je n’insisterai pas sur cet aspect, car ceux qui développent l’intelligence artificielle en parlent déjà assez. La tâche des historiens et des philosophes comme moi est de signaler les dangers. Pourtant, il ne fait aucun doute que l’intelligence artificielle peut nous aider d’innombrables façons, de la recherche de nouveaux remèdes contre le cancer à la découverte de solutions à la crise écologique. La question à laquelle nous sommes confrontés est de savoir comment garantir que les nouveaux outils de l’intelligence artificielle sont utilisés pour le bien et non pour le mal. Pour ce faire, nous devons d’abord comprendre les véritables capacités de ces outils.

Depuis 1945, nous savions que la technologie nucléaire pouvait générer de l’énergie bon marché à notre profit ; mais aussi qu’il pourrait physiquement détruire notre civilisation. C’est pourquoi nous avons complètement refondu l’ordre international afin de protéger l’humanité et de veiller à ce que la technologie nucléaire soit avant tout utilisée pour le bien. .

Nous avons encore le temps de réglementer les nouveaux outils d’intelligence artificielle, mais nous devons agir rapidement. Les armes nucléaires ne peuvent pas inventer des armes nucléaires plus puissantes, mais l’intelligence artificielle peut créer une intelligence artificielle exponentiellement plus puissante. La première étape cruciale consiste à exiger des contrôles de sécurité rigoureux avant que de puissants outils d’IA ne soient rendus publics. Tout comme une société pharmaceutique ne peut pas lancer de nouveaux médicaments sans les tester d’abord pour les effets secondaires à court et à long terme, les entreprises technologiques ne devraient pas lancer de nouveaux outils d’IA sans s’assurer d’abord qu’ils sont sûrs. Nous avons besoin, dans le cas des nouvelles technologies, d’un équivalent de la Food and Drug Administration des États-Unis, et nous en avions besoin hier.

L’arrêt du déploiement public de l’intelligence artificielle ne va-t-il pas faire perdre du terrain aux démocraties au profit de régimes autoritaires moins scrupuleux ? Tout le contraire. Ce sont les déploiements non réglementés de l’intelligence artificielle qui créeront un chaos social qui profitera aux autocrates et détruira les démocraties. La démocratie est une conversation, et les conversations sont basées sur la langue. Si l’intelligence artificielle pirate le langage, elle détruira notre capacité à avoir des conversations significatives et détruira ainsi la démocratie.

Nous venons de tomber sur un xénointelligence, ici sur la terre. Nous n’en savons pas grand-chose, sauf qu’il pourrait détruire notre civilisation. Nous devons mettre fin au déploiement irresponsable des outils d’IA dans le domaine public et réglementer l’IA avant qu’elle ne nous réglemente. Et la première réglementation que je propose est qu’il est obligatoire pour une intelligence artificielle de révéler qu’elle est une intelligence artificielle. Si j’ai une conversation avec quelqu’un et que je ne peux pas dire si c’est un humain ou une intelligence artificielle, la démocratie est finie.

Ce texte a été généré par un humain.

Ou peut être pas?

Que se passera-t-il lorsque l’IA prendra le contrôle de la culture et commencera à produire des histoires, des mélodies, des lois et des religions ?

La question est de s’assurer que les nouveaux outils sont utilisés pour le bien et non pour le mal.

En maîtrisant le langage, l’IA a piraté le système d’exploitation de notre civilisation

Nous pourrions avoir un seul conseiller en intelligence artificielle comme oracle universel omniscient