Yuval Harari à Lisbonne : l’IA pourrait être « le T-rex » qui « détruira la démocratie » | Humanité

Non, l’intelligence artificielle (IA) n’est pas une technologie comme les autres qui ont émergé au cours de l’histoire et qui ont également suscité des appréhensions. Les journaux, la radio et la télévision ne peuvent pas générer de fausses nouvelles sans qu’un être humain les écrive et “la bombe atomique ne peut pas décider quelle ville détruire”, mais l’IA “est la première technologie qui peut prendre des décisions par elle-même”. Dès lors, il est urgent que les gouvernements la réglementent, a prévenu l’historien israélien Yuval Noah Harari ce vendredi, à Estufa Fria, à Lisbonne.

Lors de la conférence qu’il a donnée, L’humanité, ce n’est pas si simple, organisé par la Fondation Francisco Manuel dos Santos, le professeur d’Histoire mondiale à l’Université hébraïque de Jérusalem a commencé par rappeler une de ses idées récurrentes. « Maintenant, nous sommes presque comme Dieu, en termes de pouvoirs de création et de destruction. Nous avons le pouvoir de créer une nouvelle vie, mais aussi de la détruire”, a-t-il défendu. L’être humain fait face à deux effondrements potentiels : le climatique et le technologique.

C’est dans cette seconde que s’est concentré le penseur, qui a critiqué le développement accéléré de l’IA. Avec une pointe d’espoir : “Si nous coopérons, nous pouvons faire face au changement climatique et à l’IA.”

Le défi est énorme, notamment parce que « nous n’avons encore rien vu » en termes de véritables capacités de l’IA. Il a eu recours à une image : si “l’évolution de la vie sur Terre a pris 4000 millions d’années”, l’IA prendra “quelques décennies ou années”, bien moins de temps que beaucoup, dont lui, l’avaient prédit. Si ChatGPT équivaut aux “amibes du monde de l’IA, à quoi ressemblera le T-rex ?”, a-t-il demandé.

« L’IA se développe trop rapidement. C’est l’obligation des gouvernements de la ralentir », a-t-il demandé. Arrêter ou réguler le développement de cette technologie « n’arrivera pas », mais il voit une voie à suivre. “Ce que j’attends des gouvernements, c’est qu’ils réglementent l’implantation de l’IA dans les sociétés”, en imposant des règles de sécurité similaires à ce qui se passe, par exemple, dans l’industrie automobile.

Yuval Harari a même avancé avec une proposition : “Illégaliser la contrefaçon d’êtres humains”, comme pour l’argent. Si une telle loi était adoptée, l’intelligence artificielle ne pourrait pas se faire passer pour un humain, elle devrait avertir l’utilisateur qu’il « parle » à une machine. De cette façon, les risques de manipulation de masse seraient réduits. Des lois comme celle-ci sont nécessaires parce que « la technologie ne va pas s’autoréguler ». Pourtant, “au lieu d’être unis” face à ces menaces “nous sommes de plus en plus divisés”.

L’affaire est très grave, a-t-il insisté. L’intelligence artificielle peut « détruire la conversation commune » entre les humains, qui est essentielle pour la démocratie. « La conversation se fait avec le langage » et se fonde sur la « confiance ». Sans régulation, l’IA va saper cette confiance : comment savoir si l’on a une discussion – à propos de l’homme politique qu’on veut élire, par exemple – avec une machine ou un humain ? “La démocratie est une conversation entre les gens”, pas entre robots et les gens, a-t-il résumé.

Nous avons déjà un échantillon de cette corrosion démocratique dans la « polarisation » promue par les algorithmes des médias sociaux, qui diffusent de fausses nouvelles. Maintenant, c’est “l’intelligence artificielle très primitive”. C’est déjà beaucoup plus sophistiqué : il peut “créer la fausse histoire ou la fausse vidéo par lui-même”. Il conclut : “Si nous ne réglementons pas cela, les chances de survie des démocraties sont très faibles.”

Sapiens je suis stressé

l’auteur de Sapiens : une brève histoire de l’humanité (2013) craint les effets de l’IA et d’un monde de plus en plus numérique sur les nouvelles générations. “Nous n’avons aucune idée de ce que cela va donner en termes d’éducation dans 10 ou 20 ans.”

Pas contre la technologie – a rencontré son mari en ligne et remercie Internet de faciliter la vie d’un homosexuel dans une société conservatrice comme celle dans laquelle il a grandi. Mais Internet vous a permis de rencontrer quelqu’un en chair et en os, pas un avatar, pas de simples pixels sur un écran. « Nous sommes des êtres dans des corps », mais les nouvelles générations pourront vivre une société dématérialisée, dans laquelle nous serons peut-être tentés de vivre hors du corps, presque à 100 % en lignepas “métavers”.

Il estime que cette révolution technologique permanente génère du stress et que « nous sommes proches du moment où nous n’en pouvons plus ». Il faut « ralentir », sous peine de « s’effondrer psychologiquement ».

Qu’est-ce qui rend Yuval Noah Harari optimiste ? « Les humains ont encore une énorme capacité de changement. Nous avons un immense potentiel dont nous ne sommes même pas conscients. L’évolution de l’IA peut nous faire perdre une grande partie de notre potentiel sans même savoir que nous l’avons perdu. Nous sommes loin de notre plein potentiel. Si nous investissions chaque euro et chaque minute que nous investissons dans l’IA dans nos esprits et nos consciences, tout irait bien. Mais la structure des incitations dans notre société et notre économie nous emmène dans la mauvaise direction.