Fin mars dernier, une lettre ouverte est apparue sur les réseaux, promue par le Institut du futur de la vie, appelant à un moratoire de six mois sur les “grandes expériences d’IA”, en particulier “la formation de systèmes plus puissants que GPT-4”. L’Institut à l’origine de cette initiative est un défenseur des idées proches des approches transhumanistes et de la philosophie dite du « long-termisme », ce qui explique que la lettre contienne des propos discutables et que tous les signataires n’accepteraient pas, comme certains l’ont déjà fait. expliqué. Par exemple, lorsque vous demandez : « Devrions-nous développer des esprits non humains qui pourraient, avec le temps, nous dépasser en nombre, dépasser l’intelligence, devenir obsolètes et nous remplacer ? Devrions-nous risquer de perdre le contrôle de notre civilisation ? Cette possibilité est ce que les transhumanistes appellent “la Singularité” et sont convaincus qu’elle se produira le plus tôt possible, mais c’est une possibilité accueillie avec scepticisme par de nombreux spécialistes de l’IA, y compris des signataires de la lettre tels que Gary Marcus o Ramón López de Mántaras.
La lettre a été sévèrement critiquée dès le départ. Il y a ceux qui pensent que c’est de la pure propagande ou, au contraire, qu’elle essaie de faire peur à une technologie qui, comme toutes les technologies, même si elle éveille les soupçons au début, apportera de profonds bienfaits à l’humanité. caprices injouabilité, après tout. Ainsi, quelques jours après la publication, le 2 avril Yann LeCun, l’un des spécialistes les plus lucides et prudents de l’IA, scientifique en chef de Meta et récent prix Princesse des Asturies, a écrit sur son mur Facebook: «Ce n’est pas innocent. En amplifiant l’intelligence humaine, l’IA peut provoquer une nouvelle Renaissance, peut-être une nouvelle phase des Lumières. Mais les prophéties de destruction de l’IA engendrent également une nouvelle forme d’obscurantisme médiéval. Ce n’est pas un innocent.”
Il n’est pas nécessaire d’être d’accord avec le contenu de la lettre à cent pour cent, et encore moins de sympathiser avec les objectifs de la Institut du futur de la vie, considérer qu’elle a donné voix à une grande inquiétude suscitée en grande partie par les avancées extraordinairement rapides et incontrôlées qui ont eu lieu ces dernières années dans le domaine de l’IA. Les vrais dangers ne sont pas ceux des scénarios dystopiques à la Terminateur. Il n’y a aucune raison d’accepter que nous allons bientôt avoir des machines super-intelligentes qui vont tout prendre en main et, par malveillance ou négligence, vont mettre fin à notre espèce. Il n’est même pas nécessaire de croire que les systèmes d’IA que nous avons ont une véritable intelligence. Qu’ils soient intelligents ou non, ils ont déjà des conséquences inquiétantes auxquelles il faut réfléchir.
On voit des exemples très troublants de la façon dont, avec leur aide, de fausses nouvelles peuvent être créées très facilement et de manière réaliste, avec des images et des vidéos incluses, capables de tromper les plus aguerris. La prolifération de ce type d’information pourrait engendrer une crise de crédibilité des médias d’information et contribuer de manière significative à la polarisation et à l’instabilité politique, fragilisant ainsi les fondements de la coexistence démocratique.
Un exemple particulièrement significatif est celui des systèmes de reconnaissance faciale. En Chine et en Russie, ils sont utilisés pour contrôler les dissidents politiques. La société chinoise Haiwei fournit une technologie de surveillance intelligente à plus de cinquante pays. Comme il le souligne Stéphanie Lièvre dans son livre La technologie n’est pas neutre“en Russie, les autorités ont utilisé le réseau de caméras de reconnaissance faciale de Moscou pour identifier et détenir les personnes participant à des manifestations en faveur de Alexeï Navalny. […] Certaines des personnes arrêtées sont des journalistes qui ont assisté aux manifestations à titre professionnel, et les autorités enquêtent également sur des avocats et des médecins qui ont fourni une assistance professionnelle aux militants de l’opposition.”
Bien que le danger pour le citoyen soit évidemment beaucoup plus grand dans les sociétés dirigées par des régimes autoritaires, cela ne signifie pas que les démocraties avancées sont exemptes de danger. Dans le même livre, on nous parle par exemple de la situation en Grande-Bretagne, où les centres commerciaux, les mairies et même la police métropolitaine utilisent ces systèmes.
Dans les instances dirigeantes de l’Union européenne, il existe une conviction de plus en plus répandue selon laquelle l’utilisation indiscriminée des systèmes de reconnaissance faciale dans les lieux publics, même à des fins policières, doit être interdite. La proposition de règlement du Parlement européen et du Conseil sur l’harmonisation de l’intelligence artificielle, publiée en 2021, établissait déjà que les données biométriques ne peuvent être obtenues sans le consentement des personnes, qui doivent toujours en être informées. Et plus récemment, le document intitulé “Lignes directrices sur l’utilisation de la technologie de reconnaissance faciale dans le domaine de l’application de la loi”, publié en 2022, établit dans ses conclusions que “l’identification biométrique à distance des personnes dans les espaces accessibles au public présente un risque élevé d’intrusion dans la vie privée des gens et n’a pas sa place dans une société démocratique car, de par sa nature, il implique une surveillance de masse.” Le document recommande son interdiction totale.
A tout cela, ajoutons la perte de vie privée due à l’utilisation commerciale et même politique (rappelez-vous le scandale Facebook et Cambridge Analytica) que les entreprises technologiques font de nos données. Ces entreprises accumulent tellement de pouvoir qu’elles influencent fortement les décisions de nombreux pays et peuvent éviter de payer des impôts, augmentant ainsi leurs bénéfices. Ajoutons également l’utilisation militaire de l’IA dans les armes autonomes. Ou le poids que les décisions prises par les systèmes d’IA ont dans la vie de plus en plus de personnes, par exemple, lorsqu’il s’agit d’être sélectionné pour un emploi ou de leur accorder un prêt immobilier. De graves préjugés sexistes et raciaux ont été trouvés dans ces systèmes, ce qui a conduit à des situations d’injustice et même détruit des vies, comme il l’a très bien expliqué. Cathy O’Neil dans son livre “Armes de destruction mathématique”. Ajoutons les utilisations frauduleuses de l’IA dans la finance ou pour la commission de délits de droit commun, etc.
Il est extrêmement peu probable que le moratoire demandé dans la lettre ouverte soit respecté. Les intérêts opposés sont très puissants. Il est difficile pour les entreprises nord-américaines d’arrêter de faire des recherches sur l’IA alors que leur principal concurrent, la Chine, ne le fera pas. Je suppose que la plupart des signataires de la lettre le savent bien. Mais ce qui est important, c’est que nous avons attiré l’attention du grand public et des politiciens (généralement très mal informés) sur les risques importants auxquels nous sommes confrontés, qui appellent une plus grande prise en compte de la gouvernance de l’IA et du travail réglementaire. Vous devez mettre des portes sur le terrain (vous pouvez). Et cela n’implique pas du tout de renoncer aux effets bénéfiques de l’IA.
