A présent, vous l’aurez vu. Le pape François traverse le cadre, se concentrant sur la mi-distance. Il est brillamment éclairé comme s’il était tôt le matin. Une croix argentée pend à son cou, suspendue au-dessus de sa doudoune blanche comme neige inspirée de Balenciaga. C’est l’évêque baller, le père steezy, sa sainte goutte d’eau – et il a été ordonné d’en haut.
Si vous étiez sur les réseaux sociaux à tout moment au cours du week-end dernier, vous auriez vu l’image. Et – si vous étiez comme moi et apparemment des millions d’autres personnes – vous n’avez pas immédiatement réalisé que c’était généré par l’IA.
Dans les livres d’histoire, cela diminuera probablement car c’est la première fois que le public a été trompé en masse par une image générée par l’IA. Mais ce n’est que le début, un marqueur des temps à venir.
La montée en puissance du pape de l’IA
L’image a d’abord atteint le public dans un sens réel sur Twitter, avec ce tweet en particulier largement partagé :
OKAYYYY pic.twitter.com/MliHsksX7L
— Léon (@skyferrori) 25 mars 2023
L’image elle-même a été créée par un utilisateur de Reddit (interviewé par Buzzfeed ici) et posté à le sous-reddit Midjourney vendredi, ainsi que trois autres images que le générateur d’images piloté par l’IA a créées à partir de l’invite.
Ensuite, cela s’est détraqué de cette manière particulièrement en ligne; les mèmes coulent, les gens partagent l’image avec des commentaires comme “le pape lance une pipe avec une vraie énergie fuccboi” – et, bien sûr, des personnes utilisant Photoshop dans toute la mesure de ses puissants pouvoirs :
Portez-vous le…
“Parka matelassée papale? Oui. Je le suis.” pic.twitter.com/59corwNlCe
– Nick (@nicktotin) 25 mars 2023
Ce n’est que plus tard au cours du week-end que de nombreuses personnes qui avaient vu ou partagé la fausse photo du pape ont réalisé qu’elle était générée par l’IA. Dans certains sens, il n’est pas difficile de repérer un ordinateur derrière l’image.
Le fait est que lorsque vous parcourez des milliers d’images et de vidéos sur les réseaux sociaux, ces petits détails passent facilement inaperçus. Disons-le de cette façon : si nous devions nous asseoir et analyser chaque image unique qui est apparue sur nos flux, nous n’aurions jamais rien fait.
Une hallucination de masse
Nous nous rapprochons de plus en plus d’un point d’inflexion ces derniers temps, en grande partie à cause de le lancement de Midjourney version cinq. En fait, nous étions proches du public croyant qu’une image générée par l’IA est réelle avec des photos de Trump arrêté. Heureusement, le fait qu’ils aient semblé clairement faux – ainsi que le manque de reportages correspondants sur l’incident – signifiait que la majorité des gens n’étaient pas dupes à première vue.
Mais le pape de l’IA a changé tout cela.
Ce moment a mis du temps à venir – et il n’est pas surprenant que ce soit une célébrité ou une personnalité publique qui nous ait fait atteindre ce point d’inflexion. Comme l’a souligné le journaliste Ryan Broderick sur Twitter, une explication possible de cette image en particulier qui se répand comme une traînée de poudre est que “le pape existe esthétiquement dans la même vallée étrange que la plupart des arts de l’IA”. Cela fait de la bizarrerie une partie inhérente de son caractère public, ce qui signifie que ces images générées par l’IA peuvent passer plus facilement nos détecteurs de conneries.
Je pense que ça va encore plus loin que ça. Considérez simplement la surréalité croissante de ces dernières années. Imaginez la photo de Trump à la Maison Blanche, rayonnant devant des tas de fast-food avec un sombre portrait d’Abraham Lincoln derrière lui. Ou celui de le chaman des émeutes de la capitaleun homme coiffé d’un chapeau à cornes et le visage maquillé, gambadant au cœur de la politique américaine.
Trump, qui ne sait même pas épeler hamburger, a invité les Clemson Tigers à la Maison Blanche et leur a servi Wendy’s, McDonalds et Burger King. ????
Maintenant, l’administration Trump essaie de blâmer les démocrates pour leur mauvaise décision : pic.twitter.com/3tYQaIOeXu
— Complexe (@Complex) 15 janvier 2019
Rétrospectivement, qu’est-ce qui semble le plus probable ? Le pape portant une veste élégante ou le président des États-Unis servant McDonald’s dans une salle de réception historique ? C’est difficile à dire, car la société elle-même est devenue de plus en plus incertaine, la vérité et la normalité de plus en plus abstraites.
Entrer dans l’hyperréalité
Les photos du pape avec un goutte à goutte immaculée sont globalement inoffensives, le pire résultat étant que certaines personnes pensent l’église catholique et l’homme qui une fois signé une Lamborghini sont matérialistes ou obsédés par l’argent. Mais si nous appliquons la même croyance massive d’une fausse image à quelque chose comme la politique, les choses peuvent se dégrader rapidement.
Les images générées par l’IA seraient déjà assez mauvaises en période de dignité politique relative, mais nous vivons actuellement ce que certains évoquent comme une ère post-vérité, où de nombreux politiciens et stations d’information mentent tout simplement.
Non seulement est la confiance du public dans les gouvernements à des niveaux historiquement bas, mais cela est aggravé par une population vieillissante dans le monde occidental. De nombreuses personnes âgées ont du mal à utiliser leur téléphone, et encore moins à séparer les images générées par l’IA des images véridiques.
Nous allons, à toutes fins utiles, plus loin dans l’hyperréalité, un concept nommé par Jean Baudrillard. C’est un concept où le réel et l’artificiel se confondent, devenant indiscernables l’un de l’autre. Cela a un impact sur tout, de mode pour l’esthétique des images AI elles-mêmes.
Disons-le en termes plus concrets. Midjourney v5 et les communautés en ligne diffusent déjà des images aux confins de la réalité, créant des scénarios qui n’existaient pas. La qualité historique de ces photos mine davantage notre propre capacité à séparer les faits de la fiction.
Quelque chose de sauvage se passe sur le subreddit Midjourney.
Les gens racontent des histoires et partagent des photos d’événements historiques – comme le tremblement de terre “Great Cascadia” qui a dévasté l’Oregon en 2001.
Le botteur ? Ce n’est jamais arrivé. Les images sont générées par l’IA. pic.twitter.com/2ziHJYsTDK
– Justine Moore (@venturetwins) 26 mars 2023
Et il ne faut pas un grand esprit d’analyse pour considérer quelles images réalistes de, disons, l’alunissage étant mis en scène pourrait avoir sur la population en général.
L’influence de l’hyperréalité ne signifie pas seulement que des choses sont créées, son influence peut aussi aller dans l’autre sens.
Pensez aux photos de Boris Johnson debout devant un bus déclarant à tort que le Royaume-Uni disposera de 350 millions de livres sterling supplémentaires pour financer le NHS après avoir quitté l’UE. Considérant l’état sombre de la Grande-Bretagne moderne, les pénuries alimentaires et l’inflation galopantecela semble irréel, presque généré par l’IA.
Et qu’est-ce qui empêche les politiciens de prétendre que c’est exactement ce que c’est ? Personne n’aurait pu se tromper à ce point ? Ce doit être l’IA. Un faux. Une image générée colportée par ceux qui ne peuvent accepter la gloire sans entraves d’un Royaume-Uni enfin libre ?
Penser petit pour agir grand
Ici, nous arrivons au point crucial : que peut-on faire pour lutter contre cette marche insidieuse des images générées par l’IA dans une société non préparée ? La partie inquiétante est que personne ne le sait vraiment.
Il y a deux ans, il aurait été impossible de prédire qu’une image du pape générée par l’IA allait secouer la société, ou que l’audio trafiqué de Biden et Trump parlent de jeux de manière amusante déchirerait Internet.
Oui, l’UE et le Royaume-Uni ont été actifs dans essayer de créer une législation sur l’IA, mais même les meilleures règles seront en retard par rapport au rythme croissant de la technologie. Cela ne signifie pas que ces règles doivent être abandonnées, simplement qu’il faut en faire davantage pour les contourner.
Les études sur les médias – autrefois considérées comme un sujet “doss” – sont maintenant plus importantes que jamais. En cette ère de désinformation généralisée, être capable d’analyser le passage de l’information est une compétence essentielle. Celle-ci doit être prolongée.
Dans un monde de génération d’IA, nous devons apprendre aux gens comment ces systèmes fonctionnent, comment vérifier les images trafiquées, la valeur des sources et les méthodes de base pour trouver l’approximation la plus proche de la vérité. Ce type d’études sur les médias informées par l’IA devrait être déployé non seulement dans toutes les écoles d’Europe, mais proposé à tous les âges.
Une autre voie qui, à mon avis, est vitale dans cette ère d’hyperréalité à venir est l’action locale. En tant qu’êtres humains, nous sommes conçus pour fonctionner en petits groupes. C’est l’une des raisons pour lesquelles le cycle de l’actualité est si anxiogène ; nous ne sommes tout simplement pas faits pour prendre en charge les problèmes du monde entier.
Au fur et à mesure que l’IA se répandra, il sera plus difficile d’obtenir une image précise du monde au sens large. Mais ce que nous pouvons comprendre, c’est ce qui nous entoure directement.
Les clivages politiques peuvent rapidement disparaître lorsqu’un trou dans la route doit être réparé ou qu’une école doit lever des fonds. Dans ces situations, vous avez affaire à des personnes vivantes et respirantes qui sont attachées à une communauté, plutôt qu’à une masse en ligne sans visage. Dans un monde d’hyperréalité, conserver les aspects que nous savons être vrais peut aider à passer à travers les conneries.
Comme le dit l’expression : penser global, agir local. Si – parallèlement à l’éducation et à la législation sur l’IA – nous cherchons à résoudre les problèmes locaux en gardant un œil sur les problèmes mondiaux, l’essor de ce type de technologie peut se produire sans transformer la société en une sorte de bouillie. Enfer, peut-être que des générateurs d’IA de toutes sortes pourraient être utilisés pour des activités amusantes et inoffensives.
Mais si nous permettons à cette technologie de nous entraîner dans une hyperréalité complète sans prendre les précautions appropriées, alors qui sait ce qui pourrait arriver – mais je n’ai pas grand espoir que ce soit bon.
Et tout cela parce que quelqu’un a mis le pape dans une veste dégoulinante.
