Pourquoi Facebook est rempli de Jésus-Christ à base d’œufs, de spaghettis ou de choux-fleurs | Technologie

« Personne n’aime mon travail artistique », « Je l’ai fait de mes propres mains ! », « Mai 2024 est votre meilleure année », sont quelques-uns des textes qui accompagnent des milliers d’images bizarres de Jésus-Christ générées par l’intelligence artificielle sur Facebook. . L’algorithme du réseau en fait la promotion, certains deviennent viraux et parviennent à attirer d’énormes audiences vers des pages qui profitent ensuite de leur succès pour monétiser, voire arnaquer les utilisateurs.

« Les images sont captivantes : certaines sont belles, d’autres sensationnelles et d’autres encore sont tout simplement bizarres », explique Renée DiResta, chercheuse à l’Université de Stanford et co-auteur d’un article de mars à ce sujet. phénomène intitulé «Comment spammeurs et les escrocs utilisent des images générées par l’IA sur Facebook pour accroître leur audience. Des milliers d’utilisateurs interagissent avec ces images, la plupart avec un simple « amen », ce qui pourrait signifier qu’il s’agit de robots.

Facebook est devenu au fil des années un réseau où le contenu est partagé et dont l’objectif fondamental est d’augmenter l’audience. Les Jésus-Christ sont une autre ressource facile à créer et qui attire l’attention : « La concurrence pour attirer l’attention entre les créateurs de pages signifie qu’ils utiliseront n’importe quelle tactique qui semble fonctionner, ce qui inclut désormais la publication de contenu généré par l’IA dont les systèmes de recommandation semblent promouvoir, » DiResta continue.

Les textes ajoutés par les auteurs servent à favoriser cette viralité. Sur certaines images, un enfant noir se tient à côté d’un Jésus-Christ fait de spaghetti et le texte dit : “Merci à tous ceux qui apprécient mon art”. Aucune de ces images n’indique qu’elles ont été réalisées artificiellement.

L’article universitaire a étudié 120 pages Facebook qui ont chacune publié au moins 50 images générées par l’IA. Preuve du succès, les pages comptaient en moyenne près de 130 000 abonnés. Peu de temps après avoir examiné ces photographies, l’algorithme de Facebook a proposé davantage d’exemples et de nouvelles variantes. Celles qu’EL PAÍS a vues provenaient de pages d’utilisateurs latino-américains qui combinaient ces images religieuses avec des mèmes, des animaux et des natures mortes également réalisées avec l’IA, où elles écrasaient des « bonjour » ou des vidéos amusantes. L’un d’eux, un Haïtien résidant au Mexique, a brièvement répondu à ce journal qu’il avait réalisé ces images, que les gens les aimaient beaucoup, et il a reconnu qu’on pouvait gagner quelque chose avec elles : « Oui », a-t-il répondu, mais il n’a pas répondu. je veux expliquer comment. Cet utilisateur comptait plus de 7 000 abonnés.

Au-delà de la tricherie au sein de Facebook, le débat sous-jacent est le suivant : si les gens confondent ces images ridicules avec de l’art véritable, que se passera-t-il lorsque ce qui est généré par l’IA sera vraiment réaliste ? Il n’y a aucune certitude, même si tout le monde n’est pas non plus confus. Sous l’une de ces photos, un utilisateur dit : “Quelle merveilleuse sculpture, ce sont des mains bénies de Dieu, mon amour, tu es un génie, que Dieu te bénisse aujourd’hui demain et toujours félicitations de la Colombie.” Un autre a répondu : « Oh madame, comment pouvez-vous croire en ces choses, comme il est facile de vous tromper, ne réalisez-vous pas que c’est une fausse image ? “Il ne faut pas croire tout ce qui est publié sur les réseaux.”

La femme crédule a reçu une autre réponse qui illustre l’un des types d’arnaque. Si quelqu’un croit que ces fausses images sont réelles, il est probablement plus naïf et plus facile à arnaquer : « Je suis française et cela fait plus de 13 ans que mon mari est devenu adulte. » [sic] dans un accident de voiture. Après ma mort, j’ai hérité de la fortune de mon mari. Considérant mon âge avancé et mon état de santé, j’ai décidé d’aider financièrement les personnes qui souhaitent recevoir une aide financière pour leurs besoins, puisque je n’ai pas d’enfants pour bénéficier de mon héritage et que je ne veux pas que le gouvernement gèle ma fortune après mon décès. Alors si l’activité économique vous intéresse, envoyez-moi un message », et a ajouté un lien vers un vrai numéro WhatsApp.

“Les comptes frauduleux interagissent occasionnellement avec des commentateurs crédules sur les publications, à la fois sur les pages et dans les groupes, demandant parfois des informations personnelles les concernant ou proposant de vendre des produits qui n’existent pas”, explique l’article. Une fois qu’une audience est créée dans un groupe ou une page, les façons d’essayer d’en tirer des avantages varient : « Nous marquons les pages comme « arnaques » si : premièrement, elles trompent les abonnés en volant, en achetant ou en changeant le contrôle de la page ; deuxièmement, indiquer faussement un nom, une adresse ou une autre caractéristique d’identification ; et/ou, troisièmement, ils vendent des produits contrefaits », détaille l’article académique.

Certaines des pages qui utilisent ces tactiques changent souvent de nom et incitent leurs abonnés à faire autre chose ou à vendre leur audience. Les pages de spam profitent de l’attention pour diriger les utilisateurs vers des pages extérieures à Facebook qui sont remplies de publicités.

Jésus-Christ n’est que l’une des principales affirmations. Au troisième trimestre 2023, l’une des 20 images les plus vues sur Facebook dans le monde était cette cuisine avec un sol en verre. Il a enregistré 40 millions de vues et 1,9 million d’interactions, selon le rapport trimestriel de la plateforme sur ses contenus les plus consultés. Certaines pages qui tentent ce piège tentent aussi des animaux, des enfants, des cabanes ou des paysages, tout ce qui pourrait attirer l’attention sur Facebook : « Tout comme Picasso a eu sa période bleue, les pages ont souvent traversé des périodes, quelques dizaines de sculptures de neige ; quelques dizaines de sculptures de pastèques ; quelques dizaines de sculptures sur bois ; quelques dizaines d’assiettes à sushi astucieusement disposées, chacune dans un style très similaire », indique l’article.

“Nous soupçonnons que ces niveaux élevés d’engagement sont en partie dus à l’algorithme de recommandation de Facebook”, affirment DiResta et son co-auteur Josh A. Goldstein de l’Université de Georgetown dans l’article. Il y a deux ans, selon un document divulgué par Meta, le réseau social a modifié son algorithme pour ressembler davantage à TikTok. L’objectif était, selon le document, « d’aider les gens à trouver et à apprécier un contenu intéressant, qu’il ait été produit par quelqu’un avec lequel vous êtes connecté ou non ». Les auteurs montrent comment ces contenus « suggérés pour vous » sont passés – en pourcentage du nombre de vues – de 8 % en 2021 à 24 % en 2023.

Bien que Facebook soit la plaque tournante de toutes ces images virales, il existe également Instagram : « Les images générées par l’IA sont également populaires sur Instagram », explique DiResta. “Ils sont sur Twitter et partout, mais la conception de Facebook et d’Instagram incite les gens à créer des types spécifiques de contenu visuel et à développer des audiences au fil du temps.”

En février, Meta a annoncé qu’elle allait étiqueter le contenu généré par l’IA. à la fois sur Facebook, Instagram et Threads. Pour le moment, cela ne se produit dans aucun de ces cas. Pour évaluer les dangers potentiels, ce détail est important. Bien que dans certains cas, il soit facile de détecter les images générées par l’IA, ce ne sera pas toujours le cas : « Même dans les cas où il existe des signes évidents, les identifier nécessite encore beaucoup d’efforts cognitifs, et il peut être irréaliste d’attendre que les images générées par l’IA soient détectées. l’utilisateur moyen de Facebook navigue simplement. » Regardez votre chronologie.

Vous pouvez suivre Technologie EL PAÍS dans Facebook oui X ou inscrivez-vous ici pour recevoir notre bulletin d’information semanal.