Des ingénieurs de l’Université de Vigo développent un système de détection d’images créées avec l’IA

« Les programmes qui vous permettent de générer des images à partir de texte ont déjà commencé à fonctionner assez bien et aussi rapidement. C’est un sujet très brûlant, la question s’est donc posée de savoir s’il existait un moyen, en utilisant l’IA elle-même, de distinguer une vraie photographie d’une image créée par nous-mêmes avec des applications telles que DALL E, Stable Difussion ou OpenArt. Nous travaillons depuis un certain temps avec des réseaux de neurones et des systèmes d’IA qui distinguent les images dans d’autres domaines et l’idée est née de profiter de cette expérience”, explique Fernando Martín, du groupe High Frequency Devices et auteur du travail avec son collègue. et coordinatrice de l’équipe, Mónica Fernández, ainsi que Rocío García, embauchée dans le cadre du programme d’emploi des jeunes Investigo.

Martín et Fernández, qui appartiennent à l’École d’ingénierie des télécommunications, ont déjà réalisé des travaux sur les empreintes digitales qui leur permettent d’identifier l’origine de photographies et de vidéos réelles. Et en appliquant cette technique appelée non-uniformité de photoréponse (PRNU) aux images créées par l’Intelligence Artificielle, ils ont découvert que des résultats intéressants pouvaient également être obtenus.

Toutes les les photos numériques présentent certaines imperfectionspratiquement imperceptible à l’oeil humainmais ils sont uniques et permettent de les relier à l’appareil photo avec lequel ils ont été fabriqués, puisque chacun, même ceux du même modèle, génère un motif différent.

« En fait, l’empreinte digitale est l’erreur que fait le capteur de l’appareil photo en raison d’imperfections de fabrication et nous la calculons à partir de l’image. Dans le cas de ceux générés par l’intelligence artificielle, nous pensions au début que nous ne trouverions pas ces erreurs. Mais ils existent. Nous obtenons toujours un résultat. Probablement parce que les applications ont été formées avec de vraies photographies. D’une certaine manière, ils sont les héritiers de ces images. Ce qui se passe, c’est qu’au lieu d’une chambre originale, il y en a des centaines, voire des milliers, et elles sont mélangées », détaille Fernando Martín.

Les chercheurs ont également testé l’efficacité d’une deuxième technique, l’analyse du niveau d’erreur (ELA), dont l’application initiale était de détecter les modifications ou les falsifications dans les systèmes d’imagerie médico-légale. Dans le cas d’images réelles, cela nous permet de déterminer quelles parties ont été modifiées et, dans le cas de générés par l’IA, prévient qu’ils ont été complètement modifiés.

« Nous sommes arrivés à la conclusion que les deux types d’empreintes fonctionnent et donnent de bons résultats. Mais l’option que nous recommandons est d’utiliser les deux, comme double contrôle. Si l’un d’entre eux détermine qu’il s’agit d’une image synthétique, il est très probable que ce soit le cas. Cependant, il y a un certain pourcentage d’erreur lorsque le résultat est négatif et celui-ci est fortement réduit en utilisant les deux ensemble », souligne le chercheur.

Les auteurs de l’ouvrage, publié dans la revue Capteurs, a utilisé plus d’un millier d’images réelles et d’images créées avec l’intelligence artificielle pour entraîner leur système de réseau neuronal convolutif. Et en plus de toute l’expérience précédente, ils ont également utilisé la structure développée par Rocío García, ingénieur chimiste de formation, pour une méthode d’aide au diagnostic à partir des mammographies. “Il les classe comme suspects avant que le radiologue ne les étudie et c’est celui qui nous a le mieux fonctionné dans ce cas”, explique Martín.

« Il existe déjà des systèmes pour détecter contrefaçons profondes, qui permettent à quelqu’un de mettre le visage de quelqu’un sur une autre personne avec des intentions loin d’être innocentes. La nôtre travaille avec des images 100% synthétiques. De nouvelles applications apparaissent pratiquement tous les jours et il est très probable qu’elle sera également efficace avec elles car elles sont toutes similaires, mais elle pourrait également ne pas être efficace », ajoute-t-il à propos de ses limites et de la complexité d’être à jour dans ce domaine technologique. champ.

D’autres méthodes fonctionnent déjà pour détecter des images entièrement créées par l’IA et dans lesquelles rien n’est réel, mais Celui développé par les experts du centre atlanTTic constitue un candidat prometteur pour donner lieu à une solution commerciale: « Il existe même un site internet sur lequel on peut télécharger des images et ensuite il vous demande si c’était correct car cela lui permet d’enrichir sa base de données et de recycler le système. C’est ce que nous devrions continuer à faire avec le nôtre s’il franchissait le pas. »