‘AI or Not’ est une application Web gratuite qui prétend détecter les photos générées par l’IA

“IA ou pas” est une application Web gratuite qui prétend pouvoir identifier les images générées par l’intelligence artificielle (IA) simplement en les téléchargeant ou en fournissant une URL.

Alimenté par Optiquela société affirme que sa technologie est le moteur de reconnaissance de contenu le plus intelligent pour Web3 et affirme qu’elle est capable d’identifier les images créées à l’aide de Stable Diffusion, Midjourney, Dall-E ou GAN.

“Optic AI or Not est un service Web qui aide les utilisateurs à déterminer rapidement et avec précision si une image a été générée par l’intelligence artificielle (IA) ou créée par un humain. Si l’image est générée par l’IA, notre service identifie le modèle d’IA utilisé (mi-parcours, diffusion stable ou DALL-E) », explique Optic.

“Notre mission est d’apporter de la transparence aux médias sur les blockchains afin que toutes les communautés puissent réaliser leur potentiel créatif et économique.”

La plateforme, repéré par Photographie de bricolage, est très facile à utiliser. N’importe qui peut télécharger une image ou fournir un lien vers l’emplacement hébergé d’une image générée par l’IA et Optic AI or Not est en mesure de fournir des commentaires sur si l’image est réelle ou générée par l’IA en quelques secondes.

La société affirme qu’AI or Not utilise “des algorithmes avancés et des techniques d’apprentissage automatique” pour analyser les images, puis détecter les signes de génération d’IA.

“Notre service compare l’image d’entrée aux modèles connus, aux artefacts et aux caractéristiques de divers modèles d’IA et d’images créées par l’homme pour déterminer l’origine du contenu”, explique Optic.

Optic positionne son service comme étant capable d’aider les utilisateurs à identifier les images générées par l’IA, en particulier dans les cas difficiles, afin d’éviter les nombreux problèmes qui pourraient survenir avec leur utilisation, tels que la fraude ou la désinformation.

Est-ce que ça marche?

PétaPixel a décidé de voir si la plate-forme serait capable de gérer une gamme d’images : à la fois simples et faciles à identifier que des yeux humains avisés pourraient repérer, ainsi que des contrefaçons plus difficiles.

Pour commencer, Optic a été interpellé par une photo que Nikon a récemment publiée dans le cadre de sa campagne “Natural Intelligence”, et heureusement AI or Not a pu reconnaître qu’il s’agissait bien d’une vraie photo.

Suivant, PétaPixel lui a donné une photo générée par l’IA qu’un photographe a créée pour un client immobilier. Il a, encore une fois, reconnu avec succès la photo comme fausse.

En février, un artiste a pu gagner un concours de photographie local avec une image aérienne d’un surfeur dans un océan généré par l’IA, et une fois de plus, Optic a pu reconnaître que l’image n’était pas réelle.

La prochaine série de résultats est moins rose pour Optic. Il n’a pas été en mesure de déterminer qu’une photo générée par l’IA de Tom Hardy en tant que James Bond n’était pas réelle, mais a plutôt fourni un “Je ne sais pas”.

Lorsqu’il a reçu une photo où l’IA a été utilisée pour changer l’identité d’une personne dans l’image, Optic n’a pas été en mesure de dire que la photo avait été modifiée.

Mais peut-être le plus accablant, Optic ne pouvait pas dire que l’image ci-dessous de l’ancien président Donald Trump embrassant Anthony Fauci, qui a été créée spécifiquement pour tromper le public, a été générée par l’IA.

Il n’a pas non plus été en mesure d’identifier cet influenceur des médias sociaux entièrement maquillé :

Avec certaines de ces images, l’incapacité de la plate-forme à distinguer le vrai du faux prend tout son sens : Optic promet seulement qu’il peut détecter les images créées entièrement par Stable Diffusion, Midjourney, Dall-E ou GAN, donc l’image de Tom Hardy, le faux réseau social influenceur, et la photo de rue avec un visage altéré prend tout son sens.

Cependant, son incapacité à voir l’image entièrement IA de Trump et Fauci montre que cette plate-forme a encore du chemin à parcourir.