- Après le spam et les appels téléphoniques, les fausses vidéos deviennent également une menace
- Les vidéos dites deepfakes sont dangereuses, semblent dignes de confiance et peuvent entraîner d’énormes pertes.
- Reality Defender essaie de les combattre en temps réel, même s’il n’est pas encore accessible au public
Reality Defender, une startup technologique axée sur la lutte contre la désinformation pilotée par l’intelligence artificielle, a introduit un outil pour détecter les vidéos deepfake. Ce qui en soi ne serait pas si bouleversant, mais cette fois, il s’agit d’une détection en temps réel. Celui-ci propose par exemple automatiquement la détection des deepfakes lors d’appels vidéo frauduleux.
Une menace d’un million de dollars
Lors d’une récente démo, Christopher Ren, chef de produit Reality Defender, a démontré l’outil en créant un deepfake d’Elon Musk. Pendant que Ren parlait, le logiciel de l’entreprise analysait en permanence la vidéo et alertait immédiatement les participants qu’ils voyaient un faux généré par l’IA. Cloner la voix de quelqu’un est trivial et vous pouvez le faire en un rien de temps. Ce n’est donc qu’une question de temps avant que les appels vidéo et les vidéos en général ne soient remplis de contenu deepfake. Après tout, aujourd’hui, il n’est vraiment pas difficile de tomber sur des deepfakes d’hommes politiques ou de célébrités hollywoodiennes proposant quoi que ce soit sur Internet.
Les deepfakes sont de plus en plus utilisés à des fins malveillantes et leur nombre ne fera probablement qu’augmenter. Plus tôt cette année, par exemple, une société internationale d’ingénierie a perdu des millions après qu’un de ses employés soit tombé sur un faux appel vidéo. Certains responsables gouvernementaux et aujourd’hui probablement d’innombrables particuliers ont également été victimes de fraudes similaires.
Détection, où regardes-tu ?
Bien que l’outil de détection Reality Defender soit encore en version bêta et pas encore disponible publiquement, il est testé en tant que plugin pour Zoom, où il peut prédire en temps réel si un participant à une vidéoconférence est réel ou un deepfake.
Qu’est-ce qu’une vidéo deepfake ?
Une vidéo deepfake est une vidéo montée numériquement qui utilise l’intelligence artificielle (en particulier des techniques d’apprentissage automatique telles que les réseaux neuronaux génératifs) pour modifier ou générer des visages, des expressions et des mouvements réalistes, souvent pour imiter de vraies personnes.
Il est le plus souvent utilisé pour manipuler des enregistrements afin de donner l’impression qu’une personne dit ou fait quelque chose qu’elle n’a jamais réellement dit ou fait. Bien que cette technologie présente un potentiel à des fins créatives ou de divertissement, son utilisation suscite souvent des inquiétudes en matière de désinformation, de fraude ou d’atteinte à la vie privée. L’un des derniers exemples d’utilisation du deepfake est la récente vidéo frauduleuse d’Elon Musk.
L’entreprise effectue des tests comparatifs sur l’exactitude du logiciel et prévoit de le présenter à des clients sélectionnés. Il reste à savoir si quelqu’un finira par acheter Reality Defender, mais on peut s’attendre à ce que ce système ou un système similaire soit éventuellement présent dans tous les outils d’appel vidéo grand public.
Ni le premier ni le dernier
Reality Defender n’est pas la première entreprise à s’attaquer à la menace croissante des deepfakes. En 2022, Intel a introduit un outil appelé FakeCatcher qui analyse le flux sanguin du visage et détecte les contrefaçons. Mais même cela n’est pas encore accessible au public. Pendant ce temps, des chercheurs universitaires, comme ceux de l’Université de New York, développent des approches alternatives pour lutter en temps réel contre la montée des deepfakes. À l’avenir, une technologie similaire devrait également apparaître dans les systèmes d’exploitation des smartphones. Par exemple, Honor a déjà annoncé des travaux sur une technologie similaire lors du salon IFA de Berlin de cette année.
Ne négligez pas
L’agent AI d’Honor détecte les vidéos deepfake et annule l’abonnement. Il apparaît pour la première fois avec ce modèle
À mesure que la technologie derrière les deepfakes se développe, il devient de plus en plus difficile pour les individus de les identifier par eux-mêmes. L’expansion progressive et, par conséquent, probablement assez rapide, des deepfakes posera encore de nombreux problèmes. Les systèmes existants ne peuvent même pas capturer parfaitement le spam textuel, et de temps en temps, quelque chose s’infiltre – que ce soit dans les e-mails ou sur les réseaux sociaux. C’est quelques niveaux plus difficiles pour les systèmes avec un faux son, et la prochaine étape est la vidéo. Internet sera donc, ou plutôt est, d’année en année de moins en moins sécurisé pour certaines catégories de population moins informées et moins prudentes.
Auteur de l’article
Adam Homola
Les nouvelles technologies me fascinent depuis mon plus jeune âge. Au fil du temps, mon intérêt de longue date pour les jeux et l’industrie du jeu s’est naturellement ajouté au matériel, aux logiciels, aux services Internet et, à partir de 2022, à l’intelligence artificielle.
#Vous #survivrez #sans #cet #outil #lavenir #Détecte #les #vidéos #deepfake #temps #réel #SMARTmania.cz
