Un autre outil d’intelligence artificielle générative révolutionnaire de la société à l’origine de ChatGPT dévoilé jeudi devrait accélérer la prolifération des vidéos deepfake et avoir des implications pour pratiquement tous les secteurs.
Sora, une application d’IA qui prend des invites écrites et les transforme en vidéos originales, est déjà si puissante qu’un expert en IA dit qu’elle le « terrifie ».
“Les outils d’IA générative évoluent si rapidement et nous avons un réseau social, ce qui constitue un talon d’Achille dans notre démocratie et cela n’aurait pas pu arriver à un pire moment”, a déclaré Oren Etzioni, fondateur de TruMedia.org, à CBS MoneyWatch. L’organisation à but non lucratif dédiée à la lutte contre la désinformation basée sur l’IA dans les campagnes politiques se concentre sur l’identification des médias manipulés, notamment vidéos dites deepfakes.
“Alors que nous essayons de régler ce problème, nous nous heurtons à l’une des élections les plus importantes de l’histoire”, a-t-il ajouté, faisant référence à l’élection présidentielle de 2024.
Créateur de Sora OpenAI partagé un teaser de son modèle texte-vidéo sur X, expliquant qu’il peut créer instantanément des vidéos sophistiquées de 60 secondes “avec des scènes très détaillées, des mouvements de caméra complexes et plusieurs personnages aux émotions vibrantes”.
L’outil n’est pas encore accessible au public. Pour le moment, OpenAI a limité son utilisation aux « équipes rouges » et à certains artistes visuels, designers et cinéastes pour tester le produit et fournir des commentaires à l’entreprise avant sa diffusion plus large.
Des experts en sécurité évalueront l’outil pour comprendre comment il pourrait potentiellement créer de la désinformation et du contenu haineux, a déclaré OpenAI.
Atterrissage bientôt
Les progrès technologiques ont apparemment dépassé les freins et contrepoids sur ce type d’outils, selon Etzioni, qui croit en l’utilisation de l’IA pour de bon et avec des garde-fous en place.
“Nous essayons de construire cet avion au fur et à mesure que nous le pilotons, et il atterrira en novembre si ce n’est avant – et nous n’avons pas la Federal Aviation Administration, nous n’avons pas l’historique et nous n’avons pas Nous disposons des outils nécessaires pour y parvenir”, a-t-il déclaré.
Tout ce qui empêche l’outil de devenir largement disponible, c’est la société elle-même, a déclaré Etzioni, ajoutant qu’il était convaincu que Sora, ou une technologie similaire d’un concurrent d’OpenAI, serait rendue publique dans les mois à venir.
Bien entendu, tout citoyen ordinaire peut être affecté par une arnaque deepfake, en plus des célébrités ciblées.
“Et [Sora] permettra aux acteurs malveillants de générer encore plus facilement des deepfakes vidéo de haute qualité et leur donnera une plus grande flexibilité pour créer des vidéos qui pourraient être utilisées à des fins offensives”, a déclaré le Dr Andrew Newell, directeur scientifique de la société de vérification d’identité iProov, à CBS. MoneyWatch.
Cela oblige les organisations, comme les banques, à développer leurs propres outils basés sur l’IA pour protéger les consommateurs contre les menaces potentielles.
Les banques qui s’appuient sur des mesures de sécurité d’authentification vidéo sont les plus exposées, a-t-il ajouté.
Menace pour les acteurs, les créateurs
“Les doubleurs ou les personnes qui réalisent de courtes vidéos pour des jeux vidéo, à des fins éducatives ou publicitaires seront les plus immédiatement touchés”, a-t-il déclaré.
“Pour des professions telles que le marketing ou la création, les modèles multimodaux pourraient changer la donne et générer des économies significatives pour les réalisateurs de films et de télévision, et pourraient contribuer à la prolifération de contenus générés par l’IA plutôt que par le recours à des acteurs”, Reece Hayden, analyste senior chez ABI Research, une société de renseignement technologique, a déclaré à CBS MoneyWatch.
Étant donné qu’il est plus facile pour quiconque – même ceux qui n’ont pas de capacités artistiques – de créer du contenu visuel, Sora pourrait permettre aux utilisateurs de développer des médias de style « choisissez votre propre aventure ».
Même un acteur majeur comme “Netflix pourrait permettre aux utilisateurs finaux de développer leur propre contenu sur la base d’invites”, a déclaré Hayden.
Megan Cerullo
