Le créateur de ChatGPT, OpenAI, a développé un modèle d’IA capable de générer des vidéos réalistes, d’une durée maximale d’une minute, à partir de texte. Les exemples incluent des vidéos panoramiques de ruées vers l’or du XIXe siècle, de fêtes d’anniversaire et de personnes se déplaçant dans des villes animées. Cependant, Sora mettra encore un certain temps à atteindre le grand public : OpenAI veut s’assurer que le modèle ne soit pas utilisé pour produire du contenu inapproprié ou illégal. Par exemple, les fausses nouvelles ou les contenus à caractère sexuel impliquant des mineurs.
L’objectif principal du nouveau modèle, présenté ce jeudi, est d’enseigner des outils d’intelligence artificielle pour comprendre le monde physique, en mouvement. La technologie peut être utilisée pour simplifier la création de systèmes de simulation qui vous permettent d’explorer des scénarios ou de former des compétences sans les risques ou les coûts associés aux expériences du monde réel. Par exemple, dans le domaine de la santé, de la sécurité et de l’éducation. Le nom Sora vient du mot japonais signifiant « ciel ».
“Nous partageons les progrès de notre enquête à l’avance pour commencer à travailler et recevoir retour de personnes extérieures à OpenAI et pour donner au public une idée des capacités d’IA qui se profilent à l’horizon », explique l’entreprise dans le déclaration Présentation de Sora. “Malgré des recherches et des tests exhaustifs, nous ne pouvons pas prédire toutes les manières bénéfiques d’utiliser la technologie, ni toutes les formes d’abus. Nous pensons que l’apprentissage de l’utilisation réelle est un élément essentiel pour créer et lancer des systèmes d’IA de plus en plus sécurisés.».
L’image a été générée à partir de la requête “Images de Californie pendant la ruée vers l’or”.
OpenAI
Le modèle est désormais disponible pour les « équipes rouges » (équipes rouges), qui sont des groupes qui simulent “adversaires» dans des exercices de sécurité. Dans ce cas, le risque que la technologie soit utilisée par des créateurs de fausses nouvelles ou des prédateurs sexuels est testé.
En 2023, plusieurs organisations avertissaient que de nouveaux outils d’intelligence artificielle étaient utilisés pour créer plus rapidement de la pédopornographie. Le thème était l’un des axes de l’édition 2023 de TrustCon, une réunion annuelle d’experts dont le travail consiste à maintenir la sécurité des plateformes et des communautés numériques. En règle générale, de vraies images d’enfants trouvées en ligne sont utilisés comme base pour ce crime.
En mettant Sora à disposition des équipes »équipe rouge», OpenAI peut développer des barrières qui empêchent ce type d’utilisation. L’entreprise met également le modèle à la disposition de certains cinéastes et graphistes pour comprendre comment l’outil peut bénéficier au processus de création artistique. Ces derniers mois, plusieurs écrivains et artistes ont fait part de leurs inquiétudes quant à la manière dont les systèmes d’IA utilisent leur travail pour produire de nouveaux contenus sans citer leurs sources.
Ces craintes autour de l’utilisation de l’intelligence artificielle ont été l’une des raisons de la grève des acteurs en 2023 à Hollywood. En novembre, un groupe d’auteurs, dont les écrivains George RR Martin et Jodi Picoult, ont poursuivi OpenAI pour avoir prétendument abusé de leur travail pour former ChatGPT, un autre outil de l’entreprise.
Un bal qui ne finit jamais
Tout comme les systèmes d’imagerie échouent dans certains détails (par exemple, le nombre de doigts d’une personne), Sora révèle également certaines difficultés. Par exemple, le concept de cause à effet. “[Num vídeo gerado pela Sora] une personne peut mordre dans un cookie, mais le cookie peut alors ne pas avoir de marque de morsure », a expliqué l’équipe OpenAI dans la présentation.
D’autres exemples partagés incluent quelqu’un essayant de souffler les bougies d’un gâteau d’anniversaire sans aucun effet sur elles (certaines bougies apparaissent avec deux flammes brûlant dans des directions opposées), ou quelqu’un utilisant un tapis roulant de salle de sport dos à la console. Bien que le modèle ne soit pas encore accessible au public, au cours des dernières 24 heures, le président exécutif d’OpenAI, Sam Altman, a également partagé plusieurs vidéos sur le réseau social X basées sur les suggestions des internautes, de chiens enregistrant podcasts suivez un cours pour apprendre à faire des pâtes fraîches en Italie.
Le créateur de ChatGPT ne révèle pas les données utilisées pour entraîner le modèle d’intelligence artificielle. PÚBLICO a contacté l’équipe OpenAI pour plus d’informations, mais n’a pas reçu de réponse au moment de la publication de cet article.
La nouvelle de Sora arrive la même semaine où OpenAI a annoncé que ChatGPT serait désormais en mesure de mémoriser les détails des conversations des utilisateurs pour produire des réponses plus contextuellement pertinentes.