Une photo montre les logos de Google et YouTube sur leur stand avant la réunion annuelle du Forum économique mondial à Davos en 2022.
Fabrice Cofrini/AFP via Getty Images
masquer la légende
basculer la légende
Fabrice Cofrini/AFP via Getty Images
Une photo montre les logos de Google et YouTube sur leur stand avant la réunion annuelle du Forum économique mondial à Davos en 2022.
Fabrice Cofrini/AFP via Getty Images
YouTube commencera bientôt à alerter les téléspectateurs lorsqu’ils regardent une vidéo réalisée avec l’intelligence artificielle.
La plate-forme vidéo appartenant à Google indique que les créateurs doivent divulguer lorsqu’ils utilisent l’IA ou d’autres outils numériques pour créer des vidéos modifiées ou synthétiques d’apparence réaliste, sous peine de voir leurs comptes supprimés ou suspendus pour gagner des revenus publicitaires sur YouTube. La nouvelle politique entrera en vigueur dans les mois à venir.
YouTube permettra également aux utilisateurs de demander la suppression de vidéos s’ils utilisent l’IA pour simuler une personne identifiable, dans le cadre de ses outils de confidentialité.
La prolifération de la technologie d’IA générative, capable de créer des images, des vidéos et des sons réalistes, parfois appelés « deepfakes », a soulevé des inquiétudes quant à la manière dont elle pourrait être utilisée pour induire les gens en erreur, par exemple en décrivant des événements qui ne se sont jamais produits ou en faisant passer une personne réelle. semblent dire ou faire quelque chose qu’ils n’ont pas fait.
Cette inquiétude a incité les plateformes en ligne à créer de nouvelles règles destinées à équilibrer les possibilités créatives de l’IA et ses pièges potentiels.
À partir de l’année prochaine, Meta, propriétaire de Facebook et d’Instagram, exigera des annonceurs qu’ils divulguent l’utilisation de l’IA dans les publicités sur les élections, la politique et les questions sociales. La société a également interdit aux annonceurs politiques d’utiliser les propres outils d’IA générative de Meta pour créer des publicités.
TikTok exige que le contenu généré par l’IA représentant des scènes « réalistes » soit étiqueté et interdit les deepfakes générés par l’IA de jeunes et de personnalités privées. Le contenu généré par l’IA représentant des personnalités publiques est autorisé dans certaines situations, mais ne peut pas être utilisé à des fins politiques ou commerciales sur l’application vidéo courte.
En septembre, YouTube a annoncé que les publicités politiques réalisées avec l’IA devaient contenir des informations. La nouvelle politique dévoilée mardi en est une extension à toute vidéo synthétique qui pourrait être confondue avec de la réalité.
YouTube interdit déjà “les contenus techniquement manipulés qui induisent les téléspectateurs en erreur et peuvent présenter un risque sérieux de préjudice grave”, a écrit mardi la société dans un article de blog. “Cependant, les nouvelles formes puissantes de narration de l’IA peuvent également être utilisées pour générer du contenu susceptible d’induire les spectateurs en erreur, en particulier s’ils ignorent que la vidéo a été modifiée ou est créée de manière synthétique.”
La société affirme que les étiquettes d’IA seront plus visibles sur certaines vidéos traitant de « sujets sensibles » tels que les élections, les conflits en cours et les crises de santé publique, ou les agents publics.
Le contenu généré par l’IA sera complètement supprimé s’il enfreint les directives de la communauté YouTube. “Par exemple, une vidéo créée de manière synthétique qui montre une violence réaliste peut toujours être supprimée si son objectif est de choquer ou de dégoûter les téléspectateurs”, a déclaré YouTube.
En plus des étiquettes, YouTube crée également un moyen permettant aux utilisateurs de demander que l’IA ou d’autres représentations synthétiques de personnes réelles soient supprimées. Alors que les fausses représentations de personnes involontaires, notamment de personnalités politiques, de célébrités et du pape, ont fait la une des journaux, les experts affirment que l’utilisation la plus courante des deepfakes par l’IA est de créer de la pornographie non consensuelle ciblant les femmes.
Le processus de demande de confidentialité de YouTube permettra désormais aux utilisateurs de signaler le contenu « qui simule une personne identifiable, y compris son visage ou sa voix ». L’entreprise affirme qu’elle prendra en compte “une variété de facteurs” pour décider de procéder ou non aux déménagements. Cela inclut si la vidéo est une parodie ou une satire, si la personne est « identifiable de manière unique » et si elle implique une personne bien connue ou un fonctionnaire public, « auquel cas la barre peut être plus élevée », a déclaré YouTube.
