À mi-parcours envisage de publier un outil Web mis à niveau qui permettra aux utilisateurs de modifier toutes les images téléchargées à partir du Web à l’aide de l’IA générative de Midjourney.
L’outil mis à niveau, dont le PDG de Midjourney, David Holtz, a déclaré qu’il serait publié « au début de la semaine prochaine », permettra également aux utilisateurs de retexturer les objets dans les images pour « repeindre » leurs couleurs et leurs détails en fonction des légendes.
L’édition d’images existantes avec l’IA est devenue un sujet brûlant ces derniers temps. Des plates-formes comme Meta se sont demandé comment étiqueter les images éditées avec des outils d’IA par rapport aux images générées à partir de zéro avec un modèle d’IA, tandis que des entreprises comme Google ont publié fonctionnalités d’IA puissantes qui ne donnent aucune indication visuelle, les images ont été modifiées par l’IA.
L’année dernière, Midjourney s’est engagé à utiliser la propriété Digital Source Type de l’IPTC, une norme technique qui intègre des métadonnées dans les images indiquant qu’elles ont été générées par l’IA. Cependant, l’entreprise est l’une des rares grandes plateformes d’IA à ne pas avoir adopté C2PA, une technologie de métadonnées qui retrace la provenance complète d’une image, y compris l’équipement et les logiciels utilisés pour la créer.
Dans un article sur Serveur Discord officiel de MidjourneyHolz a déclaré que l’outil d’image mis à niveau sera limité à un « sous-ensemble de la communauté actuelle » pour commencer, avec une modération humaine accrue ainsi que « de nouveaux modérateurs d’IA plus avancés » pour tenter de prévenir les abus.
« Honnêtement, nous ne savons pas exactement comment limiter le déploiement de cette fonctionnalité », a-t-il déclaré. Midjourney sollicite les commentaires de la communauté via un sondage qu’il utilisera pour déterminer quels utilisateurs auront accès en premier.
Les deepfakes se propagent comme une traînée de poudre sur les réseaux sociaux et rendent plus difficile la distinction entre la vérité et la désinformation. Plus récemment, de fausses images génératives de destruction et de souffrance humaine créées par l’IA a inondé le Web au lendemain de l’ouragan Hélène.
Selon les données de Clarity, une société de détection de deepfakes, 900 % de deepfakes supplémentaires ont été créés et publiés cette année par rapport à la même période l’année dernière. Cela suscite l’inquiétude, c’est compréhensible. Un récent sondage de YouGov a révélé que 85% des Américains étaient inquiets sur les deepfakes trompeurs qui se propagent en ligne.
En l’absence d’une loi criminalisant les deepfakes au niveau fédéral aux États-Unis, plus de 10 États ont adopté des lois contre l’usurpation d’identité assistée par l’IA. La loi californienne – actuellement au point mort – serait la première à autoriser les juges à ordonner aux affiches de deepfakes de les retirer sous peine de sanctions pécuniaires.
#Midjourney #prévoit #permettre #nimporte #qui #sur #Web #modifier #des #images #avec #lIA
