Comment Meta sème la confusion avec son label AI

Ce n’est qu’un petit texte sur les photos sur les réseaux sociaux, mais il met en lumière un conflit fondamental dans la transition vers un monde dans lequel les images générées par l’intelligence artificielle seront omniprésentes. Un monde dans lequel la réalité, ou notre perception de celle-ci, pourrait plonger dans une crise induite par l’IA.

Ce court texte du site d’actualités technologiques Le bord décrit la décision de Meta d’étiqueter initialement les images comme « réalisées avec l’IA » lorsque le système Facebook les considère comme étant générées par l’IA – pour ensuite revenir en arrière. Parce que la technologie fonctionne même sur des photos de l’ère analogique et les calomnie essentiellement comme une astuce de l’IA. Vraisemblablement, même les mouvements Photoshop standard, comme le recadrage, ont abouti à ce que les images soient marquées comme « créées par l’IA ». Maintenant, le label s’appelle – je trouve cela involontairement drôle – “AI Info”. Ainsi, Meta attribue une étiquette – ce que l’utilisateur ne sait pas vraiment, même s’il clique sur l’explication.

D’un côté il y a la société Facebook et Instagram Meta. Il ne veut pas être exposé à l’accusation, les yeux ouverts Pour diffuser des images manipulées par l’IA, par exemple lors des campagnes électorales en cours et à venir. De l’autre côté, il y a les photographes qui utilisent le traitement d’images pré-IA mais qui sont toujours injustement « marqués » – et Adobe. L’entreprise est contrariée par le fait que Photoshop et la retouche d’images dans son ensemble puissent être discrédités. Et puis, bien sûr, il y a les utilisateurs qui ne sont que davantage insécurisés par une telle étiquette et le débat qui l’entoure.

J’ai hâte de voir comment les expériences d’étiquetage et de filigrane menées par Meta, Open AI and Co. se poursuivront. Cela ne fait que commencer.