Ces derniers mois, l’Internet Watch Foundation (IWF) a détecté une augmentation « effrayante » de la création et de la circulation de pédopornographie générée par l’IA. Ces images et vidéos, qui montrent des mineurs victimes d’abus réalistes, inondent les sites accessibles au public, principalement en Russie, aux États-Unis et au Japon. Entre avril et septembre 2024, l’IWF a reçu 74 plaintes, dépassant les chiffres de l’année précédente sur une période plus courte. Ce matériel est partagé ouvertement sur les forums d’IA et les galeries d’images, ce qui le rend facilement accessible à un large public.
Des technologies qui compliquent la détection
Ce qui différencie ces images des autres est leur réalisme, résultat de la capacité des systèmes d’intelligence artificielle à apprendre à partir d’images et de vidéos réelles de maltraitance d’enfants. Derek Ray-Hill, directeur général par intérim de l’IWF, a prévenu que ces outils technologiques ont atteint un niveau de sophistication inquiétant, rendant la tâche des autorités difficile. “Le logiciel utilisé a été entraîné avec du matériel d’agression réel, ce qui augmente la gravité du problème”, a expliqué Ray-Hill, qui a exhorté les gouvernements à mettre à jour leurs lois pour pouvoir faire face à cette nouvelle menace numérique.
Une industrie qui ne cesse malheureusement de croître
L’utilisation de l’intelligence artificielle pour créer du matériel pédopornographique n’est pas un phénomène nouveau, mais son ampleur atteint des niveaux industriels. Selon une enquête de la journaliste Octavia Sheepshanks, ces créateurs de contenus cherchent à générer au moins 1 000 images par mois, ce qui montre l’ampleur du problème. Les pédophiles utilisent un logiciel d’IA formé sur du matériel réel pour générer de nouvelles images, qu’ils promeuvent ensuite sur des plateformes de partage d’images telles que Pixiv, un site populaire au Japon.
Le processus de diffusion de contenu illégal
La méthode de diffusion de ces images suit généralement un processus en trois étapes :
- Les pédophiles créent les images à l’aide d’une IA entraînée sur du matériel réel.
- Ils font la promotion de ces images sur des plateformes de partage de photos comme Pixiv.
- Les utilisateurs sont dirigés vers des sites où ils peuvent payer pour accéder à du contenu plus explicite, en utilisant des services comme Patreon.
Ce système a permis la prolifération d’un volume considérable d’images d’abus sexuels sur des enfants, rendant difficile pour les autorités et les organisations comme l’IWF de maintenir le rythme de leur suppression et de leur détection.
L’urgence de nouvelles mesures
© Phanphen Kaewwannarat
Avec l’augmentation continue de ce type de plaintes, les experts craignent que les organismes chargés de lutter contre la pédopornographie sur Internet ne soient débordés. L’IWF a appelé les députés britanniques à adapter les lois existantes à la réalité numérique d’aujourd’hui, car les outils d’IA progressent plus rapidement que la législation. Sans une réponse efficace, les autorités risquent de ne pas être en mesure d’arrêter la propagation de ce matériel.
Un problème mondial qui nécessite une action immédiate
L’utilisation de l’IA pour créer et diffuser des images de maltraitance d’enfants pose un défi mondial. Malgré les efforts d’organisations telles que l’IWF, la nature avancée et clandestine de ces pratiques rend la détection et la suppression de ce matériel plus compliquées que jamais. La clé pour lutter contre ce problème réside dans la coopération internationale et le développement de technologies capables d’identifier plus précisément ce type de contenu, ainsi que dans l’adaptation des lois pour faire face à cette nouvelle menace.
Ces sombres perspectives reflètent les dangers d’une utilisation abusive de l’intelligence artificielle et la nécessité urgente de mettre en œuvre des mesures juridiques et technologiques pour protéger les mineurs de ce type d’exploitation.
#problème #critique #pour #Internet
