L’IA de Snapchat n’est-elle pas sûre ? Enquête britannique lancée sur des problèmes de confidentialité chez les adolescents

Snapchat AI, connu sous le nom de « My AI », fait l’objet d’une enquête de la part de l’Information Commissioner’s Office (ICO) du Royaume-Uni concernant les risques potentiels liés à la vie privée, en particulier pour les utilisateurs âgés de 13 à 17 ans. L’avis d’exécution préliminaire émis par l’ICO pourrait entraîner une amende de plusieurs millions de dollars. une amende pour Snap, la société mère derrière Snapchat, ou même forcer la fermeture de la fonctionnalité « Mon IA » au Royaume-Uni.

L’enquête

L’ICO a lancé une enquête sur l’outil, qui a été introduit pour la première fois au printemps 2023. Il s’agissait du premier exemple d’IA générative intégrée dans une plate-forme de messagerie majeure au Royaume-Uni. Cependant, l’ICO a constaté que l’évaluation des risques effectuée par Snap avant le lancement de « My AI » n’avait pas « évalué de manière adéquate les risques liés à la protection des données » pour les utilisateurs, en particulier les enfants âgés de 13 à 17 ans.

Le commissaire à l’information, John Edwards, a déclaré : « Les conclusions provisoires de notre enquête suggèrent un échec inquiétant de Snap à identifier et à évaluer correctement les risques pour la vie privée des enfants et des autres utilisateurs avant de lancer My AI ». Il a souligné que les organisations doivent prendre en compte les risques associés à l’IA, ainsi que ses avantages.

La réponse de Snap

En réponse à ces conclusions provisoires, Snap a déclaré qu’il les « examinait de près ». La société a affirmé que « My AI » avait fait l’objet d’un solide processus d’examen juridique et de confidentialité avant d’être rendu public.

Snapchat compte 21 millions d’utilisateurs actifs mensuels au Royaume-Uni, dont près de la moitié ont 24 ans ou moins. Environ 18 % des utilisateurs britanniques sont âgés de 12 à 17 ans.

Prochaines étapes

Les conclusions de l’enquête sont provisoires à ce stade et Snap a jusqu’au 27 octobre pour faire des représentations avant qu’une décision finale ne soit prise. Si une mise en demeure définitive est adoptée, Snap pourrait ne pas être en mesure de proposer la fonction « Mon IA » aux utilisateurs britanniques tant qu’il n’aura pas effectué « une évaluation adéquate des risques ».

Cette enquête met en évidence la surveillance croissante des entreprises technologiques et de leur traitement des données des utilisateurs, en particulier lorsqu’il s’agit d’utilisateurs plus jeunes. Alors que la technologie de l’IA continue d’évoluer et de s’intégrer de plus en plus dans notre vie quotidienne, garantir la confidentialité des utilisateurs et la protection des données reste une préoccupation primordiale.