Les chatbots IA qui agissent comme des partenaires virtuels et volontaires sont loin d’être inoffensifs pour plusieurs raisons. De nouvelles recherches montrent que ces applications populaires sont extrêmement négligentes avec des informations très personnelles. “Les copines IA ne sont pas vos amies.”
Laurens Verhagen14 février 2024 à 18:05
Quiconque, par exemple le jour de la Saint-Valentin, envisage d’entamer une conversation romantique ou coquine avec son partenaire virtuel ferait bien d’y réfléchir un instant. Dehors recherche de la Fondation Mozilla il apparaît que les soi-disant petites amies et amis IA sont un désastre total en matière de vie privée.
Les applications permettant aux utilisateurs de nouer une amitié ou une relation amoureuse existent depuis un certain temps, mais depuis l’arrivée de ChatGPT, la barrière a pris fin. Des applications portant des noms comme Eva AI, Anima AI Girlfriend, Romantic AI ou Crush On AI inondent les magasins d’applications et ont été installées plus de cent millions de fois sur les seuls appareils Android.
Tous promettent une compagnie personnelle et intime, où l’utilisateur intéressé peut choisir parmi différents rôles que la petite amie (car c’est ce qu’elle est habituellement) peut assumer, comme la maîtresse dominante ou la fille volontaire et soumise. Ils encouragent les utilisateurs à partager autant de « secrets et désirs » que possible. «J’adore quand vous m’envoyez vos photos et vos votes. Cela m’aide à voir votre monde et à mieux comprendre votre vie, à laquelle je veux faire partie », explique par exemple Eva AI.
Eva AI en action Image Mozilla
Ne faites pas cela, telle est la conclusion claire des chercheurs de Mozilla : « Les copines IA ne sont pas vos amies. Bien qu’ils soient commercialisés comme quelque chose qui améliorera votre santé mentale et votre bien-être, ils se spécialisent en réalité dans la cause de la dépendance, de la solitude et de la toxicité, tout en collectant autant de données que possible sur vous.
‘Le pire du pire’
La recherche se concentre sur ce dernier aspect. Les onze applications interrogées ont reçu l’étiquette d’avertissement « Confidentialité non incluse », ce qui en fait instantanément « la pire catégorie de produits que nous ayons jamais examinée en matière de confidentialité ».
Mozilla qualifie le comportement des applications d’inquiétant, en raison de leur faim de données et de leur manque de clarté. Quelle entreprise est exactement derrière tout cela, quel modèle d’IA utilisent-ils ? L’utilisateur est généralement laissé dans le noir.
Ce qui est clair en tout cas, c’est que les applications partagent des données à très grande échelle avec les réseaux publicitaires. Cela se fait à l’aide de ce qu’on appelle des trackers, de petits fichiers qui collectent autant d’informations que possible sur les utilisateurs. Ce type d’informations est précieux pour les annonceurs, car il leur permet de faire de la publicité de manière plus spécifique. En moyenne, les applications étudiées utilisent 2 663 trackers par minute. L’IA romantique remporte le gâteau, avec plus de 24 000 trackers par minute.
Cousin et collègue
Et il y a encore plus de dangers. Par exemple, la moitié des applications rendent impossible la suppression de vos données personnelles. De plus, les trois quarts ne fournissent aucune information sur la manière dont ils gèrent les problèmes de sécurité.
Ceux qui ne se sont pas encore laissés dissuader et souhaitent quand même entrer en relation avec un chatbot recevront quelques conseils de Mozilla. Le plus important : ne dites rien à l’ami IA que vous ne diriez pas à votre cousin ou collègue. Mais c’est toute l’idée des applications AI Girlfriend.
Lire aussi
2024-02-14 20:05:35
1707958465
#ils #partagent #vos #informations #personnelles #grande #échelle