Data Protection enquête sur plusieurs entreprises concernant les tendances addictives des plateformes Internet : « Elles présentent un risque pour les mineurs » | Technologie

De nombreuses plateformes et applications mobiles sont conçues de telle manière qu’elles créent une dépendance pour les utilisateurs. L’Agence espagnole de protection des données (AEPD) a annoncé aujourd’hui qu’elle enquêtait sur plusieurs entreprises pour cette raison, après avoir présenté un rapport dans lequel elle examine les mécanismes qui rendent ces services en ligne irrésistibles et évalue leur impact social. Ses conclusions sont significatives : « L’incorporation de schémas addictifs implique un risque pour les droits et libertés de tous les usagers. » Ces risques affectent « leur intégrité physique et mentale, mais peuvent aussi provoquer des discriminations, des exclusions, des manipulations, porter atteinte à l’autonomie individuelle, influencer leur pensée, leurs émotions, leur comportement, limiter leur liberté d’information et d’expression, générer de l’autocensure et affecter l’autonomie. et le développement. »

Le document souligne que tout ce qui précède peut être particulièrement grave « pour les enfants et les jeunes utilisateurs ». Le directeur de l’AEPD, Mar España, a évoqué la gravité de l’affaire en ces termes ce matin lors de la présentation du rapport : « De la même manière que personne ne donnerait une bouteille de vin à son enfant de huit ou dix ans , car “Cela affecte le développement neuronal du cerveau, nous devons avoir les mêmes considérations avec l’utilisation sûre d’Internet.”

Le recours à ces techniques a également des implications du point de vue de la vie privée. “Cela affecte la responsabilité proactive, l’application effective des obligations de protection des données dès la conception et par défaut, la transparence, la légalité, la loyauté, la limitation des finalités, la minimisation des données, les décisions automatisées ou le traitement de catégories particulières de données”, affirme l’étude.

Pour toutes ces raisons, l’AEPD va ouvrir des enquêtes sur certaines entreprises qui se sont surpassées dans ce domaine, même si l’Espagne a déclaré que, pour des raisons de confidentialité, elle ne pouvait pas donner de noms sur les plateformes analysées par l’organisation. Le directeur a également déclaré qu’une réponse au niveau européen à ce sujet était en cours de coordination.

« L’industrie Internet est la principale responsable », a déclaré l’Espagne, « mais les gouvernements doivent prendre des mesures. Dans le cas contraire, au moment où nous voudrons affronter le problème, cette génération d’enfants sera la plus touchée en termes d’impact émotionnel depuis la Seconde Guerre mondiale.»

L’effet machine à sous

Selon l’Agence, les fournisseurs de services en ligne qui ne facturent pas les utilisateurs sont financés par la vente de services de publicité en ligne qui permettent d’adresser des publicités spécifiques aux parties intéressées. « Avec ce modèle, les avantages économiques des fournisseurs dépendent, dans une large mesure, de la durée pendant laquelle l’utilisateur utilise leurs produits », indique le rapport. « Pour cette raison, certains fournisseurs d’accès Internet tentent de maintenir les utilisateurs sur la plateforme, l’application ou le service le plus longtemps possible, et influencent ou manipulent leur comportement en incluant des opérations supplémentaires au traitement des données personnelles basées sur des modèles de conception trompeurs et addictifs », souligne .

L’AEPD comprend les modèles de dépendance comme « les caractéristiques, les attributs ou les pratiques de conception qui déterminent une manière particulière d’utiliser les plateformes, applications et services numériques destinés à ce que les utilisateurs passent beaucoup plus de temps à les utiliser ou avec un degré d’engagement plus élevé que prévu ». ou sain pour eux. Le document met en garde contre les implications que cette manière de fonctionner a sur les mineurs. « Son impact peut être particulièrement grave sur le droit à l’intégrité physique et mentale des enfants et des jeunes usagers, affectant leur manière de prendre des décisions, leurs relations en société ou leur équilibre mental », souligne-t-il.

« Tout cela est prouvé et établi. L’industrie en est pleinement consciente», a souligné l’Espagne en référence aux révélations de Frances Haugen, l’ancienne employée de Facebook qui a divulgué des centaines de documents officiels à Le journal de Wall Street ce qui montrait que les dirigeants de l’entreprise technologique étaient conscients que les algorithmes de Facebook et d’Instagram propageaient parmi les adolescents, notamment chez les filles, les bienfaits de l’anorexie ou même des pensées suicidaires.

Aux États-Unis, les principales plateformes de médias sociaux font face à une cascade de poursuites judiciaires en raison de leurs effets néfastes sur les jeunes utilisateurs. L’ONU souligne également la nécessité de protéger les droits de l’homme de l’enfance dans la sphère numérique. Dans certains États américains, comme New York, il sera interdit aux réseaux sociaux de montrer du contenu à des mineurs sur la base d’algorithmes de recommandation lorsqu’une série de circonstances s’appliquent.

Dans l’UE, on s’inquiète également de plus en plus des modèles de conception trompeurs et addictifs des services en ligne. En ce sens, le document rappelle que le Parlement européen a adopté une résolution en 2023 qui exige l’interdiction des pratiques addictives telles que défilement lecture de contenu infinie ou automatique, tandis que les deux éléments encouragent une longue connexion. À l’heure actuelle, des mesures supplémentaires sont en cours de discussion à Bruxelles pour réglementer la conception addictive et protéger les utilisateurs, en particulier les plus vulnérables, de ces schémas. Le règlement sur l’intelligence artificielle (IA) agira également dans ce domaine lorsque des modèles de dépendance seront mis en œuvre via des modèles d’IA.

Types de modèles de dépendance

Le document classe les modèles de dépendance en trois niveaux : élevé, moyen et faible. Parmi les éléments de haut niveau figurent les éléments dits d’action forcée (ceux qui offrent à l’utilisateur quelque chose qu’il veut et lui demandent de faire quelque chose en échange de l’obtenir), qui incluent des techniques typiques des machines à sous, telles que défilement infini, le streaming infini (quand une chanson, une vidéo ou un chapitre se termine, un autre similaire commence) le tirer pour rafraîchir (en tapotant sur l’écran pour mettre à jour le contenu, ce qui est souvent combiné avec des modèles de recommandation algorithmiques de contenu personnalisé) ou des minuteries. D’autres techniques de gamification entrent également dans cette catégorie, comme les récompenses périodiques, les incitations à compléter des collections, les compétitions guidées ou le jeu par date.

Un autre ensemble de modèles de dépendance de haut niveau sont ceux inclus dans le cadre de l’ingénierie sociale. Ils visent à « offrir à l’utilisateur quelque chose basé sur ses biais cognitifs ou ses tendances comportementales pour le manipuler et l’amener à prendre des décisions involontaires, involontaires, voire potentiellement nuisibles ». Ces techniques créent la sensation de disponibilité limitée pour encourager des décisions hâtives (par exemple, lorsqu’un réseau social propose un contenu exclusif à un nombre limité d’utilisateurs) et génèrent des illusions de popularité, de soutien ou de consensus de la communauté des utilisateurs (coup de pouce, likes, followers). ).

Ce sentiment est renforcé par des notifications d’activité, comme savoir qui est en ligne ou qui a une nouvelle publication, par des messages d’alerte (par exemple, des annonces d’anniversaire) qui font appel à un faux sentiment d’urgence ou en induisant un sentiment de culpabilité ou de gêne chez les utilisateurs. , ce qui est réalisé avec des messages tels que « Vous avez manqué à vos amis » ou en ne conservant les messages sur le réseau social que pendant une durée limitée. La peur de rater quelque chose (FOMO) est également dûment exploitée, soit en proposant le contenu le plus viral de manière répétée, soit en mettant constamment à jour le contenu, ce qui fait croire à l’utilisateur que lorsqu’il n’est pas connecté, il manque des mises à jour avec du contenu important.

Cet ensemble de techniques est basé sur la personnalisation, qui permet de configurer ces schémas de dépendance « pour trouver l’équilibre parfait qui permet à l’utilisateur de rester connecté le plus longtemps possible avec le plus haut degré d’engagement possible sans se sentir gêné par ces schémas ». Pour cela, on utilise ce que l’on appelle des connecteurs sociaux (pouvoir partager des expériences en ligne avec la famille ou les amis) et des recommandations algorithmiques.

Le troisième grand groupe de modèles addictifs de haut niveau est constitué de ce que l’on appelle les interférences d’interface : manipuler la présentation de l’application ou du site Web pour promouvoir certaines actions. Ceci est réalisé en modifiant la conception visuelle, en mettant l’accent sur certains éléments et en minimisant d’autres, et en manipulant les émotions des utilisateurs, soit avec un langage persuasif (« Connectez-vous maintenant ! », « Publier maintenant »), soit en submergeant l’utilisateur avec trop de contenu et d’informations.

Enfin, les schémas addictifs recourent à des techniques de persistance, visant à exploiter l’impulsion humaine innée pour terminer les tâches commencées. Les barres de progression ou les micro-interruptions (généralement des publicités) sont typiques qui font passer l’utilisateur d’un site Web à un autre et l’invitent à revenir sur la bonne voie plus tard.

Selon l’Espagne, les dernières études ont détecté un préjugé sexiste dans la dépendance des mineurs. “Les filles sont plus vulnérables aux réseaux sociaux et les garçons aux sites à contenu pornographique et aux jeux vidéo”, a-t-il déclaré lors de la présentation du rapport. Selon lui, maîtriser les effets addictifs des plateformes est l’un des principaux défis auxquels nous sommes confrontés à l’ère numérique. « Si ces schémas ont déjà des effets sur ceux qui en 2008 [en referencia a la fecha de aparición del iPhone] Nous avons déjà formé notre cerveau, imaginez comment cela affectera le reste.

Vous pouvez suivre Technologie EL PAÍS dans Facebook et X ou inscrivez-vous ici pour recevoir notre newsletter semestrielle.