New York contre TikTok, Facebook et YouTube pour utilisation d’algorithmes addictifs

La nouvelle que la ville de New York intentait une action en justice contre les entreprises propriétaires de plusieurs réseaux sociaux dont TikTok, Instagram, Facebook, Snapchat et YouTube Il est apparu et a rapidement disparu des médias. À première vue, cela peut sembler une affirmation vouée à l’échec. Cependant, ce n’est pas le cas.

Contenu et fondement de la réclamation

Le procès réclame des dommages-intérêts compensatoires et punitifs dont le montant sera fixé dans le cadre d’une procédure qui doit se dérouler devant un jury.

Il s’agit d’un document complet et rigoureux qui comprend une description précise des faits sur lesquels se fonde la réclamation. Ainsi, pas moins de près de 300 pages de la plainte sont consacrées à la description des événements dommageables. Dans la première partie, les faits généraux applicables à tous les défendeurs sont exposés. Ci-dessous, dans des parties consécutives, sont décrits les faits dont serait responsable chacun des prévenus accusés d’utiliser des algorithmes addictifs pour mineurs.

De quoi sont accusées ces entreprises ?

Selon le procès, les entreprises défenderesses auraient conçu et développé des algorithmes pour attirer et obtenir, ainsi, des jeunes accros à leurs produits. Tout cela à l’aide d’applications mises en place pour rendre difficile le contrôle parental.

Ces faits généraux sont précisés pour chacune des sociétés en tenant compte des spécificités techniques et commerciales de chacune d’entre elles.

Le procès met également en évidence la dissimulation par Meta des effets néfastes de ses plateformes auprès du public, de l’administration de la ville de New York et du comité sénatorial américain lors de l’audience tenue à Washington le 31 janvier 2024.

Comment ont-ils fait ?

Concernant l’opération suivie, elle peut se résumer ainsi :

1. Premièrement, il y aurait eu une mise à jour continue des algorithmes pour maximiser leur capacité addictive et éviter l’abandon des utilisateurs.
2. La conception des algorithmes serait axée sur le développement d’un usage compulsif des applications. Par exemple, concernant TikTok, il est noté que les algorithmes seraient conçus pour maximiser l’utilisation avec une offre infinie de contenus et, en même temps, avec des contenus à offre limitée ou éphémère. Tout cela avec des récompenses virtuelles comme le nombre d’abonnés ou des « j’aime » pour avoir accepté le contenu proposé.
3. La modification des algorithmes se serait faite délibérément et progressivement afin de maintenir les revenus des entreprises.
4. Les plateformes n’auraient pas créé de contrôles efficaces de vérification de l’âge des utilisateurs, permettant l’accès aux mineurs.
5. Ils n’auraient pas non plus développé de contrôles parentaux efficaces.

Effet sur les enfants et les jeunes

Le procès allègue des préjudices mentaux causés aux jeunes, prouvés par les services de santé mentale de New York. Parmi les effets spécifiques, il faut souligner la promotion d’images négatives du corps des enfants. Par exemple, grâce à l’utilisation d’outils tels que des lentilles et des filtres pour modifier l’apparence physique qui favoriseraient des normes physiques irréalistes dont la comparaison néfaste avec la réalité affecterait l’estime de soi et la santé mentale des utilisateurs mineurs.

Tout cela, ajoutent-ils, aurait conduit à un crise de santé mentale chez les jeunes.

Que demande le procès ?

Le procès contient trois réclamations :

1. Pour trouble à l’ordre public (nuisance publique) des millions de dollars sont demandés et doivent être réglés au procès.

2. En raison d’une négligence (négligence), puisque les entreprises connaissaient – ​​ou auraient dû connaître – les effets de leurs produits sur la santé mentale des utilisateurs mineurs. À ce stade, le procès demande une peine qui inclut la fourniture de ressources suffisantes par les accusés pour fournir des services de santé mentale aux personnes concernées (dans les écoles, les hôpitaux publics et les programmes de la ville de New York). Mais il parle également de deux types de dommages-intérêts : compensatoires et punitifs.

3. Pour négligence grave (négligence grave), sur la base de tout ce qui a été exprimé ci-dessus, mais en qualifiant le comportement des défendeurs d’imprudent et d’indifférence aux droits des utilisateurs et du public en général.

Comment se terminera cette action judiciaire ?

Bien qu’il soit difficile de prédire l’avenir, il convient de noter qu’un procès devant jury est demandé, dans lequel les accusés se trouveraient probablement dans une position défavorable. Or, ce procès n’aura probablement jamais lieu pour diverses raisons.

Tout d’abord, la disparité des intérêts des accusés ne les aide pas. De plus, la tenue d’un procès affecterait la réputation des entreprises et les obligerait à révéler des secrets d’affaires liés à l’architecture de leurs algorithmes. Quelque chose qu’ils tenteront sans aucun doute d’éviter.

Il est donc probable que ce procès se conclura par un accord sur une compensation d’un million de dollars qui ne représentera pas trop pour les entreprises défenderesses. C’est une solution qui est habituellement adopté dans ce type de procédures.

Bien entendu, il est prévisible que le procès de la ville de New York entraînera des changements dans la prise en charge par les entreprises de la responsabilité des dommages qu’elles peuvent causer, notamment aux mineurs. Surtout par rapport aux algorithmes développés pour l’utilisation de leurs réseaux sociaux.