Modèles sombres : comment les entreprises en ligne s’efforcent de conserver votre argent et vos données lorsque vous essayez de partir

Vous êtes-vous inscrit à un service en ligne pour un essai gratuit, avez-vous décidé que ce n’était pas pour vous, mais avez quand même fini par le payer des mois, voire des années, plus tard ? Ou avez-vous essayé d’annuler un abonnement et avez-vous fini par abandonner au cours d’un processus fastidieux ? Si tel est le cas, il y a de fortes chances que vous ayez rencontré un « motif sombre ».

Motifs sombres sont des astuces intelligentes intégrées aux applications et aux sites Web pour vous encourager à faire des choses que vous n’avez pas nécessairement envie de faire. Ils facilitent par exemple « accepter tous » les cookies de suivi et acceptent rapidement les termes et conditions pendant que vous vous dépêchez d’effectuer votre achat.

Ils facilitent également l’inscription à un service, mais le quittent prend beaucoup de temps et est frustrant. Et nos récentes recherches montre comment ils profitent la plupart du temps aux entreprises au détriment des consommateurs.

Ce déséquilibre n’est pas passé inaperçu auprès des régulateurs. La Federal Trade Commission (FTC) des États-Unis, qui vise à protéger les consommateurs contre les pratiques commerciales déloyales, estime un nombre croissant des entreprises « utilisent des modèles numériques sombres pour inciter les gens à acheter des produits et à divulguer leurs informations personnelles ».

Par exemple, la FTC est actuellement enquête sur Amazon sur son utilisation présumée de modèles sombres pour inscrire les clients à son service Prime, tout en rendant difficile leur départ. Notre recherche soutient le observation de l’agence selon laquelle “Les consommateurs qui ont tenté d’annuler Prime ont été confrontés à plusieurs étapes pour réellement accomplir la tâche d’annulation”.

Dans une déclaration sur son site Internet, Amazon a déclaré que le procès montrait « l’incompréhension de la FTC à l’égard du commerce de détail ». Ça aussi dit: “Nous permettons aux clients de s’inscrire ou d’annuler leur abonnement Prime de manière claire et simple.”

La FTC est pas seul dans ses préoccupations sur les motifs sombres. L’UE a récemment adopté une loi qui peut être utilisé pour infliger des amendes aux entreprises qui utilisent des modèles sombres, et la Financial Conduct Authority du Royaume-Uni a règles lancées conçu pour protéger les consommateurs des schémas sombres des services financiers.

Pendant ce temps, l’Autorité britannique de la concurrence et des marchés (CMA) a récemment annoncé sa première enquête sur les modèles sombres avec un lettre ouverte mettant en garde les entreprises contre ce qu’elles appellent des « architectures de choix en ligne nuisibles ».

« Architecture de choix » est un terme inventé par les auteurs du livre extrêmement populaire et influent livre Coup de coude. Ils le décrivent comme « la conception de différentes manières par lesquelles les choix peuvent être présentés aux décideurs ».

Par exemple, un « architecte de choix » pourrait aider un consommateur en réduisant la quantité d’informations non pertinentes qui lui sont présentées, laissant ainsi l’espace nécessaire à une prise de décision réfléchie et ciblée. Mais la plupart des motifs sombres fonctionnent manipuler l’architecture des choix.

Plutôt que d’aider les consommateurs, l’architecture est conçue pour entraver le choix. Ainsi, au lieu de supprimer les éléments non pertinents, il peut bombarder un utilisateur d’informations excessives, d’étapes supplémentaires et de distractions pour l’empêcher d’annuler un abonnement.

Comme le Notes de l’AMCdans le monde en ligne d’aujourd’hui, « les entreprises peuvent concevoir et contrôler chaque aspect de leurs interactions avec nous dans une mesure sans précédent dans les entreprises traditionnelles ».

Les recherches suggèrent que la CMA a raison et que les entreprises en ligne ont une capacité presque illimitée à affiner leurs interactions avec les consommateurs. Les expériences en ligne sont de plus en plus personnaliséet les entreprises à la pointe de la technologie disposent de plus de moyens que jamais pour interagir avec nous – et nous manipuler.

Voir la lumière

Et tandis que les régulateurs ont tendance à se concentrer sur les modèles sombres pour inciter les consommateurs à se séparer de leur argent ou de leurs données, d’autres ont exprimé des inquiétudes sur les dommages psychologiques potentiels et la perte de liberté des utilisateurs de services en ligne.

En gardant ces risques à l’esprit, nous avons utilisé les enseignements des sciences du comportement pour identifier certains des processus qui faire fonctionner les motifs sombres et créé un cadre simple pour décrire les stratégies les plus répandues. « Détours » par exemple, est le nom que nous avons donné aux outils utilisés pour nous retarder et nous distraire, comme exiger un nombre excessif d’actions pour annuler un abonnement.

Les « ronds-points » tentent de nous ennuyer ou de nous frustrer jusqu’à abandonner, comme cliquer sur lien après lien, faisant tourner les utilisateurs en rond. Et les « raccourcis » offrent un choix immédiatement simple – mais potentiellement coûteux –, comme les boutons « tout accepter » sur les invites de cookies ou les demandes d’acceptation des termes et conditions. Dans une étudeun document de modalités particulièrement long a conduit 98 % des participants à accepter de remettre leur premier-né en guise de paiement.

Notre cadre de termes est conçu dans un souci de simplicité : pour permettre aux consommateurs de détecter eux-mêmes les tendances sombres et pour aider les régulateurs à intervenir. Car la liberté de créer et de supprimer des comptes pour un service est une étape fondamentale pour naviguer dans le monde en ligne.

Et il ne devrait pas être beaucoup plus simple de créer un compte sur un réseau social que de le supprimer. Il n’y a aucune bonne raison pour que les détours, les ronds-points et les raccourcis gênent. Nous pensons qu’il devrait être aussi simple – voire plus simple – de supprimer un compte que d’en créer un. La plupart des services que nous avons examinés n’ont pas répondu à cette norme.

Sans la réticence des consommateurs et sans une réglementation musclée, le monde en ligne deviendra probablement encore plus difficile à naviguer pour les gens ordinaires. Du côté positif, les régulateurs semblent intensifier leurs efforts et de nouveaux outils permettant de protéger les consommateurs contre les modèles sombres font leur apparition. Il se peut qu’il y ait encore de la lumière au bout de ce tunnel manipulateur.

Richard Whittlechercheur universitaire en IA et prise de décision humaine, Université de Salford et Stuart Millsprofesseur adjoint d’économie, Université de Leeds

Cet article est republié à partir de La conversation sous licence Creative Commons. Lis le article original.