L’IA pourra vendre nos décisions avant que nous les prenions

Dans un avenir proche, nous pourrions voir des assistants IA prédire et influencer nos prises de décision à un stade précoce, et vendre ces « intentions » en développement en temps réel à des entreprises capables de répondre aux besoins, avant même que nous réalisions que nous avons pris une décision. comme l’indiquent les éthiciens de l’IA de l’Université de Cambridge (Royaume-Uni) dans une nouvelle publication de Revue de la science des données de Harvard ⁽¹⁾.

“Economie d’intention”

Dans la nouvelle étude, les spécialistes de l’IA affirment que nous sommes à l’aube d’un « nouveau marché lucratif mais problématique pour les signaux numériques d’intention », de l’achat de billets de cinéma au vote pour les candidats. Ils appellent cela « l’économie d’intention ».

Ainsi, les chercheurs du Leverhulme Center for the Future of Intelligence (LCFI) à Cambridge soutiennent que l’explosion de l’IA générative et notre familiarité croissante avec les chatbots ouvrent une nouvelle frontière de « technologies persuasives »fait allusion dans les récentes annonces des géants de la technologie.

Les agents d’IA « anthropomorphes », des assistants chatbots aux tuteurs numériques, auront accès à de grandes quantités de données psychologiques et comportementales intimes, souvent obtenues via des dialogues parlés informels et conversationnels.

Les agents d’IA « anthropomorphes », des assistants chatbots aux tuteurs numériques, auront accès à de grandes quantités de données psychologiques et comportementales intimes, souvent obtenues par le biais de dialogues parlés informels et conversationnels. Cette IA combinera la connaissance de nos habitudes en ligne avec une étrange capacité à s’adapter à nous d’une manière que nous trouvons réconfortante (imiter des personnalités et anticiper les réponses souhaitées) pour générer des niveaux de confiance et de compréhension qui permettent une manipulation sociale à l’échelle industrielle, disent les chercheurs. chercheurs.

Des assistants IA dans tous les domaines de la vie

“Des ressources énormes sont dépensées pour placer des assistants IA dans tous les domaines de la vie, ce qui devrait soulever la question de savoir quels intérêts et quels objectifs ces soi-disant assistants sont censés servir”, note le Dr Yaqub Chaudhary, chercheur invité au LCFI. “Ce que les gens disent lorsqu’ils parlent, comment ils le disent et types d’inférences qui peuvent ainsi être réalisés en temps réel, sont bien plus intimes que de simples enregistrements d’interactions en ligne. Nous avertissons que des outils d’intelligence artificielle sont déjà en cours de développement pour obtenir, déduire, collecter, enregistrer, comprendre, prévoir et, finalement, manipuler et marchandiser les plans et les objectifs humains”, ajoute l’expert.

Nous notons que des outils d’intelligence artificielle sont déjà développés pour susciter, déduire, collecter, enregistrer, comprendre, prévoir et, finalement, manipuler et marchandiser les plans et objectifs humains.

Pour sa part, le Dr Jonnie Penn, historien des technologies à la LCFI de Cambridge, réfléchit : « Pendant des décennies, l’attention a été la monnaie d’échange d’Internet. Partager l’attention avec les plateformes de Les réseaux sociaux comme Facebook et Instagram ont stimulé l’économie en ligne. Sauf réglementationl’économie de l’intention traitera les motivations comme la nouvelle monnaie. Ce sera une ruée vers l’or pour ceux qui se concentrent sur les intentions humaines, les dirigent et les vendent. “Nous devrions commencer à réfléchir à l’impact possible qu’un tel marché aurait sur les aspirations humaines, notamment des élections libres et équitables, une presse libre et une concurrence loyale sur le marché, avant de devenir victimes de ses conséquences involontaires”, prévient-il.

De cette manière, Penn et Chaudhary écrivent que l’économie de l’intention sera l’économie de l’attention « représentée graphiquement au fil du temps » : décrivant comment l’attention de l’utilisateur et son style de communication sont liés aux modèles de comportement et aux choix que nous finissons par faire.

Alors que les chercheurs affirment que l’économie d’intention est actuellement une « aspiration » pour l’industrie technologique, à l’heure actuelle Ils suivent déjà les premiers signes de cette tendance grâce à des recherches publiées et à des indices publiés par plusieurs acteurs technologiques majeurs.