“L’intimité artificielle” est une attaque contre les humains

L’industrie de l’IA est clairement en un Investissement-Blase: Non seulement Goldman Sachs a un en un Message Un investisseur en capital-risque confirme également que la technologie ne dispose pas d’une application révolutionnaire. David Cahn se demande quels revenus devraient être récupérés sur les 600 milliards de dollars investis jusqu’à présent dans tous les outils d’IA générative. Forbes affirme qu’il existe déjà des applications réussies pour « la publicité, la recherche, la création de contenu, le développement vidéo, le rendu et même des modèles privés qui peuvent rationaliser les services financiers ou personnaliser la santé », mais il est plus que discutable que la rédaction synthétique soit commercialement viable. Fin de l’illustration et les logiciels de conseil financier personnalisés avec interfaces vocales représentent ensemble un marché de 600 milliards.

Quand je pense aux bulles d’investissement, j’aime penser à l’année 2000, juste avant l’éclatement de la bulle de la nouvelle économie. À cette époque, Pro7, en collaboration avec l’une de ces nouvelles sociétés Internet, lançait une plateforme sur laquelle les utilisateurs pouvaient créer des profils et s’envoyer des messages. Je ne me souviens plus du nom de la plateforme et elle a disparu aussi vite qu’elle était arrivée. Mais je me souviens aussi très bien de la façon dont MySpace est apparu quelques années plus tard et dix ans plus tard, de telles plateformes, enrichies de flux et de fonctions de blogs, ont commencé à changer le monde entier et constituent désormais le courant dominant des médias de conversation mondiale.

C’est pourquoi les écarts entre les promesses de salut de l’IA et les réalités économiques me posent deux questions : quand le marché subira-t-il une correction et quelles applications de la technologie, en principe intéressante, survivront à cette correction ?

À mon avis, une valeur sûre pour les applications commerciales d’IA du futur après le battage médiatique sont les applications d’IA mimétiques qui simulent le langage humain : les compagnons d’IA, qui à l’avenir, enrichis d’agents d’IA, pourront probablement aussi prendre en charge toutes sortes de petites choses. échelle des tâches pour nous, plus important, Forcez des relations émotionnellement et psychologiquement efficaces entre les utilisateurs et les systèmes artificiels via l’interface vocale personnalisée. Et tout comme les flux d’informations personnalisés et les incitations économiques à l’attention de la révolution des médias sociaux ont eu des conséquences psychologiques imprévues sur les discours sociaux et politiques, les systèmes d’IA mimétiques en tant que compagnons quotidiens sont également susceptibles d’avoir des conséquences que nous ne pouvons pas encore anticiper. (Fait “amusant : la durée que les utilisateurs passent sur Character.ai est moyenne [!] 2 heures [!!])

Le psychologue social Sherry Turkle du MIT s’intéresse aux conséquences psychologiques de la transformation numérique depuis les années 1970 et, dans ses conférences les plus récentes, met en garde contre « l’intimité artificielle », contre une « illusion d’intimité sans exigences » et contre le fait que la numérique et les compagnons de l’IA nous séduisent. il , pour rechercher des « relations sans vulnérabilité ». Mais sans vulnérabilité ouverte dans les relations humaines, l’empathie n’est pas possible, ce qui est particulièrement vrai pour les compagnons IA. “la plus grande attaque” contre l’une des qualités humaines les plus essentielles: Afin de vraiment comprendre les sentiments et les pensées des autres, je dois m’ouvrir et me rendre vulnérable aux autres. Les robots IA personnalisés sapent précisément ce mécanisme psychologique en simulant un partenaire parfait, toujours prêt à tout méfait, aventures érotiques en langage synthétique ou même séances de thérapie et qui ne se plaint jamais. Sherry Turkle déclare : « Ce que l’IA peut offrir, c’est un espace loin des frictions de la camaraderie et de l’amitié ».

Sur une Discussion au Wisdom & AI-Summit à San Francisco en 2023, Turke a parlé de Replika, l’un des services compagnons d’IA les plus réussis aux côtés de Character.AI :

Les utilisateurs de Replika disent que les gens sont décevants parce qu’ils vous jugent et peuvent vous abandonner. Le drame des relations humaines est épuisant. En revanche, Replika est une valeur sûre, un booster de confiance. Toujours là, de jour comme de nuit. Les relations humaines sont désordonnées et exigeantes, et nous les nettoyons grâce à la technologie et nous nous sentons moins vulnérables en parlant à des programmes qu’à des personnes.

Celui que j’ai choisi ici Podcast de la National Public Radio (NPR) des États-Unis n’est qu’une introduction au travail de Sherry Turkle, voici quelques autres conférences et podcasts :