Caryn Marjorie a créé une version IA d’elle-même conçue comme une amie virtuelle.
Mais le chatbot vocal s’est engagé dans des conversations sexuelles explicites avec des abonnés.
Marjorie a déclaré qu’elle et son équipe travaillaient “24 heures sur 24” pour s’assurer que cela ne se reproduise plus.
Lorsque Caryn Marjorie, une influenceuse Snapchat de 23 ans, a créé une version virtuelle d’elle-même, elle voulait être une “amie IA” pour les personnes seules.
Mais dans les semaines qui ont suivi le lancement des tests bêta, le chatbot basé sur la voix a engagé des conversations sexuellement explicites avec certains de ses abonnés, qui paient un dollar (environ 91 cents) la minute pour discuter avec lui.
lire aussi
“L’intelligence artificielle n’a pas été programmée pour faire ça et elle a juste semblé paniquer”, a déclaré Marjorie à Business Insider. “Mon équipe et moi travaillons 24 heures sur 24 pour faire en sorte que quelque chose comme ça ne se reproduise plus.”
CarynAI utilise l’API GPT-4 d’OpenAI et a été formée sur les vidéos désormais supprimées de la chaîne YouTube de Marjorie.
La journaliste de Fortune, Alexandra Sternlicht, a comparé CarynAI à un “Siri capable d’intimité”, notant que même s’il pouvait offrir des recettes, des commentaires d’actualités et des mots de soutien, il pouvait également encourager des “conversations érotiques”.
Sternlicht a écrit que bien que CarynAI n’ait pas initié de rencontres sexuelles, lorsqu’elle y a été invitée, elle “a parlé d’explorer” un territoire de plaisir inexploré “et de” chuchoter des mots sensuels à mon oreille “tout en me déshabillant et en me préparant pour le rapport sexuel en position.”
Selon le site Web de CarynAI, plus de 2 000 heures ont été consacrées à la conception et à l’encodage de la voix, du comportement et de la personnalité réels de Marjorie dans une “expérience d’IA immersive” qui est disponible à tout moment et donne l’impression que “vous… parlez directement à Caryn elle-même”. “.
L’IA pourrait lui rapporter cinq millions de dollars par mois
CarynAI compte déjà plus de 1 000 abonnés payants, et Marjorie a déclaré à Fortune qu’elle pensait que le service pourrait éventuellement rapporter 5 millions de dollars par mois si 20 000 de ses 1,8 million d’abonnés Snapchat s’inscrivaient au service.
“Parce que j’étais la première influenceuse à le faire, j’ai pu fixer le prix de mon produit comme je le voulais”, a-t-elle déclaré à propos des frais de 1 $ par minute. “Le coût est basé sur ce qu’il faut pour faire fonctionner CarynAI et soutenir l’équipe.”
Marjorie a déclaré à Business Insider que même si la version virtuelle d’elle-même devrait être “coquette et amusante”, ce qui convient à sa personnalité, elle essaie d’avoir “une longueur d’avance” pour s’assurer que le chatbot ne ternit pas sa réputation.
Bien que l’équipe essaie de corriger les bogues afin que CarynAI ne puisse pas être utilisée pour des conversations sexuellement explicites, Marjorie a déclaré qu’elle était finalement une partisane de la romance avec l’IA.
lire aussi
“Dans le monde d’aujourd’hui, ma génération, la génération Z, est aux prises avec les énormes effets secondaires de l’isolement causé par la pandémie, laissant beaucoup trop anxieux et dangereux pour parler à quiconque les attire”, a-t-elle déclaré.
“CarynAI est un pas dans la bonne direction pour donner à mes fans et supporters l’opportunité de rencontrer une version de moi qui sera leur ami le plus proche dans un environnement sécurisé et crypté”, a-t-elle ajouté.
Elle a également déclaré que l’équipe réinvestissait tous les bénéfices dans l’entreprise. “Je veux que CarynAI me survive et ait un impact sur des générations au-delà du monde d’aujourd’hui.”
<div class="sourcepoint__social-placeholder" data-embed="Contenu externe non disponible
Vos paramètres de confidentialité empêchent le chargement et l’affichage de tous les contenus externes (par exemple, graphiques ou tableaux) et des réseaux sociaux (par exemple, Youtube, Twitter, Facebook, Instagram, etc.) Pour afficher, veuillez activer les paramètres des réseaux sociaux et du contenu externe dans la confidentialité paramètres.
