2024-05-07 16:46:18
Dans un article publié dans le numéro de juin de The Computer & Internet Lawyer, l’associé Matthew Richardson donne un aperçu de la marche à suivre lorsque des chatbots basés sur l’IA fournissent des informations erronées.
L’article, intitulé « Quand les chatbots deviennent voyous : des leçons pour les entreprises », note que ces assistants numériques sont devenus « un compagnon indispensable » dans le secteur du voyage et ont révolutionné les interactions avec les clients, de la réservation de vols à la réponse aux requêtes. Mais Richardson a souligné une mésaventure récente impliquant le chatbot d’Air Canada pour aider les entreprises à naviguer dans la frontière de l’intelligence artificielle.
Le petit-fils en deuil Jake Moffatt a utilisé le chatbot d’Air Canada pour réserver un vol de dernière minute pour les funérailles de sa grand-mère, ce qui lui a promis qu’il pourrait obtenir un tarif de deuil après avoir réservé le vol à plein tarif. Il a ensuite découvert que la réduction n’existait pas et que le chatbot était une « entité juridique distincte » responsable de ses propres actions.
Le Tribunal de résolution civile de la Colombie-Britannique n’a pas accepté l’argument d’Air Canada, mais a statué en faveur du passager, ordonnant à la compagnie aérienne de payer des dommages-intérêts et des frais à Moffatt, a écrit Richardson. La décision du tribunal envoie un message clair, selon Richardson.
« Les entreprises ne peuvent pas se cacher derrière leurs chatbots », a écrit Richardson. « Si vous confiez une partie de votre entreprise à AI, vous êtes responsable de ses actes. Gabor Lukacs, président du groupe de défense des droits des passagers aériens, considère cette affaire comme un tournant. Cela crée un précédent pour les compagnies aériennes et les agences de voyages qui s’appuient sur l’IA. Oui, les entreprises sont responsables de ce que dit et fait leur technologie. Le principe est simple : si vous utilisez l’IA, vous en assumez les conséquences. »
En ce qui concerne l’IA et les chatbots, Richardson a conclu que la transparence n’est pas négociable, que la surveillance humaine reste cruciale, que les entreprises doivent comprendre la responsabilité légale et que la confiance des clients peut être facilement érodée par un chatbot malavisé.
« Alors que les entreprises adoptent l’IA, elles doivent se rappeler : les chatbots ne sont pas de simples lignes de code ; ce sont des ambassadeurs de votre marque », a écrit Richardson. « Donc, si vous envisagez de mettre en œuvre un chatbot pour interagir avec les clients, souvenez-vous de la saga de Moffatt. Derrière la façade numérique se cache un monde de responsabilités.
Lisez l’article complet ici.
#Dans #Computer #Internet #Lawyer #lassocié #Matthew #Richardson #met #lumière #les #chatbots #Rogue
1715092498