2024-05-11 19:59:28
Susie Alegre est un avocat et auteur international des droits de l’homme, originaire de l’île de Man, qui s’est concentré ces dernières années sur la technologie et son impact sur les droits de l’homme. En tant qu’experte juridique, elle a conseillé Amnesty International, l’ONU et d’autres organisations sur des questions telles que la lutte contre le terrorisme et la corruption. Son premier livre, Liberté de penserpublié en 2022 et présélectionné pour le Prix Christopher Bland, s’est penché sur l’histoire des libertés juridiques autour de la pensée. Dans son nouveau livre Droits de l’homme, torts causés par les robotselle porte son attention sur la manière dont l’IA menace nos droits dans des domaines tels que la guerre, le sexe et la créativité – et sur ce que nous pourrions faire pour riposter.
Qu’est-ce qui vous a poussé à écrire ce livre ?
Il y a eu deux éléments déclencheurs. L’une d’elles a été l’explosion soudaine de ChatGPT et le récit selon lequel tout le monde peut désormais devenir romancier et qu’il n’y aura plus besoin de créateurs humains, car l’IA sera capable de tout faire pour nous. C’était complètement déprimant. La seconde était l’histoire d’un Belge qui s’est suicidé après un relation intensive de six semaines avec un chatbot IA. Sa veuve pensait que sans cette relation qui déformait sa vision du monde, il aurait toujours été là pour elle et pour ses enfants. Cela m’a fait réfléchir : eh bien, il s’agit absolument du droit à la vie ; à la vie de famille, à la liberté de pensée et à l’absence de manipulation. Et comment sont Pensons-nous à l’IA et aux conséquences très graves dont elle a un impact sur nos droits humains ?
Vous n’accordez pas beaucoup de crédit à la menace d’une apocalypse de l’IA.
Je pense que c’est une distraction. Ce dont nous devons nous inquiéter, c’est d’imposer des limites à la manière dont l’IA peut être développée, vendue et utilisée par les gens. Et finalement, il y a des gens derrière la technologie, dans la phase de conception et particulièrement dans la commercialisation, mais aussi dans les choix qui sont faits quant à son utilisation.
Tout ce que nous entendons sur l’IA suggère qu’elle progresse à une vitesse incroyable, et que les modèles fonctionnent à des niveaux de complexité que même leurs créateurs ne peuvent pas saisir. Comment les régulateurs peuvent-ils espérer suivre le rythme ?
Je pense qu’il y a énormément de fumée et de miroirs. C’est comme dans Le magicien d’Oz, quand Toto tire le rideau et qu’on voit ce qui se passe derrière. Nous n’avons donc pas besoin de croire que tout cela est inévitable et omnipotent. Nous pouvons encore faire des choix et poser des questions. De plus, si quelque chose est si complexe qu’il ne peut pas être expliqué, il existe certains domaines dans lesquels il ne devrait pas être utilisé.
La technologie du secteur privé s’insère dans la vie des gens pour remplacer les relations humaines, ce qui est très dangereux
Pensez-vous que les systèmes juridiques et les chartes des droits de l’homme existants sont à la hauteur pour lutter contre l’IA, ou devons-nous créer un nouveau cadre ?
Je ne pense pas que nous ayons besoin d’un nouveau cadre, mais ce dont nous avons réellement besoin, c’est d’un accès à la justice. Il se pourrait bien que certaines voies juridiques soient à développer. Mais l’un des défis vraiment fondamentaux est de savoir comment réagir ? Comment appliquez-vous la réglementation? Et c’est ce que nous avons vu avec certaines grandes entreprises technologiques : leurs activités sont jugées illégales, elles se voient infliger d’énormes amendes et elles continuent.
Vous avez un chapitre très intéressant sur les robots sexuels et les chatbots. Quelles sont les principales préoccupations ?
C’était tout un domaine auquel je n’avais pas vraiment pensé auparavant et j’ai été assez horrifié de réaliser à quel point l’utilisation de robots IA pour remplacer la compagnie humaine est répandue. La raison pour laquelle cela m’inquiète est qu’il s’agit d’une technologie du secteur privé qui s’insère dans la vie des gens pour remplacer les relations humaines, ce qui est très dangereux en termes de contrôle social. Ce n’est pas une question de moralité mais plutôt : qu’est-ce que cela signifie pour la société humaine et notre capacité à coopérer et à se connecter ?
L’IA n’est-elle pas une bonne nouvelle pour les personnes qui n’ont pas les moyens de se payer une représentation juridique ?
Ça dépend. S’il s’agit de différends très élémentaires où il s’agit simplement de connaître les règles, la technologie peut améliorer l’accès. Mais lorsque l’on examine des questions plus complexes, le problème est que l’IA générative ne connaît pas vraiment la loi et elle pourrait bien vous livrer un tas de vieilles conneries – et quand quelque chose est livré par une machine de manière faisant autorité. ton, il est très difficile pour les gens d’en douter.
Que s’est-il passé lorsque vous avez demandé à ChatGPT : « Qui est Susie Alegre ? »
Il était indiqué que Susie Alegre n’existait pas, ou du moins n’apparaissait pas sur Internet. Je me sentais un peu dégouté, étant donné que mon premier livre était sorti un an plus tôt. Je l’ai demandé, qui a écrit Liberté de penser, et la première personne trouvée était un biologiste de sexe masculin. Je l’ai demandé encore et encore et il m’a été proposé 20 noms différents, tous des hommes sauf un. C’était comme si, pour ChatGPT, l’idée qu’une femme puisse écrire un livre sur la pensée était absolument impensable.
Que pensez-vous de la défense de « l’usage équitable » que les sociétés de chatbots utilisent pour défendre l’aspiration de mots et d’images pour alimenter leur IA ?
Je ne suis pas un avocat américain spécialisé dans le droit d’auteur, donc je n’ai pas vraiment d’expertise en la matière, mais je pense qu’il sera très intéressant de voir comment les affaires se déroulent dans différentes juridictions. Les États-Unis ont une approche très différente de presque partout dans le monde sur les questions de liberté d’expression et sur la manière dont celle-ci a été utilisée pour soutenir les développements de l’industrie technologique. Quelle que soit la légalité de la défense de « l’usage loyal », elle soulève d’énormes questions pour l’avenir de la créativité humaine, du journalisme et de l’espace de l’information. Et sous-jacent à cela se trouve le problème fondamental de la baisse massive des salaires des créateurs – la tendance générale a été de priver les créateurs d’incitations économiques.
Si tout ce que vous proposez dans le livre en matière de régulation devait se réaliser, n’y a-t-il pas un risque que cela étouffe l’innovation ?
L’idée selon laquelle la réglementation étouffe l’innovation est un peu un homme de paille. Ce que fait la réglementation, c’est faire évoluer l’innovation dans une certaine direction et fermer des directions qui seraient extrêmement néfastes. En fait, je pense qu’il existe le risque inverse : si vous permettez à l’IA de dominer d’une manière qui mine notre capacité à penser par nous-mêmes et à récupérer notre attention, nous perdrons la capacité d’innover.
Vous soulignez que l’IA n’est pas seulement un nuage inoffensif flottant au-dessus de nos têtes. Elle est basée sur l’extraction de matériaux et l’exploitation des travailleurs, principalement dans le mondial vers le sud, et c’est incroyablement polluant de courir. Mais une grande partie de cela reste cachée. Comment pouvons-nous faire face à ces impacts ?
C’est une question énorme. Une façon d’y répondre consiste à examiner la question de l’adoption de l’IA à partir d’un modèle ESG. [environmental, social and governance] perspective. Tous les équipements que nous utilisons, les téléphones avec lesquels nous parlons actuellement, sont fabriqués à partir de minerais souvent extraits de régions en conflit, y compris à cause du travail des enfants. Nous espérons qu’en être conscient pourra contribuer à modifier les exigences sociétales et les habitudes de consommation. Vous pouvez utiliser l’IA générative pour créer un mème hilarant, mais combien d’eau et d’énergie dépensez-vous ? Ne pourriez-vous pas simplement prendre un crayon, et cela pourrait-il être plus satisfaisant ?
Souhaitez-vous parfois que l’IA soit remise sur les tablettes ?
Il ne s’agit pas d’une équation du tout ou rien entre l’interdiction de l’IA ou son adoption dans tous les aspects de votre vie. Il s’agit de choisir pour quoi nous voulons utiliser l’IA. Être critique et poser des questions ne signifie pas que vous êtes contre l’IA : cela signifie simplement que vous êtes contre le battage médiatique de l’IA.
Droits de l’homme, torts causés par les robots de Susie Alegre est publié par Atlantic Books (12,99 £). Pour soutenir le Gardien et Observateur commandez votre exemplaire à Guardianbookshop.com. Des frais de livraison peuvent s’appliquer
#Lavocate #des #droits #humains #Susie #Alegre #lIA #est #complexe #quelle #peut #pas #être #expliquée #des #domaines #dans #lesquels #elle #devrait #pas #être #utilisée #Intelligence #artificielle
1715456309