Les machines peuvent-elles devenir conscientes ?

Le développement de l’intelligence artificielle soulève une question d’une grande importance pratique et éthique : les machines peuvent-elles acquérir une conscience ? Pour répondre à cette question, nous devons d’abord comprendre ce que nous entendons lorsque nous parlons de « conscience ».

Ce terme implique se rendre compte de ce qui se passe autour de nous, dans notre corps ou dans nos actions, ce qui nous permet un comportement flexible et contrôlé. Le comportement conscient peut être caractérisé par deux caractéristiques:

• La première caractéristique (R1) fait référence à la disponibilité mondiale de l’information. Bien que certaines parties du cerveau soient hautement spécialisées (zones visuelles, motrices, mémorielles), la conscience a pour exigence que les informations soient disponibles globalement. Autrement dit, si nous voyons quelque chose, nous pouvons dire de quelle couleur il est, quelle forme il a, à quoi il ressemble ou comment il est tenu.

• La deuxième fonctionnalité (R2) permet auto-surveillance ce traitement. Celui-ci évalue si la réponse était appropriée ou incorrecte, ce qui nous permet de corriger cette réponse immédiatement ou dans des situations futures. C’est ce qu’on appelle la « métacognition ».

Commençons à cuisiner une omelette aux pommes de terre. Dans cette recette il faut sélectionner les ingrédients, les prendre et les utiliser au bon moment (première fonctionnalité). Pendant la cuisson, nous devons goûter les aliments par étapes intermédiaires pour évaluer la saveur afin d’adapter ces caractéristiques aux préférences du moment. Si, par exemple, nous voulons réduire la quantité de sel, nous en ajouterons moins, mais en veillant à ce que le résultat final soit satisfaisant (deuxième caractéristique).

Les deux traits sont considérés comme des exigences pour la conscience. Si l’un d’eux manque, le traitement sera inconscient. On pourrait ajouter du sel sans nous rendre compte, parce que c’est quelque chose que nous faisons automatiquement. Ce traitement est efficace, il n’occupe ni attention ni ressources mémoire, mais il est limité. Nous ne pouvons pas évaluer si nous avons ajouté la bonne quantité et parfois cela nous fait même douter si nous l’avons ajouté ou non.

L’une des grandes limites du traitement inconscient est que « nous ne sommes pas conscients de ce dont nous ne sommes pas conscients ». Autrement dit, nous ne pouvons pas estimer à quoi ressemble notre traitement inconscient ni l’évaluer.

Comment évaluer la conscience chez les animaux ou les humains qui ne parlent pas ?

Le premier trait (disponibilité globale) a été observé chez les êtres vivants dépourvus de langage. Dès les premiers mois de leur vie, les bébés humains sont capables d’extraire des règles et répondre à des stimuli qui ne suivent pas une séquence préalablement établie. Les animaux comme les corbeaux et les primates peuvent répondre (s’ils sont entraînés) par oui ou par non. face à des stimuli très difficiles à détecter.

Le deuxième trait (métacognition) fait référence à notre capacité à auto-évaluer le traitement. Lorsque nous percevons ou répondons consciemment, nous pouvons estimer la probabilité que notre perception ou notre réponse soit correcte. Cela peut être évalué chez les animaux en mesurant à quel point on persiste dans le choix initial (plus on est sûr, plus on persistera) ou en permettant la possibilité de ne pas répondre (dans des situations moins certaines, cette option de ne pas répondre sera choisie plus souvent).

Les machines peuvent-elles avoir ces caractéristiques ?

Certains chercheurs proposent que les deux traits pouvaient être implémentés dans des machines, de sorte qu’elles agissaient comme si elles étaient conscientes.

Imaginons que maintenant c’est un robot qui doive cuisiner l’omelette. Si l’on pouvait mesurer la tension artérielle du convive, cette information pourrait être mise à disposition de l’ensemble du système (première fonctionnalité) pour cuisiner avec moins de sel si la tension artérielle est élevée. Parallèlement, si la tension est trop forte, ce système pourrait envoyer une alarme sur le téléphone de la personne afin qu’elle puisse prendre un rendez-vous médical (première fonctionnalité).

En plus de rendre l’information accessible, il serait intéressant que le robot évalue son propre comportement (par exemple, si l’ajout d’oignons à l’omelette a donné un goût agréable) et se mette à jour continuellement (deuxième fonctionnalité).

Selon ce positionnement, la conscience pourrait être réduite à un ensemble de calculs implémentables dans des machines.

Ce que cette approche ne prend pas en compte, c’est que dans les organismes biologiques, la conscience émerge non seulement de l’interaction du cerveau avec l’environnement, mais aussi de l’interaction du cerveau avec l’organisme lui-même.

Lorsque vous avez faim, par exemple, une série de réactions physiologiques sont générées que le cerveau interprète comme une sensation, une émotion ou un sentiment. Ces interprétations constituent une part essentielle de la conscience des êtres vivants, qui se sont développées au fil de millions d’années d’évolution et permettent la survie.

Lorsque nous sommes confrontés à un danger, le cœur bat plus vite, ce qui nous aide à échapper à cette situation, mais nous fait aussi peur. Des études récentes ont montré que le rythme cardiaque est plus lent lorsqu’il est perçu consciemment. que quand il n’est pas consciemment perçu. Cela indique qu’être conscient implique non seulement de surveiller l’environnement, mais également de surveiller les signaux que notre corps envoie pour mieux s’adapter, apprendre et adapter notre comportement aux exigences changeantes de l’environnement.

Ces interactions entre le cerveau et le corps sont essentielles pour que nous puissions générer des expériences subjectives à la première personne (« J’ai vu »). Comprendre la conscience chez l’homme implique de comprendre non seulement comment nous réagissons à l’environnement, mais également comment les informations provenant du système nerveux central (cerveau) et périphérique (organisme) sont intégrées pour créer l’expérience subjective de la perception.

La conscience dans les machines est encore loin

Les preuves scientifiques actuelles montrent que pour que la conscience se produise, il faut un système capable de traiter l’information, d’en sélectionner une partie afin qu’elle soit disponible à l’échelle mondiale (premier trait) et qui évalue, apprend et rectifie en fonction de l’expérience (deuxième trait). .

Les calculs actuellement effectués par les machines ne répondent pas à ces caractéristiques et manquent en outre d’un esprit et d’un organisme vivant capables de construire des représentations sensorielles à la fois de l’environnement et de l’état interne de son propre organisme (le matérieldans le cas des machines).

Ce manque de surveillance interne entre le cerveau et le corps limite la possibilité pour les machines de développer la conscience, telle que nous la concevons actuellement. Cependant, la science doit rester vigilante face aux progrès rapides de la technologie, en surveillant ses avancées et en anticipant les dilemmes éthiques qui pourraient surgir.