“Ouvrez la porte de la baie de pod, HAL” – voici comment l’IA est devenue un méchant du cinéma

Cet article a été écrit par un humain.

Cela vaut la peine d’être mentionné car ce n’est plus quelque chose que vous pouvez simplement supposer. L’intelligence artificielle qui peut imiter la conversation, qu’elle soit écrite ou parlée, a beaucoup fait les manchettes cette année, ravissant certains membres du public tout en inquiétant les éducateurs, les politiciens, l’Organisation mondiale de la santé et même certaines personnes développant la technologie de l’IA.

L’utilisation abusive de l’IA fait partie de ce que les acteurs et les écrivains frappent à Hollywood, et la menace de l’IA est quelque chose qu’Hollywood imaginait bien avant qu’elle ne soit réelle.

En 1968, par exemple, l’année avant que les humains ne posent le pied sur la lune – et une époque où les astronautes utilisaient encore des crayons et des règles à calcul pour calculer les trajectoires de rentrée parce que leurs capsules spatiales avaient moins de puissance de calcul qu’une montre numérique n’en a aujourd’hui – Stanley Kubrick a présenté aux cinéphiles un ordinateur HAL-9000 sensible dans 2001 : L’odyssée de l’espace.

HAL (pour Heuristically Programd Algorithmic Computer) s’est présenté au début du film en disant: “Aucun ordinateur 9000 n’a jamais fait d’erreur ou déformé les informations. Nous sommes tous, par toute définition pratique des mots, infaillibles et incapables d’erreur.”

‘Ouvre la porte de la baie des modules, HAL’

Alors pourquoi HAL agissait-il si étrangement ? Il (il?) était responsable de la maintenance de tous les aspects d’un vol spatial de plusieurs mois, transportant des astronautes vers les lunes de Jupiter. Programmé pour exécuter la mission sans faille, le comportement de l’ordinateur était devenu alarmant, et deux des astronautes avaient décidé de fermer certaines de ses fonctions. Leur plan a été court-circuité lorsque HAL, lisant sur les lèvres une conversation qu’ils avaient réussi à l’empêcher d’entendre, a jeté l’un d’eux à la dérive alors qu’il était à l’extérieur du navire en train de réparer une antenne et a refusé de laisser l’autre remonter à bord.

“Open the pod bay door, HAL” est devenu l’une des lignes de film les plus citées de la décennie lorsque l’ordinateur a répondu : “Je suis désolé, Dave, j’ai peur de ne pas pouvoir faire ça. Cette mission est trop importante pour moi pour vous permettre de le mettre en péril.

Il est difficile d’exprimer à quel point cela a été un véritable choc pour le public des films des années 1960. Il y avait eu des films avec, disons, des robots causant des ravages, mais il s’agissait généralement de robots exécutant les enchères de quelqu’un d’autre. Les robots de cinéma, à ce moment-là, concernaient les muscles, pas le cerveau.

Et de toute façon, les histoires de robots malveillants étaient précisément le genre de bêtises de films B que Kubrick essayait d’éviter. Ainsi, sa machine intelligente observait simplement (avec un œil rouge qui ne clignait pas) et, lorsqu’elle s’adressait directement, parlait d’une voix calme et modulée, un peu comme celle qui serait adoptée quatre décennies plus tard par Siri et Alexa.

Darwin parmi les machines

Les premières notions littéraires d’intelligence “artificielle” – et il n’y en avait pas beaucoup à ce moment-là – n’avaient pas vraiment captivé l’imagination du public. Article de Samuel Butler de 1863 Darwin parmi les machines, est généralement considéré comme étant à l’origine de ce type d’écriture, et il note principalement que si l’humanité a inventé des machines pour nous aider – et rappelez-vous, une machine vraiment sophistiquée en 1863 était la locomotive à vapeur – nous les aidions de plus en plus : s’occupant, alimentant , réparer.

Sur des dizaines de milliers d’années, s’est demandé Butler, les humains ne pourraient-ils pas évoluer de la même manière que l’étude de Darwin sur la sélection naturelle venait d’établir le reste des règnes végétal et animal, au point que nous deviendrions dépendants de nos appareils ?

Mais même lorsqu’il a incorporé cette idée une décennie plus tard dans un roman satirique intitulé Erewhon, exposant plusieurs chapitres sur les machines auto-réplicantes, Butler a à peine effleuré la notion que ces machines développeraient la conscience. Et les écrivains de science-fiction influents du XIXe siècle qui l’ont suivi non plus. HG Wells et Jules Verne ont inventé de nombreux appareils peu orthodoxes en envoyant des personnages au centre de la Terre, dans l’espace et dans les recoins du temps, sans jamais considérer que ces appareils pourraient vouloir faire les choses par eux-mêmes.

Le terme “intelligence artificielle” n’a même été inventé (par l’informaticien américain John McCarthy) qu’une douzaine d’années avant que Kubrick ne fasse son Odyssée de l’espace. Mais HAL a fait une impression sur le public là où les scientifiques ne l’avaient pas fait. En quelques années seulement, les ordinateurs de cinéma ne voulaient pas seulement dominer les vaisseaux spatiaux ; dans Colosse : le projet Forbin (1970), ils voulaient conquérir le monde.

Des machines malignes devenues virales

Et puis cette notion de technologie débridée, s’est déchaînée. Un lycéen joué par Matthew Broderick a failli déclencher la Troisième Guerre mondiale en Jeux de guerre (1983) alors qu’il pensait qu’il piratait une société informatique mais qu’il défiait accidentellement le réseau de défense du Pentagone dans un jeu rapide de “guerre thermonucléaire mondiale”. Le problème, c’est vite devenu clair, c’est que personne n’a dit au réseau de défense qu’ils ne faisaient que “jouer”.

Ailleurs, les hommes mécaniques ont cessé d’être musclés et ont obtenu une nouvelle dispense pour penser par eux-mêmes, ce que la fiction leur avait accordé avant qu’Hollywood ne s’y mette.

Dans les années 1940, Le romancier de science-fiction Isaac Asimov a proposé les “Trois lois de la robotique” qui maintiendraient théoriquement les machines “indépendantes” en ligne. Quand l’histoire d’Asimov Je robot, a été transformé en film environ un demi-siècle plus tard, ces lois auraient dû rassurer Will Smith alors qu’il observait des milliers de bots. Mais il avait de bonnes raisons d’être sceptique ; il combattait une rébellion de robots.

Le Terminateur les films mettent effectivement tous ces thèmes sur les stéroïdes – des cyborgs au service d’un réseau de défense civile informatisé et sensible appelé Skynet, conçu pour fonctionner sans aucune intervention humaine. Un “incendie nucléaire” et trois milliards de morts humaines plus tard, ce qui restait de l’humanité s’est engagé dans une guerre contre les machines qui a jusqu’à présent consommé six films, une série télévisée, une paire de séries Web et d’innombrables jeux.

Et les explosions nucléaires n’étaient pas nécessaires pour rendre l’intelligence des machines alarmante, un fait que le cyberpunk-noir a définitivement établi en Coureur de lame avec ses “réplicants”, et dans un Matrice série qui a réduit toute l’humanité à une simple source d’énergie pour les machines.

Hollywood combat toujours cette vision. Qui sait ce que “L’Entité” veut dans Mission Impossible : L’estime de soi (vraisemblablement, nous le saurons l’année prochaine dans la deuxième partie), mais quoi qu’il en soit, cela n’augure rien de bon pour l’humanité.

Il ne semble pas être venu à l’esprit de Tinseltown que l’IA pourrait faire ce qu’elle fait réellement – rendre les médias sociaux dangereux, ou rendre les cours d’écriture de premier cycle impossibles à enseigner, ou bousiller les relations en se complétant automatiquement de manière incorrecte. Aucun de ceux-ci n’est terriblement cinématographique, alors Hollywood se concentre sur l’exploitation de nos peurs – à la fin du 20e siècle, nous craignions de céder le contrôle pour technologie. Au 21ème siècle, nous craignons de perdre le contrôle de technologie.

Apportez les droïdes

Y a-t-il également eu des visions cinématographiques plus conviviales de l’IA? Bien sûr. George Lucas a inventé les adorables droïdes R2-D2 et C-3PO pour Guerres des étoiles, et Pixar nous a donné Mur-Eun bot qui était courageusement déterminé à nettoyer une planète entière que nous avions spoliée.

Le drame de Spike Jonze Son a imaginé une assistante personnelle sensible, semblable à Siri, en tant que petite amie numérique. Star Trek‘s Data n’était pas seulement un La prochaine génération version androïde de M. Spock, mais aussi une sorte de Pinocchio aux émotions difficiles.

Et un autre Pinocchio – celui-ci conçu pour résister à l’épreuve du temps – aurait été la propre réponse de Stanley Kubrick à la question qu’il avait posée à HAL en 1968.

Kubrick a travaillé pendant des décennies pour peaufiner le scénario de IA Intelligence Artificiellepuis à peine deux ans avant sa mort, a confié le projet à Steven Spielberg – l’histoire de David, un enfant robot qui a été programmé pour aimer et qui finit par aller au-delà de cette programmation.

“Jusqu’à votre naissance”, a déclaré le professeur Hobby de William Hurt à l’enfant bionique qu’il avait modelé sur son propre fils, “les robots ne rêvaient pas, les robots ne désiraient pas à moins que nous leur disions quoi vouloir.” Le miracle, a-t-il poursuivi, était que bien que David ait été conçu plutôt que né, il partageait avec les humains “la capacité de poursuivre nos rêves… quelque chose qu’aucune machine n’a jamais fait, jusqu’à vous”.

Cela n’a peut-être pas été suffisant pour faire de David un vrai garçon, mais cela a mis un visage doux sur ce qui est peut-être notre plus grande peur à propos de l’IA – que nous soyons mortels, et ce n’est pas le cas.

Dans le film, David survit à toute l’humanité, ne grandissant jamais, ne changeant jamais. Et peut-être parce qu’il était joué par Haley Joel Osment, ou peut-être parce que Spielberg appelait les coups, ou peut-être parce que la musique gonflait … juste comme ça – ça ne semblait pas le moins du monde menaçant.