Pour ceux qui ne le savent pas, les États-Unis sont l’un des pays qui ont déclaré qu’ils garderaient toujours le contrôle des armes nucléaires entre les mains des humains, et non de l’IA, pour la tranquillité d’esprit de millions de personnes.
Mais désormais, le Pentagone n’hésite pas à utiliser l’intelligence artificielle pour « améliorer » les systèmes de commandement, de contrôle et de communication nucléaires.ce qui est préoccupant, car la frontière entre le contrôle humain et le contrôle des machines est très mince.
À la fin du mois dernier, le chef du commandement stratégique américain, le général de l’armée de l’air Anthony J. Cotton, a déclaré que le commandement était « explorer toutes les technologies, techniques et méthodes possibles pour contribuer à la modernisation de nos capacités NC3. »
L’avenir semble appartenir à l’IA, même dans le domaine des armes
Au cours des dernières années, plusieurs systèmes d’armes et véhicules militaires contrôlés par l’IA ont été développés, comme des avions de combat, des drones et des mitrailleuses. Cependant, leur utilisation sur le champ de bataille suscite des inquiétudes, de sorte que la perspective que l’IA, qui commet encore de nombreuses erreurs, fasse partie d’un système d’armes nucléaires ressemble à un scénario de cauchemar issu de la science-fiction hollywoodienne.
Cotton a tenté d’apaiser ces craintes lors de la conférence 2024 du système d’information sur le renseignement du ministère de la Défense. Il a dit (via le magazine des forces aériennes et spatiales) que même si l’IA améliorera les capacités de prise de décision en matière de commandement et de contrôle nucléaire, « nous ne devons jamais permettre à l’intelligence artificielle de prendre ces décisions à notre place ».
En mai déjà, Paul Dean, responsable du contrôle des armements au Département d’État, avait déclaré lors d’un briefing que Washington avait pris « un engagement clair et ferme » à garder les humains sous le contrôle des armes nucléaires.
Dean a ajouté que La Grande-Bretagne et la France ont pris le même engagement. Dean a déclaré que les États-Unis accueilleraient favorablement une déclaration similaire de la part de la Chine et de la Fédération de Russie.
Cotton a déclaré que l’augmentation des menaces, l’avalanche de données de capteurs et les problèmes de cybersécurité rendent l’utilisation de l’IA est une nécessité pour maintenir les forces américaines en tête de ceux qui entendent défier les États-Unis.
“Les systèmes avancés peuvent nous informer plus rapidement et plus efficacement”, a-t-il déclaré, soulignant une fois de plus que “nous devons toujours garder une décision humaine au courant pour maximiser l’adoption de ces capacités et conserver notre avantage sur nos adversaires”. Cotton a également parlé de l’utilisation de l’IA pour donner aux dirigeants plus « d’espace de décision ».
Pour le Pentagone, l’utilisation de l’IA pourrait permettre de faire correspondre, interpréter et présenter rapidement toutes les données collectées par ces systèmes.
Bien que les codes de lancement nucléaire ne soient pas remis au sens figuré, l’utilisation de l’IA dans n’importe quel système d’armes nucléaires pourrait être risquée, quelque chose qui, selon Cotton, doit être résolu.
En février, les chercheurs ont mené des simulations de conflits internationaux avec cinq LLM différents : GPT-4, GPT 3.5, Claude 2.0, Llama-2-Chat et GPT-4-Base et ont découvert que les systèmes intensifiaient souvent la guerre et, dans plusieurs cas. Dans certains cas, des armes nucléaires ont été déployées sans avertissement préalable.
#Pentagone #veut #lIA #améliore #ses #armes #nucléaires #estce #une #bonne #nouvelle