Seront-ils ceux qui composeront de nouvelles armées ?

Des humains augmentés dans le futur des armées, l’union entre systèmes synthétiques et biologiques pourrait bientôt trouver une application dans le domaine de la guerre

Plus que des humains augmentés, quand on pense aux applications de guerre avec l’utilisation de l’Intelligence Artificielle, les scénarios sont souvent similaires : un humanoïde équipé d’une super Intelligence Artificielle, comme Skynet du film Terminatorqui décide de détruire ou d’asservir la race humaine.

Sans vouloir rien enlever à la créativité de James Cameron, il y a un autre futur, celui du soi-disant humains augmentés de différents logiciels et matériels qui les rendront plus efficaces, plus rapides et, en temps de guerre, mortels.

Le monde du logiciel verra les évolutions et les applications les plus rapides pour augmenter les humains. Considérons l’histoire récente : la crise ukrainienne a permis au monde de découvrir les nombreuses applications des drones militaires et civils. La guerre d’Ukraine peut être considérée comme la première du genre : un champ d’expérimentation où la valeur des données et des logiciels de traitement peut être déployée et perfectionnée pour nuire à l’ennemi. Mais si les guerres futures seront également menées avec une présence croissante de systèmes synthétiques quelle sera la réponse des armées humaines ? Les humains augmentés en sont l’évolution logique. Faisons le point.

Que sont les humains augmentés et « synthétiques »

Pour comprendre comment les algorithmes (prédictifs, créatifs, etc.) peuvent devenir partie intégrante de la machine militaire, il faut considérer le secteur des jeux. Par jeu, je ne fais pas référence au concept plus ludique que l’on imagine tous. Le terme jeu auquel je me réfère est lié aux théories des jeux et à toute l’évolution des stratégies qui permettent au participant d’un jeu de gagner.

Dans le jeu de Go chinois, par exemple, l’algorithme déployé contre l’humain avait calculé une approche d’attaque qui comprenait différents mouvements, apparemment sans rapport les uns avec les autres. Une capacité à voir l’ensemble qui avait déplacé l’adversaire humain. Une approche similaire peut être observée dans le monde des échecs et du poker avec logiciel basé sur des techniques d’intelligence artificielle qui développent des attaques significatives en visant vue d’ensemble et stratégies coordonnées.

Si nous entrons dans le monde du jeu numérique, le scénario devient encore plus dynamique : avec de multiples niveaux d’interaction, l’IA joue à son meilleur.

Considérez Starcraft, une stratégie classique en temps réel (langage RTS). Étant donné que le jeu se caractérise par un “brouillard de guerre”, qui cache des informations au joueur, les systèmes synthétiques parviennent à tirer le meilleur parti de ce déficit d’information auquel l’humain est confronté. La stratégie ressemble à celle observée au Go ou aux échecs : attaques multiples et coordonnées, avec une vue du champ de bataille qui déplace différentes unités et déploiements en temps réel. La vision des systèmes synthétiques apparaît généralement très calculée. Un facteur potentiellement exploitable par les systèmes biologiques (c’est-à-dire les êtres humains) qui doivent cependant compenser leur manque de calcul en temps réel sur différents fronts.

Aurons-nous des humains augmentés ?

Il y a des lacunes dans les systèmes synthétiques d’aujourd’hui qui pourraient être compensées par des systèmes biologiques évoluant ainsi vers des « formes » d’humains augmentés. Une interaction des deux entités pourrait réussir, notamment en temps de guerre où les temps de réaction sont importants.

Considérons les lacunes actuelles des systèmes synthétiques.

Les systèmes basés sur l’intelligence artificielle ont tendance à ne pas inclure des facteurs humains tels que la psychologie de combat, la peur, l’arrogance dans leurs stratégies. En général, tout le champ empathique-émotionnel n’est pas présent dans la tactique des systèmes synthétiques. Cela semble naturel, puisque les systèmes synthétiques ne sont pas des formes de vie qui ont évolué au fil du temps, même avec des facteurs instinctifs nécessaires pour survivre et surmonter de multiples défis naturels.

Se l’éthique est absente du cadre d’une IA théorique, avec la paix pour les trois lois de la robotique tant vantées, le manque d’approches humaines pourrait être un trou noir pour une stratégie exclusivement synthétique.

Pour comprendre comment les deux entités peuvent interagir et comment l’idée d’avoir des humains augmentés peut réellement se matérialiser, considérons un scénario réel.

Un commandant de terrain doit prendre des décisions en fonction des informations disponibles (par définition incomplet). Le côté « humain » du commandant peut décider ce qui est le mieux, mais le traitement de multiples sources d’information et d’immenses quantités de données sera de plus en plus difficile. Si nous considérons un champ de bataille moderne, nous devons garder à l’esprit que les sources de données sont en croissance continue: images satellites, détection par drones tactiques, capteurs et caméras montés sur les soldats dans les tranchées, informations radar, données météorologiques, logistique, ravitaillement. A ceux-ci s’ajouteront dans le futur les lecteurs infrarouges, l’analyse du spectre électromagnétique pour intercepter les attaques cybernétiques, etc.

Plus les synthétiques « physiques » (drones de nature différente) opérant sur le terrain sont nombreux, plus les données générées à traiter et exploiter sont importantes. La quantité de données sera écrasante et le temps pour décider sera de plus en plus réduit. Le déploiement de synthétiques physiques, en fait, augmentera la vitesse de l’engagement de guerre en réduisant les temps de redondance qu’un humain doit décider.

A ces phénomènes s’ajoutent les nouveaux systèmes d’armes stratégiques tels que des missiles hypersoniques, qui peuvent réduire de moitié les temps de trajet vers leurs cibles. Ces nouveaux vecteurs vont pousser vers l’adoption de solutions et de défenses dont l’utilisation et le déploiement doivent être immédiats.

Toutes ces données et leur urgence nous amènent à la synergie bio-synthétique et à l’humain augmenté.

La capacité à prendre des décisions dans des contextes complexes, où le biologique se voit reconnaître la responsabilité de décider de la vie ou de la mort d’autres individus, est encore aujourd’hui l’apanage exclusif des humains. Les IA sont efficaces pour choisir des stratégies complexes et coordonnées, mais elles manquent encore de la touche “humaine” qui les rendrait fiables dans un environnement non simulé. Cependant, leur capacité à analyser plusieurs scénarios en des temps extrêmement courts, par rapport aux biologiques, en fait un excellent support de renseignement que les biologiques peuvent utiliser pour raccourcir les délais de prise de décision.

L’intégration homme-machine la plus plausible, dans les années à venir, dans des contextes de guerre, vient de cette synergie : les hommes auront le fardeau et l’honneur de prendre une décision les systèmes synthétiques auront la capacité d’analyser des pétaoctets de scénarios et de suggérer un ensemble plausible d’options que le système biologique pourra évaluer et engager.

Le risque

Cependant, il reste une vulnérabilité de l’humain augmenté et de cette synergie qui, quoique de manière théorique pour le moment, doit être prise en compte. Quels sont les risques associés à une activité synthétique qui est, de quelque manière que ce soit, altérée par une programmation imparfaite ?

Dans une simulation récente (un événement qui n’a eu lieu que virtuellement) un drone s’est trouvé obligé de sa programmation, pour éliminer le lien qui le liait à son opérateur humain. La programmation a attribué des scores pour chaque objectif. Cependant aucune valeur n’a été accordée à la tour de communication qui liait l’humain et le synthétique. Dans ce scénario, le synthétique a décidé que supprimer les contraintes qui empêchaient la machine de détruire la cible était la meilleure solution pour acquérir le score maximum. Bien que ce scénario n’ait été évalué que dans le domaine de la simulation, il jette une ombre sur les synergies potentielles entre l’homme et la machine. Le monde évolue à une vitesse croissante vers un avenir où la vitesse sera un facteur vital dans tous les scénarios, y compris la guerre. Les entités synthétiques et leurs effecteurs physiques seront un excellent outil de compression des temps, au profit de l’efficacité de production, de l’efficacité de guerre et de la rapidité d’exécution de chaque tâche. Mais les risques doivent être pesés très soigneusement.

Reproduction réservée © (Article protégé par le droit d’auteur)