Il y a deux mois, j’ai assisté au lancement par Eric Drexler de
MSEP.un. Il s’agit d’un logiciel open source, écrit par des personnes ayant une expérience professionnelle en conception de jeux, destiné à catalyser de meilleures conceptions pour une fabrication atomiquement précise (ou nanotechnologie générative, comme il l’appelle maintenant).
Drexler souhaite attirer davantage l’attention sur les avantages de la nanotechnologie, qui impliquent des exposants suffisamment grands pour que notre intuition ait du mal à les gérer. Cela inclut la santé permanente (le nouveau cadre de Drexler sur la prolongation de la vie et les remèdes contre le vieillissement).
Il espère qu’un réseau décentralisé d’utilisateurs créera une riche bibliothèque de composants open source qui pourraient être utilisés pour construire une usine nanotechnologique. Avec suffisamment d’efforts, il pourrait alors devenir possible de concevoir une usine suffisamment complète pour que les critiques soient obligés d’abandonner leur pratique actuelle consistant à affirmer que la nanotechnologie est impossible, et de discuter avec des chimistes experts sur son fonctionnement.
Drexler espère suffisamment gamifier le logiciel pour que les gens l’utilisent pour le plaisir. Mon impression superficielle, basée sur le fait de jouer avec pendant moins d’une heure, est que ce n’est pas très loin d’être amusant. Je ne sais pas si c’est même un objectif raisonnable. Le logiciel semble plus professionnel et plus facile à utiliser que ce dont je me souviens d’un logiciel similaire il y a 20 ans. L’utiliser semble toujours être du travail. Je pense qu’il sera difficile d’amener beaucoup de gens à l’utiliser sans les payer.
Nanotechnologie à base de protéines versus style diamantoïde
MSEP.one soutient actuellement le développement de nanotechnologies de type diamantoïde, qui produisent de jolies images et semblent susceptibles de permettre les usines atomiquement précises les plus simples et les plus compréhensibles. L’inconvénient est que les conceptions de ce type ne sont pas très proches d’être réalisables avec les outils actuels. Il n’existe même pas de chemin clair pour créer les outils appropriés.
Il existe au moins autant d’intérêt à construire des systèmes atomiquement précis à partir de protéines et/ou d’ADN. Les outils permettant de créer ces conceptions fonctionnent pour la plupart aujourd’hui. MSEP.one ne prend pas encore en charge de telles conceptions. Le principal inconvénient est qu’ils sont plus difficiles à concevoir et à visualiser. Les protéines en particulier sont de grosses taches d’apparence désordonnée. Il faut généralement un logiciel sophistiqué pour déterminer si deux d’entre eux s’emboîtent bien. Je n’ai pas vraiment étudié à quel point il est difficile de concevoir une protéine adaptée à une forme arbitraire, mais j’ai l’impression que cela nécessite une quantité douloureuse d’essais et d’erreurs.
Pourtant, la présence de la vie indique que l’ingénierie basée sur les protéines peut générer une suffisamment grande variété de systèmes atomiquement précis pour qu’il soit possible d’utiliser la conception de protéines comme voie vers quelque chose comme la nanotechnologie diamantoïde. La faisabilité d’autres voies semble moins claire.
Ce marché Collecteur
montre 51 % de chances qu’une voie à base de protéines soit utilisée, aucune autre voie n’ayant plus de 13 %.
Risques nanotechnologiques
Il y a 20 ou 25 ans, j’étais assez impatient de contribuer au développement de la nanotechnologie drexlérienne. Maintenant, je ressens une certaine réticence à le faire.
Au moins la moitié de cette réticence est due aux inquiétudes quant à l’impact des nanotechnologies sur les risques associés à l’IA.
Disposer de nanotechnologies puissantes lorsque l’IA deviendra plus compétente que les humains permettra aux IA de prendre plus facilement le contrôle du monde. Je ne vois qu’une petite chance que la nanotechnologie fasse une différence décisive ici, mais de petites probabilités de modifier quelle espèce contrôle les galaxies peuvent être assez importantes.
Un risque plus probable est que la disponibilité des nanotechnologies influence la capacité d’un pays ou d’une entreprise à conquérir le monde si elle prend la tête des capacités en matière d’IA. Je peux facilement imaginer que l’IA aura des effets politiquement déstabilisateurs. Les nanotechnologies semblent susceptibles d’alimenter une telle déstabilisation.
Il semble donc plus sûr de reporter le développement des nanotechnologies jusqu’à ce que les aspects les plus chaotiques du développement de l’IA aient été résolus.
Conscience
La réponse de Drexler à ces préoccupations est de se concentrer sur le risque que les dirigeants mondiaux soient surpris par la puissance des nanotechnologies génératives. Il y a également de grandes chances que l’IA développe la nanotechnologie peu après qu’elle ait dépassé les niveaux humains. Une plus grande prise de conscience d’ici là des possibilités nanotechnologiques conduira à une meilleure planification d’urgence.
Je crains assez fortement que les dirigeants du monde attendent jusqu’au dernier moment pour réagir aux preuves selon lesquelles l’IA devient puissante, ce qui entraînerait des politiques aussi mal planifiées que la réponse au COVID.
Mais quelle différence cela ferait-il pour eux de savoir que la nanotechnologie générative est conforme aux lois de la physique et qu’elle est donc susceptible d’être disponible peu de temps après que l’IA aura dépassé l’intelligence humaine ? (Manifold suggère qu’un assembleur drexlérien sera développé environ un an après la superintelligence.)
S’ils nient ce qu’une IA pourrait faire avec des tactiques telles que les essaims de drones et le chantage, pourquoi des technologies plus puissantes sont-elles susceptibles d’être convaincantes ?
Une préoccupation plus fondamentale est de savoir si les nouvelles informations sur les nanotechnologies provoqueront une quelconque réaction. La nanomédecine de Freitas contient de nombreux détails sur la façon de concevoir de meilleurs dispositifs médicaux. Presque aucun sceptique n’est disposé à lire attentivement suffisamment le livre pour évaluer si ces conceptions sont physiquement possibles. Les sceptiques trouvent beaucoup plus facile de rejeter les conceptions comme étant peu pratiques à construire ou nécessitant trop de recherches supplémentaires.
Qui pourrions-nous convaincre ?
Cependant, je ne pense pas que de meilleures conceptions devraient être destinées aux personnes qui s’identifient actuellement comme sceptiques en matière de nanotechnologie. Il est plus probable qu’un changement d’opinion clé se concentrera sur les personnes qui ne prêtent actuellement pas suffisamment d’attention aux nanotechnologies pour avoir une opinion à ce sujet.
L’inconvénient des sociétés de capital-risque convaincantes est qu’elles nécessitent bien plus que de fournir la preuve que l’IA finira par créer des nanotechnologies. Cela nécessite au moins de tracer une voie qui nous mènera aux nanotechnologies commerciales au début des années 2030. Cela semblerait accélérer la disponibilité des nanotechnologies, peut-être plus que ce que nous sommes prêts à gérer.
Peser les compromis
J’ai les compétences, et peut-être le temps, pour avoir un impact modeste sur le projet de Drexler.
L’écriture de cet article m’a laissé perplexe quant à savoir si je devais déployer des efforts importants pour utiliser MSEP.one. Je penche provisoirement pour non. J’apprécie les commentaires des lecteurs sur cette question.
#Logiciel #nanotechnologique #Drexler #LessWrong