La Suisse se dote du premier ordinateur IA au monde

Le supercalculateur d’intelligence artificielle (IA) le plus puissant au monde sera implanté en Suisse. Donc quitter En 2021, Nvidia le proposera, le principal fabricant de puces qui fournit le matériel nécessaire. L’ordinateur peut entraîner GPT-3, le modèle de langage IA d’Open AI, en deux jours. L’IA ouverte est nécessaire en 2019 pour çah 34 Prendre.

Le supercalculateur devrait être prêt au printemps 2024. Ces performances élevées sont possibles grâce au supercalculateur appelé Alps qui comportera 10 000 puces de pointe. C’est plus par chance que par stratégie que le Centre national suisse de calcul haute performance (CSCS) a réussi à obtenir cet objectif au milieu du battage médiatique de l’IA.

Alps pourrait devenir le supercalculateur le plus puissant d’Europe

Mais d’abord, revenons aux faits concrets. La Suisse sera-t-elle vraiment parmi les meilleurs au monde en mars avec le nouvel ordinateur ? La réponse courte est non. Le supercalculateur américain Frontier continuera de figurer en tête du top 500 établi des meilleurs supercalculateurs.

Torsten Hoefler, professeur à l’ETH Zurich et spécialiste de l’apprentissage automatique au CSCS de Lugano, où sera situé le supercalculateur, donne la réponse longue. Il déclare : « La méthode utilisée pour créer la liste des 500 meilleurs est ancienne – et en fait n’est plus d’actualité. »

La liste mesure les ordinateurs en fonction de la rapidité avec laquelle ils résolvent un système d’équations particulier, et ce, de manière très précise. Aujourd’hui, les superordinateurs sont utilisés à d’autres fins, comme par exemple pour des simulations météorologiques complexes ou pour entraîner l’IA. Cela nécessite moins de précision, mais des forces différentes. Cela ne mesure pas particulièrement bien la liste des 500 meilleurs.

Malgré tout, l’ordinateur Alps résoudra également un certain système d’équations après installation afin de figurer dans la liste. «Le top 500 reste une référence importante», estime Hoefler. Le nouvel ordinateur a une chance de prendre la première place en Europe, devant le finlandais Lumi.

Cependant, tous les supercalculateurs ne figurent pas sur la liste. Certains propriétaires préfèrent garder secrète leur puissance de calcul, comme les grandes sociétés de cloud ou la Chine depuis que les États-Unis lui ont imposé des sanctions.

Les puces Grace Hopper rendent Alps idéal pour l’IA

Alps ne sera pas le plus rapide, mais il sera toujours le leader mondial. Presque personne d’autre ne possède autant de puces IA de pointe. Il s’agit de la puce GH200 Grace Hopper, la dernière innovation de Nvidia qui donne le ton dans le domaine des puces IA.

Une seule puce – nommée d’après le Grace Hopper, pionnière de l’informatique, calcule à peu près aussi vite que 4 000 smartphones. Il y en aura plus de 10 000 dans les Alpes.

La particularité de « Grace Hopper » est que Nvidia associe étroitement deux types de processeurs dans une seule puce : le processeur principal (CPU) appelé Grace, que l’on retrouve également sous cette forme dans un ordinateur portable de travail, et le processeur graphique (GPU). Trémies. Les processeurs graphiques ont été développés à l’origine pour les jeux vidéo : on les retrouve encore aujourd’hui dans les ordinateurs portables de jeu. Mais ils sont aussi particulièrement adaptés au machine learning, c’est-à-dire à l’IA.

Le développement des processeurs graphiques et de l’IA est allé de pair : le machine learning est optimisé pour fonctionner particulièrement bien sur les puces existantes. Et vice versa, les fabricants adaptent leurs puces aux exigences des entreprises d’IA. C’est ainsi qu’est née « Grace Hopper ».

Les processeurs graphiques qu’il contient comptent parmi les puces les plus puissantes du secteur de l’IA. Ils résolvent les calculs sur lesquels repose l’IA à une vitesse vertigineuse. Hoefler déclare : « Ces GPU Hopper ont des performances incroyables, mais ne peuvent faire qu’une seule chose. Comme le moteur d’un hors-bord qui roule à 200 kilomètres à l’heure, mais uniquement en ligne droite. » Mais le CPU, le processeur principal, est nécessaire pour contrôler la machine.

Alors que le moteur et la direction étaient auparavant installés séparément, Nvidia les connecte étroitement ensemble dans la puce Grace Hopper afin que les deux parties puissent communiquer rapidement et efficacement.

“Grace Hopper” est particulièrement adapté à l’IA grâce à la connexion étroite de ses processeurs

C’est le principal avantage de la puce. La nouvelle conception devrait permettre d’exécuter des simulations et de former des modèles d’IA en utilisant les résultats. Cela signifie que moins de données doivent être stockées à long terme, ce qui rend possibles certains calculs complexes.

La Suisse est arrivée aux puces modernes par hasard

La qualité exacte des performances de la puce ne pourra être déterminée qu’une fois le supercalculateur configuré, explique Hoefler : « Jusqu’à présent, nous n’avons eu accès qu’à des copies de test. » Personne ne sait encore à quelle vitesse ils calculent lorsque dix mille sont connectés ensemble. Cela dépend aussi du réseau.

Pour le moment, Nvidia n’arrive plus à suivre le rythme de la production de puces IA, et les sociétés cloud se précipitent pour obtenir les dernières puces. Aux prix actuels, une commande aussi importante ne rentrerait plus dans le budget du centre de supercalculateurs CSCS.

La Suisse a obtenu une grande quantité de jetons Grace Hopper plus tôt que quiconque. C’est parce que le CSCS a commandé avant que le battage médiatique sur l’IA n’éclate. Le CSCS a-t-il pensé plus loin que quiconque – mieux prédit la vague de l’IA ? Non. Il s’agit plutôt d’une heureuse coïncidence.

La Suisse était particulièrement intéressée par les nouveaux processeurs graphiques destinés aux calculs scientifiques. Les supercalculateurs deviennent rapidement obsolètes et CSCS est fier de toujours acheter les puces les plus récentes du marché, celles qui sont en cours de développement au moment de leur commande.

L’une des tâches les plus importantes du CSCS concerne les simulations dans les domaines de la météo, du climat et de l’environnement. La part de ces calculs, y compris les applications de l’IA, atteindra probablement jusqu’à cinquante pour cent chez Alps. Le temps restant, d’autres chercheurs peuvent utiliser le supercalculateur. Météo Suisse utilise des processeurs graphiques pour ses modèles depuis 2016. Selon Oliver Fuhrer, chef du département prévisions de Météo Suisse, il s’agit du premier service météorologique au monde.

Le « Grace Hopper » a été commandé car il promettait d’être particulièrement adapté à la recherche climatique. Lorsque le battage médiatique sur l’IA a commencé, Nvidia a également adapté sa nouvelle puce pour les clients qui souhaitaient avant tout optimiser l’apprentissage automatique. La Suisse bénéficie désormais de puces idéales pour la prévision météorologique et la climatologie, mais aussi pour la formation en IA.

L’ordinateur apporte des rapports météorologiques plus précis

Météo Suisse profitera du passage à Alps pour échanger son modèle de prévision. Cela ne modifie pas la résolution spatiale, qui est d’environ un kilomètre horizontalement. Mais le nouveau modèle appelé Icon nécessite davantage de calculs et, par conséquent, selon Fuhrer, offre une qualité de prédiction supérieure avec la même résolution.

Avec l’aide des Alpes, les prévisions météorologiques ne devraient pas seulement s’améliorer. Le superordinateur sera également utilisé pour utiliser les modèles d’IA rapides afin de donner aux projections climatiques plus de détails spatiaux que ce que les modèles informatiques précédents peuvent fournir.

De nombreux modèles climatiques comportent encore des grilles dont la distance entre les points de la grille est de 50 ou 100 kilomètres. À l’avenir, nous souhaitons utiliser les modèles pour pénétrer dans les interstices et rendre visibles certaines vallées, montagnes ou cellules orageuses. L’IA est censée y contribuer en réécrivant le logiciel de simulation afin qu’il utilise l’ordinateur plus efficacement.

Les Alpes se caractérisent par une architecture très flexible

Par rapport à ses prédécesseurs, l’Alps n’est pas seulement spécial grâce aux nouvelles puces. Il possède également une structure particulièrement adaptable. Les puces informatiques peuvent être regroupées dynamiquement et affectées à des tâches spécifiques.

C’est de là que vient le nom « Alpes », explique Hoefler. Dans le passé, les programmes étaient exécutés sur un seul ordinateur défini. Les supercalculateurs précédents portaient les noms de sommets des montagnes.

À l’avenir, les Alpes seront une véritable montagne d’ordinateurs disponibles, dans lesquels tous les ordinateurs seront intégrés. Un logiciel sur mesure contrôle les groupes de puces flexibles afin que diverses tâches puissent être effectuées en même temps, comme les prévisions météorologiques ou la formation de modèles d’IA.

Un modèle de langage public devrait être créé

Le dirigeant de Météo Suisse est enthousiasmé par le potentiel du nouveau supercalculateur, au-delà des applications météorologiques et climatiques: «Alps est une infrastructure ingénieuse pour entraîner l’IA», dit-il. Cela signifie que la Suisse est incroyablement bien positionnée sur la scène internationale. “C’est une énorme opportunité.”

Les Alpes représentent une opportunité non seulement pour la science, mais aussi pour les affaires. Former de grands modèles d’IA sur des ordinateurs de pointe est complexe et coûteux. Seules les entreprises technologiques très bien financées peuvent se le permettre.

L’exemple Chat-GPT montre les conséquences : les PME qui souhaitent utiliser l’IA vocale dépendent de la technologie de l’Open AI, de sa tarification et également de la manière dont les créateurs établissent des frontières éthiques et politiques dans le modèle linguistique. On ne sait pas non plus quelles données ont été incluses dans le modèle. C’est pourquoi un modèle linguistique suisse ouvert devrait être créé sur l’ordinateur Alps, que les entreprises pourraient utiliser pour leur propre bénéfice.

Pour la première fois, le supercalculateur devient politiquement pertinent

Les entreprises devraient également pouvoir utiliser les Alpes pour leurs propres projets, à des conditions plus avantageuses que si elles devaient acheter la puissance de calcul auprès de fournisseurs de cloud. Il s’agit d’un type de subvention indirecte qui peut donner à la Suisse un avantage concurrentiel.

Il y a actuellement de grands débats sur la manière exacte dont les entreprises doivent se qualifier et sur la manière dont le temps de calcul est réparti équitablement entre les projets scientifiques et commerciaux. La décision appartient en fin de compte au CSCS, qui demande ses supercalculateurs à la Confédération et les gère ensuite de manière indépendante. Pendant longtemps, seuls les scientifiques se sont intéressés aux supercalculateurs suisses. «Maintenant, pour la première fois, tout le monde réalise à quel point il s’agit d’une ressource», déclare Hoefler.

Les projets d’IA des entreprises suisses ne sont encore pas très complexes comparés à ceux de la science. Cela pourrait changer dans les prochaines années. La concurrence pour la puissance informatique publique devient alors de plus en plus une question politique.