“Si je vous donne un paragraphe de texte et que je le convertis en intégrations qui sont ensuite stockées, la taille des intégrations est bien plus grande que la taille du texte original”, a déclaré Manuvir Das, vice-président de l’informatique d’entreprise chez Nvidia, à CRN. . «Cela peut être 10 fois plus grand. Il s’agit d’une énorme opportunité de données et de stockage que les gens n’ont pas encore saisie.
Jeff Clarke, vice-président et directeur des opérations de Dell Technologies, a déclaré à Dell Technologies World 2024 que si les GPU sont le cerveau du système d’IA et que le réseau en est le cœur, alors le stockage est la façon dont l’IA respire.
“Je dirais que le stockage est le poumon qui pompe les données”, a déclaré Clarke lors de son apparition au salon le mois dernier.
« Nous sommes fascinés et commençons à nous concentrer sur tous les dimensionnements nécessaires aux besoins en calcul et en IA. Vous devez vous assurer d’anticiper la conversation sur le stockage », a-t-il déclaré à CRN. « Les clients qui construisent ces systèmes sont très compétents sur le plan technique. Et si vous n’anticipez pas cette conversation, vous vous retrouverez à l’extérieur. Ils n’achèteront peut-être pas de stockage Dell, n’est-ce pas ? Nous devons nous assurer que nous parlons et dimensionnons le calcul, puis que nous discutons du stockage. Mais l’opportunité est tout simplement énorme.
Dell a annoncé des changements dans sa mise sur le marché du stockage en août de l’année dernière, appelant le nouveau programme Partner First For Storage. Les principaux vendeurs de Dell bénéficient désormais de meilleures incitations lorsqu’ils concluent des contrats de stockage via un partenaire de distribution.
Cela a conduit à de nouveaux clients pour les partenaires Titanium comme Advizex ainsi que pour les partenaires Platinum comme VirtuIT, basé à Nanuet, dans l’État de New York. Dell se concentre sur la conclusion d’accords dans le domaine du stockage de milieu de gamme, pour lequel il estime un marché potentiel total de 13 milliards de dollars.
John Lee de VirtuIT a déclaré que l’opportunité aujourd’hui avec les petites et moyennes entreprises réside dans des consultations sur les données et le patrimoine qui préparent l’organisation à l’IA générative une fois qu’elle sera plus largement adoptée.
“Je pense qu’il existe de nombreuses opportunités de rafraîchir l’ancienne infrastructure”, a déclaré Lee, directeur de la technologie chez VirtuIT. « Préparons-nous de manière à ce que, lorsque vous serez prêt à réellement commencer à mettre en œuvre l’IA générative, vous disposiez de l’infrastructure dont vous avez besoin du point de vue du stockage, prête à rattraper votre calcul.
Sur scène au Dell Technologies World du mois dernier, Arthur Lewis, président du groupe de solutions d’infrastructure de Dell, a déclaré que l’opportunité de stockage était « tout simplement énorme ».
« Et pour mettre en contexte ce qui est « tout simplement massif », les charges de travail de l’IA génèrent un débit de données 300 fois supérieur à celui que nous observons dans le calcul traditionnel, soit 300 fois le débit de données », a-t-il déclaré en répétant la dernière partie. « Et avec l’omniprésence de l’IA, les demandes en matière de stockage ne feront qu’augmenter. »
Clarke prédit que d’ici la fin de cette décennie, les machines d’IA exigeant davantage de stockage nécessiteront 27 quettaflops de puissance de calcul, soit 27 000 000 000 000 000 000 000 000 000 000 d’opérations en virgule flottante par seconde.
Manuvir Das, vice-président de l’informatique d’entreprise de Nvidia, est l’une des personnes qui contribuent à créer ce futur calcul et à le déployer dans les plus grandes organisations du monde.
Il a déclaré au CRN que même aujourd’hui, les modèles d’IA vont au-delà de la lecture de fichiers texte à des fins de formation et d’inférence, et sont passés à la lecture de formes de données multimodales plus riches et plus complexes.
“Nous parlons de beaucoup de données”, a déclaré Das. « L’ensemble de l’écosystème est sur le point de débloquer des modèles vraiment puissants pour parler à vos vidéos. Voici une vidéo de 30 minutes. Dis-moi qui est dans la vidéo ? Qui se dispute avec qui ? À quel jeu se jouait-on ? Toute cette extraction de ce qui se passe dans la vidéo, nous avons maintenant des modèles pour cela.
Le marché n’a pas compris les implications de l’IA sur le stockage, selon Das, qui était vice-président senior de l’ingénierie produit et du stockage de données non structurées lorsqu’il a quitté EMC pour Nvidia en 2019.
« Deux secrets sur les données que je pense que les gens n’ont pas encore perçus. La première est, pour que toute cette récupération fonctionne : « Allez-y ». Regardez un PDF ou regardez du texte. “Ce qui se passe, c’est que vous créez ces intégrations, puis ces intégrations sont placées dans une base de données vectorielle, qui est un nouveau type de stockage”, a déclaré Das (photo).
« Si je vous donne un nouveau type de texte et que je le convertis en intégrations qui sont ensuite stockées. La taille des intégrations est bien plus grande que la taille du texte original. Cela peut être 10 fois plus grand. Il s’agit d’une énorme opportunité de données et de stockage que les gens n’ont pas encore saisie.
Dell parie que ses partenaires revendeurs commenceront à percevoir la demande de stockage haut de gamme juste au-delà de la crête, ainsi que l’importance d’agir tôt et rapidement sur les accords dans ce domaine.
“Notre PowerScale défini par logiciel a été entièrement conçu en pensant à l’IA”, a déclaré Lewis. «Améliorer une vitesse maximale du GPU vers notre plate-forme de données IA offrant des performances incroyables grâce à notre technologie GPU-direct et la bonne combinaison de flexibilité, d’évolutivité et de sécurité. De plus, PowerScale est le tout premier stockage Ethernet à être certifié sur Nvidia SuperPod.
Côté matériel, Dell a présenté le PowerScale F910, une solution de fichiers dense et hautes performances pour les données non structurées. Il ajoute des mises à niveau matérielles importantes, notamment DDR5, PCIe Gen5, ainsi que 24 SSD NVMe, dans une plate-forme rack 2U.
Lewis a déclaré à Dell Technologies World qu’il avait une idée de stockage encore plus puissante à l’horizon : le projet Lightning qui sortira l’année prochaine.
« Project Lightning est un système de fichiers parallèle révolutionnaire, conçu pour le stockage non structuré spécifiquement pour l’IA », a-t-il déclaré. « Qu’est-ce que j’entends par changer la donne ? Lorsque nous le comparons à nos concurrents évolutifs Flash uniquement les plus proches, nous constaterons une augmentation des performances de 20 fois et une augmentation du débit de 18 fois et demie. Des performances qui changent véritablement la donne.
À mesure que la technologie progresse et que les modèles d’IA sont adaptés à l’organisation qui les gère, le nombre de paramètres dont ils ont besoin, et donc les besoins de calcul pour les exécuter diminueront, a déclaré Lewis au CRN après la présentation, mais la nécessité pour les modèles de référencer rapidement les données qui est conservé dans le stockage attaché va croître.
« Si vous croyez en l’innovation algorithmique qui conduit à des modèles spécifiques à un domaine plus petit, la façon dont fonctionne l’IA est que le modèle repose sur le GPU, donc une requête est faite, elle va dans le GPU, elle atteint le modèle, si le modèle peut répondre, il répond , s’il ne le peut pas, il doit récupérer les données du stockage connecté », a déclaré Lewis. “À mesure que les modèles deviennent plus petits, la nécessité pour le modèle d’extraire des informations du stockage connecté va augmenter considérablement.”
Pour les clients qui espèrent former leurs propres données sur des modèles plus petits, la qualité du stockage connecté détermine les performances de l’ensemble du système.
“Dans un modèle de 400 milliards de paramètres, c’est moins nécessaire”, a déclaré Lewis. “Mais lorsque vous commencez à aborder les modèles de paramètres à 8 milliards, 4 milliards, 2 milliards, alors ce stockage connecté devient très, très important.”
Howdyshell a déclaré que parmi les produits dévoilés au Dell Technologies World, celui sur lequel il est ravi d’entamer les conversations est le nouveau PowerStore avec une compression de 5 à 1.
“C’est énorme”, a-t-il déclaré à propos de la technologie. « Dans les accords que nous avons conclus et dans les opportunités que nous citons, en général, le client souhaite évoluer rapidement avec le calcul, le stockage étant ensuite secondaire. C’est une grande opportunité, car là où il y a évidemment des données, la puissance de calcul requise, les clients doivent disposer de stockage. Tu l’as eu. Vous devez disposer d’un espace de stockage et, en fin de compte, d’un certain point de sauvegarde.
