Le modèle de langage contextuel (CLM) exploite la plateforme de données WEKA pour permettre une utilisation plus sûre, plus précise et plus efficace de l’IA d’entreprise
CAMPBELL, Californie, 7 août 2024 /PRNewswire/ — WekaIO (WEKA), la société de plateforme de données native de l’IA, a annoncé aujourd’hui qu’elle travaillait avec Contextual AI, la société qui construit l’IA pour changer la façon dont le monde fonctionne, pour fournir l’infrastructure de données qui sous-tend ses modèles de langage contextuel (CLM). Les CLM de Contextual AI sont formés à l’aide RAG 2.0une approche propriétaire de génération augmentée de récupération (RAG) de nouvelle génération développée par Contextual AI, désormais optimisée par la plateforme de données WEKA®. Les CLM alimentent des applications d’IA sûres, précises et fiables pour les entreprises du Fortune 500 sur la plateforme de Contextual AI.
La société de plateforme de données native de l’IA WEKA s’associe à Contextual AI pour alimenter des solutions d’IA d’entreprise prêtes à la production dans Google Cloud
Développer la prochaine génération de modèles d’IA d’entreprise
Fondée en 2023, Contextual AI propose une plateforme clé en main pour la création d’applications d’IA d’entreprise alimentées par sa technologie de pointe RAG 2.0. Contrairement aux pipelines RAG traditionnels, qui assemblent un modèle figé pour les intégrations, une base de données vectorielle pour la récupération et un modèle de génération de boîte noire, RAG 2.0 fournit un système intégré unique de bout en bout, permettant une plus grande précision, une meilleure conformité, moins d’hallucinations et la possibilité d’attribuer des réponses aux documents sources.
Les charges de travail de l’IA générative ont des exigences importantes en termes de performances, de gestion des données et de puissance de calcul, ce qui peut les rendre longues et gourmandes en ressources pour leur formation et leur exploitation. L’IA contextuelle exploite des ensembles de données volumineux et diversifiés pour former ses CLM. Lors de la formation, l’entreprise a d’abord rencontré des goulots d’étranglement des performances et des problèmes d’échelle qui ont entraîné une mauvaise utilisation du GPU et retardé les délais de développement de ses modèles d’IA.
Concevoir un système de gestion des données pour maximiser l’utilisation du GPU
L’augmentation de l’utilisation du GPU est essentielle pour garantir que les systèmes et les charges de travail d’IA fonctionnent avec une efficacité maximale. L’architecture native d’IA avancée de la plateforme de données WEKA est spécialement conçue pour accélérer chaque étape du pipeline d’IA, créant des pipelines de données fluides qui saturent les GPU de données pour garantir leur fonctionnement plus efficace afin que les charges de travail d’IA s’exécutent plus rapidement et de manière plus durable. Indépendante du cloud et du matériel, la solution logicielle de WEKA est conçue pour être déployée n’importe où, et son architecture zéro copie, zéro réglage prend en charge de manière dynamique chaque profil de charge de travail d’IA, en gérant les opérations de métadonnées sur des millions de petits fichiers pendant l’entraînement du modèle et les performances d’écriture massives pendant les opérations de point de contrôle du modèle, dans une seule plateforme de données.
En plus du déplacement rapide des données du stockage vers l’accélérateur, la plateforme WEKA a fourni à Contextual AI des capacités transparentes de gestion des métadonnées, de point de contrôle et de prétraitement des données qui ont éliminé les goulots d’étranglement des performances dans ses processus de formation, amélioré l’utilisation du GPU et contribué à réduire ses coûts de cloud.
« La formation de modèles d’IA à grande échelle dans le cloud nécessite une solution de gestion des données moderne capable de fournir une utilisation élevée du GPU et d’accélérer le temps de développement du modèle », a déclaré Amanpreet SinghCTO et cofondateur de Contextual AI. « Avec la plateforme de données WEKA, nous disposons désormais des pipelines de données robustes nécessaires pour alimenter les GPU de nouvelle génération et créer des solutions d’IA générative de pointe à grande échelle. Elle fonctionne comme par magie pour transformer un stockage rapide et éphémère en données persistantes et abordables. »
Principaux résultats obtenus avec la plateforme de données WEKA :
- Améliorations des performances 3x : Les performances ont été multipliées par trois pour les principaux cas d’utilisation de l’IA grâce à une augmentation significative de l’utilisation du GPU.
- Contrôle des modèles d’IA 4x plus rapide : Suppression des retards dans l’achèvement des points de contrôle du modèle pour obtenir une amélioration de 4x dans les processus de contrôle, améliorant considérablement la productivité des développeurs.
- 38 % de réduction des coûts : Les coûts associés au stockage cloud ont été réduits de 38 % par téraoctet.
« L’IA générative recèle un potentiel pratiquement illimité pour ouvrir de nouvelles perspectives et créer de la valeur pour les entreprises, mais beaucoup d’entre elles ne savent toujours pas par où commencer et comment faire avancer leurs projets d’IA », a déclaré Jonathan Martinprésident de WEKA. « Contextual AI innove dans l’avenir de l’IA d’entreprise en créant des solutions d’IA génératives avancées qui aident les organisations à exploiter le potentiel de l’IA beaucoup, beaucoup plus rapidement. WEKA est fier d’aider Contextual AI à surmonter les défis critiques de gestion des données pour accélérer la formation de modèles d’IA fiables et dignes de confiance qui feront avancer la révolution de l’IA. »
Pour en savoir plus sur la manière dont Contextual AI travaille avec WEKA pour alimenter ses solutions d’IA d’entreprise, visitez : https://www.weka.io/customers/contextual-ai/.
À propos de l’IA contextuelle
Contextual AI a pour mission de changer la façon dont le monde fonctionne grâce à l’IA. Approuvée par les entreprises du Fortune 500, la société automatise les tâches complexes, permettant aux travailleurs du savoir de se concentrer sur des activités à forte valeur ajoutée. Cofondateur et PDG Chère Keela,qui a été le pionnier de la technique RAG originale, standard de l’industrie, dirige notre équipe d’experts de haut niveau aux côtés du cofondateur et du directeur technique Amanpreet Singh. L’équipe fait progresser les applications d’IA génératives personnalisables avec la technologie de pointe RAG 2.0 et l’apprentissage automatique de bout en bout pour les entreprises dans de nombreux cas d’utilisation et secteurs, notamment la banque, les semi-conducteurs, les médias, etc. Basée à vue sur la montagneavec des bureaux à New York et LondresContextual AI emploie plus de 30 personnes. Pour en savoir plus, rendez-vous sur https://contextual.ai.
À propos de WEKA
WEKA conçoit une nouvelle approche de la pile de données d’entreprise conçue pour l’ère de l’IA. La plateforme de données WEKA® établit la norme en matière d’infrastructure d’IA avec une architecture cloud et native de l’IA qui peut être déployée n’importe où, offrant une portabilité transparente des données dans les environnements sur site, cloud et périphériques. Elle transforme les silos de données hérités en pipelines de données dynamiques qui accélèrent les GPU, la formation et l’inférence des modèles d’IA et d’autres charges de travail gourmandes en performances, leur permettant de travailler plus efficacement, de consommer moins d’énergie et de réduire les émissions de carbone associées. WEKA aide les entreprises et les organismes de recherche les plus innovants au monde à surmonter les défis complexes liés aux données pour atteindre des découvertes, des informations et des résultats plus rapidement et de manière plus durable, y compris 12 des entreprises du Fortune 50. www.weka.io pour en savoir plus ou pour vous connecter avec WEKA sur LinkedIn, Xet Facebook.
Découvrez pourquoi WEKA a été reconnu comme visionnaire pendant trois années consécutives dans le Gartner® Magic Quadrant™ pour les systèmes de fichiers distribués et le stockage d’objets – obtenir le rapport.
WEKA et le logo WEKA sont des marques déposées de WekaIO, Inc. Les autres noms commerciaux utilisés ici peuvent être des marques commerciales de leurs propriétaires respectifs.
SOURCE WekaIO
2024-08-07 16:00:00
1723038530
#WEKA #sassocie #Contextual #pour #alimenter #des #solutions #dIA #dentreprise #prêtes #production #dans #Google #Cloud
