- Nvidia a optimisé TensorRT, augmentant considérablement les performances de l’IA générative sur plus de 100 millions d’ordinateurs
- La nouvelle mise à jour TensorRT donne aux utilisateurs plus de contrôle sur les sorties de l’IA et augmente la vitesse et la précision des modèles
- Nvidia publie une bibliothèque open source pour optimiser l’inférence de grands modèles de langage (LLM), mettant ainsi les outils d’IA avancés à la disposition d’un large éventail d’utilisateurs
Nvidia a franchi une nouvelle étape majeure dans l’intelligence artificielle générative en optimisant la dispersion vidéo stable pour son kit de développement logiciel TensorRT, augmentant ainsi considérablement les performances sur plus de 100 millions de PC et postes de travail Windows équipés de graphiques compatibles RTX.
Meilleur contrôle des utilisateurs
En effet, la dernière mise à jour de l’extension Stable Diffusion WebUI de TensorRT introduit la prise en charge des ControlNets, augmentant ainsi le contrôle de l’utilisateur sur la sortie générée par l’IA en incorporant des images supplémentaires à titre indicatif. Cette mise à jour simplifie non seulement le flux de travail pour les utilisateurs, mais augmente également la vitesse et la précision des modèles d’IA, avec des tests internes montrant jusqu’à 50 % d’augmentation des performances sur la carte graphique GeForce RTX 4080 SUPER par rapport aux implémentations précédentes sans technologie TensorRT.
Des performances plus élevées dans d’autres applications également
L’intégration de la technologie TensorRT dans les applications populaires étend ses avantages au-delà des propres technologies de Nvidia. DaVinci Resolve de Blackmagic Design et Photo AI et Video AI de Topaz Labs ont enregistré des améliorations significatives de leurs performances, les graphiques compatibles RTX ayant enregistré des augmentations de vitesse de plus de 50 % et 100 %, respectivement. jusqu’à 60%. Ces améliorations témoignent de la puissance de TensorRT pour accélérer les modèles d’IA génératifs tels que Stable Diffusion et SDXL. En conséquence, cela rend les outils d’IA avancés plus accessibles et efficaces pour un large éventail d’utilisateurs.
Nvidia a également publié TensorRT-LLM, une bibliothèque open source conçue pour optimiser l’inférence de grands modèles de langage (LLM). Cette version offre une prise en charge immédiate des modèles communautaires populaires et permet aux développeurs, aux créateurs et aux utilisateurs réguliers de profiter plus facilement des performances optimisées sur les cartes graphiques compatibles RTX. Grâce à la coopération avec la communauté open source, Nvidia souhaite rationaliser l’intégration de TensorRT-LLM avec les frameworks d’applications populaires.
L’avenir de l’IA est-il local ?
L’IA générative continue de révolutionner les industries, et les avancées de Nvidia avec TensorRT sur les PC et les postes de travail RTX ouvrent des possibilités assez importantes pour les développeurs et les utilisateurs réguliers. Grâce à l’exécution locale des applications d’IA, la solution de Nvidia peut garantir une latence plus faible, des coûts réduits et une meilleure protection des données, ce qu’on ne peut pas encore dire du cloud, même si son avantage réside bien sûr dans le fait que votre matériel local ne le fait pas. matière.
Auteur de l’article
Adam Homola
Les nouvelles technologies me fascinent depuis mon plus jeune âge. Au fil du temps, mon intérêt à long terme pour les jeux et l’industrie du jeu s’est naturellement ajouté au matériel, aux logiciels, aux services Internet et, à partir de 2022, à l’intelligence artificielle.
2024-04-01 13:00:00
1711989447
#Nvidia #publié #une #mise #jour #clé #augmentant #considérablement #les #performances #lIA #pour #des #millions #dordinateurs #SMARTmania.cz