Les modèles de langage volumineux (LLM) nécessitent d’importantes quantités de mémoire. Les passionnés d’IA se tournent vers des configurations multi-GPU pour augmenter la VRAM disponible. La taille de certains LLM actuels impose des limites, même avec cette approche. La GPU peut utiliser la puissance de traitement du CPU pour ces données. Les performances du cache CPU et de la DRAM entrent alors en jeu. Les performances des applications d’IA dépendent du GPU, mais aussi du chemin reliant le GPU au CPU, au contrôleur d’E/S et aux modules DRAM. Il est possible d’améliorer les performances de l’IA en optimisant ces éléments.

Des tests en laboratoire ont été effectués avec les derniers CPU AMD Ryzen. AMD a lancé deux nouveaux CPU Ryzen avec la technologie AMD 3D V-Cache : les AMD Ryzen 9 9950X3D et AMD Ryzen 9 9900X3D. Après avoir testé diverses optimisations,des paramètres offrant des avantages concrets ont été découverts. Ces optimisations sont désormais disponibles via une nouvelle fonctionnalité du BIOS : AI Cache Boost.AI Cache Boost, disponible via une carte mère ASUS AMD série 800 et une mise à jour du firmware, peut accélérer les performances jusqu’à 12,75 % lors de l’utilisation de LLM massifs.

Prérequis pour AMD Ryzen avec AMD 3D V-Cache

Pour accéder à AI Cache Boost, une carte mère ASUS AMD série 800 et un CPU AMD Ryzen série 9000 Granite Ridge sont nécessaires. Dans l’utilitaire UEFI BIOS,accédez à l’onglet Extreme Tweaker. Activez AI Cache Boost.

L’activation d’AI Cache Boost active diverses optimisations, notamment l’overclocking de l’horloge Infinity Fabric (FCLK) à 2100 MHz. L’augmentation du FCLK améliore la bande passante des transferts de données entre les cœurs du CPU, le cache et la mémoire. Ces transferts sont importants lors de l’utilisation de LLM massifs.

L’activation d’AI Cache Boost n’affecte pas significativement les performances de jeu.Il est possible de laisser le paramètre activé lors du passage d’un type de charge de travail à l’autre. Pour une

Booster les performances des LLM avec AMD Ryzen et AI Cache Boost

Les modèles de langage volumineux (LLM) exigent des ressources considérables, poussant les utilisateurs à chercher des solutions pour optimiser leurs performances. AMD a répondu à ce besoin avec AI cache Boost, une fonctionnalité optimisant les processeurs Ryzen avec la technologie 3D V-Cache.

AI Cache Boost : une amélioration significative pour les LLM

AI Cache Boost, accessible via une mise à jour du BIOS sur les cartes mères ASUS AMD série 800, permet une accélération des performances jusqu’à 12,75% lors de l’utilisation de LLM massifs.Cette amélioration est rendue possible grâce à plusieurs optimisations, notamment l’overclocking de l’horloge Infinity Fabric (FCLK) à 2100 MHz. Augmenter le FCLK améliore le débit des transferts de données entre le CPU, le cache et la mémoire, crucial pour le traitement des LLM. Il est meaningful de noter que cette optimisation n’impacte pas significativement les performances de jeu.

Prérequis pour AI Cache Boost

| Composant | Spécification |

|———————-|——————————————-|

| Processeur | AMD Ryzen série 9000 Granite Ridge (ex: Ryzen 9 9950X3D, Ryzen 9 9900X3D) |

| Carte mère | ASUS AMD série 800 |

| BIOS | Mise à jour du firmware avec AI Cache Boost activé |

Activation d’AI Cache Boost:

1. Accédez à l’utilitaire UEFI BIOS.
2. Allez à l’onglet “Extreme Tweaker”.
3. Activez AI Cache Boost.

FAQ

Q : AI Cache Boost impacte-t-il les performances de jeu ?

R : Non, l’impact sur les performances de jeu est négligeable.

Q : Quels processeurs sont compatibles avec AI Cache Boost ?

R : Les processeurs AMD Ryzen série 9000 Granite Ridge.

Q : Quelle carte mère est nécessaire pour utiliser AI Cache Boost ?

R : Une carte mère ASUS AMD série 800.

Q : Comment activer AI Cache Boost ?

R : Via l’utilitaire UEFI BIOS, dans l’onglet “Extreme Tweaker”.

Q : Quel est le gain de performance attendu avec AI Cache Boost ?

R : Jusqu’à 12,75% d’accélération pour les LLM massifs.