Quel LLM sur Radeon RX 7900 XT (20 Go) ?

#Ce que fait une RX 7900 XT en 2026

La RX 7900 XT sert à qui veut des modèles de 24 à 26 milliards de paramètres sans contraindre le contexte. Ses 20 Go accueillent Devstral Small 2 24B (environ 14 Go en Q4) avec 6 Go de marge, contre 1 Go sur une carte de 16 Go, et le MoE Gemma 4 26B-A4B (environ 16 Go) avec 4 Go de marge. En vitesse, en revanche, elle déçoit ceux qui comptent sur ses 800 Go/s : 123,18 tokens par seconde sur le 7B de référence sous Vulkan, contre 118,27 pour une RX 7800 XT dont la bande passante est inférieure de 22 %. AMD la liste officiellement dans ROCm et Ollama la prend en charge sous Linux et Windows.

Architecture

RDNA 3, Navi 31 avec un GCD et cinq MCD, lancée le 13 décembre 2022.

Calcul

5 376 processeurs de flux, 84 unités de calcul.

Mémoire

20 Go GDDR6, bus 320 bits, 800 Go/s.

Consommation

315 W de puissance de carte : vérifiez l'alimentation recommandée par le fabricant de votre modèle.

Prix

Non indiqué ici : consultez /prix-gpu-ia.

#Le budget mémoire des 20 Go

Comptez environ 19 Go pour le modèle et son cache KV quand la carte n'alimente pas l'écran. Le tableau soustrait le poids en Q4 du catalogue QuelLLM de ce budget pour montrer la marge disponible pour le contexte. Cette marge est le vrai critère : un modèle qui « tient » avec 1 Go de reste se contente d'un contexte de quelques milliers de tokens.

Le cas des modèles à experts mérite une remarque. Seule une fraction des paramètres d'un MoE travaille à chaque token, ce qui rend la génération plus rapide qu'un modèle dense de même taille, mais l'intégralité des poids doit tenir en mémoire. Le 26B-A4B est le type de modèle où 20 Go font la différence : trop grand pour 16 Go avec du contexte, à l'aise dans 20. Pour des modèles encore plus gros, comme la famille Qwen3.6 35B-A3B, consultez le guide dédié plutôt que de deviner : la taille exacte dépend de la quantification retenue.

Pour transformer la marge en nombre de tokens de contexte, il faut le coût du cache KV par token, qui dépend de l'architecture du modèle : nombre de couches, têtes d'attention et précision du cache. Il n'existe donc pas de règle universelle en tokens par gigaoctet. La méthode fiable est la mesure : chargez le modèle avec un contexte modeste, notez la VRAM occupée avec rocm-smi, augmentez la fenêtre, puis recommencez. Le calculateur de VRAM du site automatise cette estimation pour les modèles du catalogue, et la quantification du cache KV en 8 bits divise à peu près par deux la part du contexte.

• Qwen3.6 35B-A3B en local : test et besoins VRAM
• Quel LLM pour 24 Go de VRAM, pour les modèles au-delà de 20 Go
• Quantifier le cache KV pour gagner de la VRAM

#Débits mesurés : la bande passante ne fait pas tout

Les chiffres viennent des discussions publiques du dépôt llama.cpp, qui utilisent Llama 2 7B en Q4_0 et llama-bench ; ce ne sont pas des mesures du site. Sous Vulkan, la RX 7900 XT lit un prompt de 512 tokens à 2 941,58 tokens par seconde et génère à 123,18. Avec la Flash Attention, 2 701,13 et 120,62. Sous ROCm, la discussion donne 3 098,38 en lecture et 116,15 en génération. Les deux séries se rejoignent : la génération plafonne autour de 120 tokens par seconde.

Le plafond théorique de la bande passante, 800 Go/s divisés par 3,82 Go de poids, est d'environ 209 tokens par seconde ; la carte n'en atteint que 59 % sous Vulkan. C'est le rendement le plus bas parmi les cartes AMD de cette série de mesures (83 % pour une RX 6700 XT, 77 % pour une RX 7900 GRE, 72 % pour une RX 7800 XT). L'explication probable est qu'un modèle de 7 milliards de paramètres est trop petit pour saturer la mémoire d'une grosse puce ; on peut espérer un meilleur rendement sur des modèles plus gros, mais aucune mesure de ces séries ne le prouve, et il serait imprudent d'annoncer des débits pour un 24B.

Pour un ordre de grandeur sur de gros modèles, une borne prudente consiste à appliquer le rendement mesuré de 59 % au plafond théorique : un modèle de 24B en Q4 de 14 Go donne 800 divisés par 14, soit environ 57 tokens par seconde de plafond, et donc à peu près 34 tokens par seconde. C'est un calcul, pas une mesure ; si le rendement est meilleur sur un gros modèle, le débit réel sera supérieur.

#Face à la RX 7900 XTX : l'écart réel est bien plus grand qu'on ne le dit

On lit souvent que la 7900 XT est « 10 à 12 % plus lente » que la 7900 XTX. Les mesures publiques racontent autre chose. Sur le 7B de référence sous Vulkan, la XTX génère à 182,63 tokens par seconde, contre 123,18 pour la XT : 48 % de plus. Le rapport de processeurs de flux (6 144 contre 5 376) ne suffit pas à l'expliquer ; c'est la bande passante et la puce qui creusent l'écart. Ce que la XT préserve est le prix d'entrée : avec 20 Go, elle couvre l'essentiel de ce qu'exigent les modèles de 24 à 26B.

Cette correction change l'arbitrage : si la vitesse de génération compte pour vous, l'écart de 48 % pèse davantage que les 4 Go de VRAM supplémentaires, alors que si vous voulez surtout une capacité pour le contexte, la XT donne l'essentiel de ce qu'apporte la XTX pour un modèle de 24B. Sur un 30B ou plus, en revanche, les 24 Go de la XTX font disparaître les compromis de contexte, et c'est là que son écart de prix se justifie.

• Radeon RX 7900 XTX : 24 Go et la génération la plus rapide de la famille

#Face à la RTX 4070 Ti Super : plus de mémoire, moins de vitesse

La RTX 4070 Ti Super offre 16 Go, soit 4 de moins. Sur le 7B de référence sous Vulkan, elle génère à 129,45 tokens par seconde, soit 5 % de mieux que la RX 7900 XT, et lit le prompt à 6 099 tokens par seconde, deux fois plus vite. La XT n'est donc pas « plus rapide », contrairement à ce qu'on lit parfois : elle est plus grande. Son argument est la capacité, qui ouvre les modèles de 24 à 26B avec du contexte.

• RTX 4070 Ti Super : l'alternative NVIDIA à 16 Go

#Quand un modèle déborde des 20 Go

Un modèle trop gros ne provoque pas d'erreur : Ollama et llama.cpp placent le maximum de couches sur la carte et laissent le reste au processeur. Dans llama.cpp, l'option -ngl fixe le nombre de couches envoyées au GPU, et la valeur 100 utilisée dans les mesures ci-dessus signifie « toutes ». Réduire cette valeur libère de la VRAM, au prix d'une génération plus lente, puisque chaque token doit alors traverser la mémoire système, bien plus lente que la GDDR6. La règle pratique : tant que ollama ps affiche 100 % GPU, vous êtes dans la zone rapide ; dès qu'une proportion apparaît côté processeur, la vitesse baisse par paliers.

#20 Go, 16 Go ou 24 Go : comment trancher

Le principe : payez la capacité que votre modèle le plus gros exige, pas celle qu'un jour vous pourriez utiliser. Si votre cible est un 24B avec du contexte, 20 Go est le premier palier où cela devient confortable ; au-delà, chaque gigaoctet supplémentaire doit être justifié par un modèle précis.

#Mise en route

1. 01
   Choisir le système

   AMD ne prend en charge les Radeon RX 7000 que sous Ubuntu 24.04.4, Ubuntu 22.04.5, RHEL 10.1 et RHEL 9.7. Sous Windows, Ollama utilise une pile ROCm v7 ou HIP7 ; Vulkan sert de repli.
2. 02
   Installer le pilote et Ollama

   Sous Linux, Ollama requiert le pilote ROCm v7. Installez-le avec l'utilitaire amdgpu-install, puis Ollama.
3. 03
   Charger un modèle de 24B

   Prenez un Devstral Small 2 24B en Q4_K_M, lancez-le et vérifiez avec ollama ps qu'il occupe le GPU à 100 %.
4. 04
   Régler le contexte

   Augmentez la fenêtre de contexte par paliers en surveillant la VRAM : l'objectif est de rester sous 19 Go au total.
5. 05
   Comparer Vulkan et ROCm

   Mesurez avec llama-bench sur votre modèle. Les deux backends sont proches sur cette carte dans les mesures publiques.

ollama ps
rocm-smi --showmeminfo vram
./llama-bench -m llama-2-7b.Q4_0.gguf -ngl 100 -fa 0,1

• Ollama et GPU AMD : ROCm, Vulkan et variables utiles

#Verdict 2026

Un bon choix

Si vous voulez lancer des modèles de 24 à 26B avec du contexte et que le coût du Go de VRAM sur /prix-gpu-ia est favorable.

Un choix moyen

Si vous voulez d'abord de la vitesse : la génération plafonne à un niveau proche d'une carte de 16 Go, et la RTX 4070 Ti Super lit les prompts deux fois plus vite.

Un choix insuffisant

Pour les modèles de 30 à 35B avec un contexte long, où 24 Go deviennent nécessaires.

• Prix des cartes graphiques pour l'IA locale, relevés deux fois par semaine
• Documentation Ollama : cartes AMD prises en charge
• Compatibilité GPU de ROCm, documentation AMD
• Scoreboard Vulkan du dépôt llama.cpp

#Questions fréquentes