Quel LLM sur Radeon RX 7700 XT (12 Go) ?

#Ce que fait une RX 7700 XT en 2026

Une RX 7700 XT convient à un LLM local de taille moyenne : ses 12 Go accueillent Llama 3.1 8B, Gemma 4 12B ou Phi-4 14B en Q4 avec de la place pour le contexte. Sa bande passante de 432 Go/s, supérieure de 12,5 % à celle d'une RX 6700 XT, fixe le plafond de la génération : environ 113 tokens par seconde sur le 7B de référence des scoreboards, contre 163 pour une RX 7800 XT. Elle a un avantage net sur la 6700 XT : ROCm et Ollama la listent officiellement, y compris sous Windows. Son défaut est sa capacité, qui l'écarte des modèles de 20 à 24 milliards de paramètres, où les 16 Go de la 7800 XT deviennent précieux.

Architecture

RDNA 3, puce Navi 32 assemblée en chiplets (1 GCD et 3 MCD), lancée le 6 septembre 2023.

Calcul

3 456 processeurs de flux, 54 unités de calcul.

Mémoire

12 Go GDDR6, bus 192 bits, 432 Go/s.

Consommation

245 W de puissance de carte.

Prix

Non indiqué ici : consultez /prix-gpu-ia pour le prix le plus bas relevé chaque semaine.

#ROCm, Ollama et Windows : une prise en charge officielle

C'est le point qui la distingue de la génération précédente. Le tableau de compatibilité d'AMD liste la RX 7700 XT en RDNA 3, cible gfx1101, comme la RX 7800 XT. La documentation Ollama la cite dans les cartes prises en charge sous Linux et sous Windows. Une nuance pèse sur le choix du système : d'après AMD, les Radeon RX 7000 et 9000 ne sont prises en charge que sous Ubuntu 24.04.4, Ubuntu 22.04.5, RHEL 10.1 et RHEL 9.7. Une autre distribution peut fonctionner, mais sans garantie. Vulkan reste le filet de sécurité : Ollama l'active par défaut quand le backend est installé.

#Ce qui tient dans 12 Go de VRAM

Sur une carte de 12 Go, comptez environ 11 Go pour le modèle et son cache KV si elle n'alimente pas l'écran. Les poids indiqués viennent du catalogue QuelLLM ; le cache KV s'ajoute et croît avec la longueur de la conversation.

Pour aller plus loin que 14B sans changer de carte, deux leviers existent : quantifier le cache KV pour récupérer un ou deux gigaoctets, ou choisir un modèle à experts (MoE) dont seuls quelques paramètres sont actifs par token. La mémoire occupée reste la taille complète du modèle, donc un MoE de 20B ne rentre pas mieux dans 12 Go, mais il génère plus vite s'il tient.

• Quel LLM pour 12 Go de VRAM, toutes cartes confondues
• Quantifier le cache KV pour récupérer de la VRAM
• Calculateur de VRAM pour votre modèle et votre contexte

#Débit : ce qu'on sait et ce qu'on estime

Soyons précis sur l'état des preuves : les deux discussions publiques du dépôt llama.cpp, l'une sous Vulkan, l'autre sous ROCm, qui recensent les cartes AMD avec un même modèle (Llama 2 7B en Q4_0), ne contiennent aucune ligne pour la RX 7700 XT au moment de la rédaction. Nous n'avons rien mesuré nous-mêmes. Ce qu'on peut faire, c'est la situer entre deux cartes mesurées : la RX 6700 XT à 83,88 tokens par seconde en génération (bande passante 384 Go/s) et la RX 7800 XT à 118,27 (624 Go/s), toutes deux sous Vulkan.

Le raisonnement par la bande passante donne un plafond : 432 Go/s divisés par 3,82 Go de poids font environ 113 tokens par seconde sur le 7B de référence. Les cartes AMD de la même discussion en atteignent entre 59 % et 83 % (83 % pour la 6700 XT, 72 % pour la 7800 XT). Sur cette base, une valeur entre 65 et 95 tokens par seconde paraît plausible pour la 7700 XT : c'est une hypothèse de travail, pas un résultat, à confirmer avec llama-bench.

Pour la conversation, tout ce qui dépasse une dizaine de tokens par seconde se lit confortablement ; ces estimations restent donc largement au-dessus du seuil d'usage, même avec une marge d'erreur importante.

#Face à ses voisines directes : 6700 XT, 7800 XT et RTX 4070

Le choix se fait souvent entre trois cartes voisines. Les mesures publiées sous Vulkan aident à placer la RTX 4070, l'une des cartes de 12 Go de la génération Ada présentes dans la discussion : 92,29 tokens par seconde en génération et 3 179 en lecture de prompt. Ses 12 Go comme ceux de la 7700 XT limitent les deux cartes aux mêmes modèles ; la différence se joue sur l'écosystème logiciel, la lecture du prompt, l'efficacité énergétique et le prix. Les débits de la RX 7700 XT restent à mesurer, ceux des trois autres sont publiés.

Lecture de ce tableau : passer de la 7700 XT à la 7800 XT ne coûte pas seulement de la vitesse en plus, elle ajoute 4 Go de VRAM, soit l'accès aux modèles de 20 à 24B. C'est le seul critère qui change réellement ce que vous pouvez lancer. Si votre usage est un 8B ou un 12B, la 7700 XT n'est pas limitante ; si vous visez des modèles de code de 24B, elle l'est.

• Radeon RX 7800 XT, la même puce avec 16 Go
• Radeon RX 6700 XT, la génération précédente à 12 Go
• RTX 4070 : l'alternative NVIDIA à 12 Go

#Mise en route sous Linux

1. 01
   Vérifier le système

   Contrôlez que votre distribution figure parmi Ubuntu 24.04.4, Ubuntu 22.04.5, RHEL 10.1 ou RHEL 9.7, seules versions listées par AMD pour cette carte.
2. 02
   Installer le pilote ROCm

   Ollama demande le pilote ROCm v7 sous Linux. Installez-le avec l'utilitaire amdgpu-install décrit dans la documentation AMD.
3. 03
   Installer Ollama puis un modèle

   Téléchargez Gemma 4 12B en Q4_K_M ou un 8B, puis lancez-le avec ollama run.
4. 04
   Contrôler que le GPU travaille

   Lancez ollama ps : la colonne du processeur doit indiquer une exécution sur le GPU. Si la carte n'est pas détectée, ajoutez l'utilisateur ollama au groupe render.
5. 05
   Mesurer et comparer

   Lancez llama-bench avec le GGUF de la discussion publique pour comparer votre carte aux mesures des autres et publier la vôtre.

ollama ps
rocminfo | grep -i gfx
./llama-bench -m llama-2-7b.Q4_0.gguf -ngl 100 -fa 0,1

Sous Windows, la documentation Ollama prévoit une pile ROCm v7 ou HIP7 pour les Radeon RX 7000 ; l'installation se limite au pilote Radeon à jour puis à Ollama. Le guide sur Ollama et les GPU AMD détaille les variables d'environnement utiles pour sélectionner une carte quand le système en compte plusieurs.

• Ollama et GPU AMD : configurer les Radeon RX 6000 à 9000

#Quand 12 Go ne suffisent plus

Le seuil est net : au-delà de 11 Go de poids, le modèle ne tient plus entièrement en VRAM. Ollama et llama.cpp déchargent alors une partie des couches sur le processeur, et la vitesse s'effondre car la mémoire système est bien plus lente que la GDDR6. Trois situations reviennent : un modèle de code de 24B, un contexte long sur un 14B, ou un second modèle chargé en même temps pour le RAG. Chacune se résout par de la VRAM, pas par de la puissance de calcul.

Avant de l'acheter d'occasion, vérifiez trois points concrets. La puissance de carte de 245 W impose une alimentation adaptée et deux connecteurs PCIe d'alimentation correctement branchés. Le modèle exact importe peu pour le LLM, la mémoire de 12 Go étant identique chez tous les fabricants ; seule la qualité du refroidissement change, ce qui compte pour de longues sessions de génération. Enfin, testez la carte avec un vrai modèle de 9 à 10 Go avant de valider l'achat : c'est le seul test qui sollicite l'essentiel des 12 Go de mémoire et la relecture continue des poids que fait un LLM, ce qui n'a rien à voir avec un jeu vidéo.

#Verdict 2026

Si vous l'avez déjà

Gardez-la : elle couvre tout ce qui va jusqu'au 14B avec une prise en charge officielle, sans contournement.

Si vous achetez en occasion

Comparez son prix à celui d'une RX 7800 XT sur /prix-gpu-ia : si l'écart est modeste, les 4 Go supplémentaires de la 7800 XT valent l'écart.

Si vous visez des 24B

Passez directement à 16 Go ou plus : ce n'est pas le rendement, mais la capacité qui limite.

• Prix des cartes graphiques pour l'IA locale, relevés deux fois par semaine
• Documentation Ollama : GPU AMD pris en charge
• Tableau de compatibilité ROCm d'AMD
• Scoreboard Vulkan du dépôt llama.cpp

#Questions fréquentes