Quel LLM sur Radeon RX 9070 (16 Go) ?

#Ce que fait une RX 9070 en 2026

La RX 9070 charge sans difficulté les modèles de 8 à 14 milliards de paramètres en Q4 et accepte les 20 à 24B, avec un contexte court pour les plus gros. Sa mémoire de 16 Go GDDR6 à 20,1 Gb/s sur un bus de 256 bits lui donne 640 Go/s de bande passante, chiffre que corrige l'ancienne version de cette page (644). Sur Llama 2 7B en Q4_0, la discussion publique du dépôt llama.cpp donne 119,71 tokens par seconde en génération sous Vulkan et 114,48 sous ROCm, avec une lecture de prompt à 3 164 tokens par seconde sous Vulkan, plus rapide que les RX 7800 XT et 7900 GRE. Son atout est aussi son TDP de 220 W, inférieur de 40 à 50 W à ses aînées de 16 Go.

Architecture

RDNA 4, puce de la série RX 9000, au même bus de 256 bits que la 9070 XT.

Calcul

3 584 processeurs de flux (4 096 pour la 9070 XT).

Mémoire

16 Go GDDR6, 20,1 Gb/s, bus de 256 bits, 640 Go/s.

Consommation

TDP de 220 W (304 W pour la 9070 XT).

Prix

Non indiqué : il change chaque semaine, voir /prix-gpu-ia.

#Linux, Windows : ROCm ou Vulkan

C'est la particularité de la génération RDNA 4 : la prise en charge diffère selon le système. AMD liste la RX 9070 dans ROCm (cible gfx1201) et la documentation d'Ollama la cite pour Linux, avec le pilote ROCm v7. Pour Windows, en revanche, la liste ROCm d'Ollama s'arrête à la RX 7900 XTX ; la RX 9070 n'y figure pas. Elle reste utilisable via Vulkan, activé par défaut, qui affiche par ailleurs de bons débits. La documentation d'AMD précise enfin que les Radeon RX 9000 ne sont prises en charge que sous Ubuntu 24.04.4, Ubuntu 22.04.5, RHEL 10.1 et RHEL 9.7.

#Ce qui tient dans 16 Go de VRAM

Comptez environ 15 Go pour le modèle et son cache KV quand la carte n'alimente pas l'écran. Le catalogue QuelLLM donne les poids en Q4 ci-dessous ; le contexte s'y ajoute.

Ces 16 Go sont la frontière entre le 24B, qui entre, et le 26 à 30B, qui n'entre plus. Pour cette frontière précise, les cartes de 16 Go de toutes marques se valent : la page par VRAM les compare. Ce qui distingue la RX 9070 est ce qu'elle apporte au-dessus de cette capacité : une lecture de prompt plus rapide et une consommation plus basse.

• Quel LLM pour 16 Go de VRAM, toutes cartes confondues

#Débits mesurés : Vulkan devant ROCm

Les chiffres viennent des discussions publiques du dépôt llama.cpp, qui utilisent toutes Llama 2 7B en Q4_0 (3,56 GiB) et llama-bench ; ce ne sont pas des mesures du site. Sur la RX 9070, Vulkan donne 3 164,10 tokens par seconde en lecture et 119,71 en génération ; avec la Flash Attention, 2 859,98 et 119,51. ROCm donne 2 381,77 et 114,48. Les deux backends sont proches en génération, Vulkan légèrement devant, et l'écart est plus net en lecture de prompt. Configurations, pilotes et commits diffèrent d'une série à l'autre : lisez ces écarts comme des ordres de grandeur.

Le plafond théorique de génération est de 640 Go/s divisés par 3,82 Go, soit environ 167 tokens par seconde ; la carte en atteint 71 % sous Vulkan. Ce rendement appliqué à des modèles plus gros donne des ordres de grandeur. Ce sont des calculs, pas des mesures, et ils supposent qu'un modèle plus gros se comporte comme le 7B de référence.

#Ce que RDNA 4 change pour un LLM local

RDNA 4 ajoute du matériel dédié à l'IA : la RX 9070 embarque 112 accélérateurs d'IA d'après la fiche de la série, contre 128 pour la 9070 XT. On pourrait en attendre des débits de génération très supérieurs à ceux de RDNA 3. Les mesures publiques ne le montrent pas : 119,71 tokens par seconde pour la RX 9070 sous Vulkan, contre 118,27 pour la RX 7800 XT dans la même discussion. La génération d'un LLM est limitée par la bande passante mémoire, et 640 Go/s ne sont pas très éloignés des 624 Go/s de la 7800 XT. Les accélérateurs d'IA profitent plutôt à la lecture du prompt, où la RX 9070 gagne 57 % sur la 7800 XT.

La conséquence pour l'acheteur : ne payez pas RDNA 4 pour la vitesse de conversation, payez-la pour la lecture des prompts, la consommation plus basse et la durée de vie du support logiciel, qui suivra les cartes récentes plus longtemps que les anciennes. Si votre usage est un chat avec un modèle de 8 à 14B, une RX 7800 XT d'occasion donne des résultats de génération voisins.

#Face à la RX 9070 XT : l'écart est plus grand que « 10 % »

L'ancienne version de cette page annonçait une RX 9070 10 à 12 % plus lente que la 9070 XT. Sur le 7B de référence sous Vulkan, la 9070 XT génère à 137,11 tokens par seconde contre 119,71, soit 15 % de plus, et lit les prompts à 5 036 tokens par seconde contre 3 164, soit 59 % de plus. Les deux cartes ont pourtant la même mémoire, 16 Go, et la même bande passante d'après leurs fiches. L'écart vient donc du calcul (4 096 processeurs de flux contre 3 584), qui pèse peu en génération et beaucoup en lecture de prompt.

En clair : pour le chat, la 9070 perd 15 % de vitesse pour 84 W de moins, un compromis raisonnable. Pour le RAG et les longs documents, la 9070 XT lit environ 1,6 fois plus vite.

• Radeon RX 9070 XT : 16 Go et plus de calcul
• Fiche matériel de la Radeon RX 9070 XT

#Face aux RTX de 16 Go : le prompt reste le point faible

Contre les cartes NVIDIA de 16 Go mesurées sous Vulkan, la RX 9070 génère un peu moins vite, 8 % sous la RTX 4070 Ti Super et 12 % sous la RTX 5070 Ti, et lit le prompt à peu près deux fois moins vite. La RTX 5070 de 12 Go, souvent citée comme concurrente directe, n'apparaît pas dans la discussion Vulkan de référence : il n'existe donc pas de comparaison chiffrée fiable avec elle, seulement la différence de capacité, 16 Go contre 12 Go.

• RTX 5070 Ti : 16 Go côté NVIDIA
• RTX 5070 : la concurrente à 12 Go

#Mise en route

1. 01
   Choisir le système

   Sous Linux, utilisez Ubuntu 24.04.4, Ubuntu 22.04.5, RHEL 10.1 ou RHEL 9.7 pour rester dans le périmètre de support d'AMD. Sous Windows, comptez sur Vulkan.
2. 02
   Installer Ollama

   Sous Linux, installez le pilote ROCm v7 avec amdgpu-install, puis Ollama. Sous Windows, installez Ollama : Vulkan est activé par défaut.
3. 03
   Charger un modèle

   Prenez un 12B ou un 20B avant un 24B, puis vérifiez avec ollama ps que le modèle est à 100 % sur le GPU.
4. 04
   Comparer les backends

   Lancez llama-bench avec Vulkan puis ROCm sur votre modèle : dans les mesures publiques, Vulkan est légèrement devant.

ollama ps
rocminfo | grep -i gfx
./llama-bench -m llama-2-7b.Q4_0.gguf -ngl 100 -fa 0,1

• Ollama et GPU AMD : ROCm, Vulkan et variables utiles
• Compiler llama.cpp avec Vulkan

Faut-il attendre une génération suivante ? Rien dans les mesures citées ne justifie d'attendre pour un usage de 8 à 24B : la limite est la capacité de 16 Go, que seule une carte de 20 à 24 Go lève. Si vous savez déjà que vous voulez des modèles de 30B et plus, sautez cette carte ; sinon, l'achat d'une 16 Go se justifie par ce que vous lancez aujourd'hui, pas par ce qui sortira demain.

#Verdict 2026

Un bon choix

Si vous voulez 16 Go dans une carte sobre (220 W) et acceptez Vulkan sous Windows.

Préférez la 9070 XT

Si vos prompts sont longs : la lecture y est 59 % plus rapide, pour 84 W de plus.

Préférez une RTX de 16 Go

Si vous avez besoin de CUDA ou d'une lecture de prompt deux fois plus rapide.

Les prix évoluent vite : le suivi du site relève chaque lundi et chaque jeudi le prix le plus bas des cartes graphiques pour l'IA locale, avec le prix du Go de VRAM. C'est ce dernier chiffre qui doit guider la comparaison avec la RTX 5070 ou la RX 9070 XT.

• Prix des cartes graphiques pour l'IA locale, mis à jour deux fois par semaine
• Documentation Ollama : cartes AMD prises en charge
• Compatibilité GPU de ROCm, documentation AMD
• Scoreboard Vulkan du dépôt llama.cpp

#Questions fréquentes