Quel LLM sur Radeon RX 9070 XT (16 Go) ?

La Radeon RX 9070 XT (mars 2025) est la première carte RDNA 4 d'AMD à viser sérieusement l'IA locale. 16 Go de VRAM GDDR6, 644 Go/s de bande passante, 4 096 stream processors, support FP8 hardware (nouveauté RDNA 4). En 2026 à ~700 €, elle se positionne face à la RTX 5070 Ti pour ~250 € de moins. Mais ROCm reste plus capricieux que CUDA : ce guide détaille les benchmarks réels, l'installation, et les pièges à éviter.

Par Mohamed Meguedmi·Màj 2026-04-26·Testé sur Windows, macOS, Linux

#RX 9070 XT pour LLM

Architecture: RDNA 4 (Navi 48). TSMC N4P.
VRAM: 16 Go GDDR6 20 Gbps, bus 256 bits. Bande passante 644 Go/s.
Stream Processors: 4 096. AI Accelerators 2ᵉ gen avec FP8 natif (nouveau sur RDNA 4).
TDP: 304 W. Alim 750 W recommandée.
Prix 2026: ~700 € en neuf disponibilité correcte.

→

RDNA 4 : enfin du FP8 sur AMD

Première gen AMD avec FP8 natif. Théoriquement +30-50 % de throughput vs RDNA 3 sur LLM. En pratique 2026, peu exploité par Ollama/llama.cpp — vLLM 0.7+ et MLC-LLM commencent à en tirer parti.

#1. ROCm 6.3+ et compat 2026

ROCm 6.3+: Premier ROCm officiel pour RDNA 4. Sortie février 2025. Support Ollama via llama.cpp HIP backend.
Vulkan fallback: Si ROCm pose problème, llama.cpp Vulkan fonctionne très bien. Perfs ~85-90 % de ROCm.
Linux préféré: Ubuntu 24.04 LTS recommandé. Windows : ROCm récent mais moins stable qu'Adrenaline pour LLM.
Pas DirectML: DirectML est plus lent et déprécié. Préférez Vulkan (cross-platform) ou ROCm (Linux).

#2. Modèles compatibles

RX 9070 XT 16 Go — modèles LLM

Modèle	Quant	VRAM	Tokens/sec	Backend
Mistral 7B	Q5_K_M	5,1 Go	78-88	ROCm
Llama 3.1 8B	Q5_K_M	5,7 Go	70-80	ROCm
Qwen 2.5 Coder 14B	Q5_K_M	10 Go	44-50	ROCm
Phi-4 14B	Q5_K_M	10 Go	42-50	ROCm
Qwen 2.5 14B	Q6_K	11,5 Go	38-44	ROCm
Mistral Small 24B	Q4_K_M	14 Go	26-32	ROCm
Qwen 2.5 32B	Q3_K_M	15 Go	20-26	ROCm

#3. Installation Ollama + ROCm

01
Installer ROCm 6.3+ (Ubuntu 24.04)
wget https://repo.radeon.com/amdgpu-install/6.3.x/ubuntu/noble/amdgpu-install_6.3.x_all.deb && sudo apt install ./amdgpu-install*.deb && sudo amdgpu-install --usecase=rocm
02
Ajouter user au groupe render et video
sudo usermod -aG render,video $USER puis reboot.
03
Installer Ollama
curl -fsSL https://ollama.com/install.sh | sh — détecte ROCm automatiquement si présent.
04
Vérifier la détection
ollama serve dans un terminal, journaux doivent indiquer ROCm 6.3.x detected, RX 9070 XT detected.

Vérifications

# Carte détectée par ROCm ?
rocminfo | grep -A 4 'Agent'

# Mémoire libre
rocm-smi --showmeminfo vram

# Test rapide LLM
ollama run mistral

#4. Benchmarks tokens/sec

RX 9070 XT 16 Go — Q4_K_M, Ollama 0.5.x, Ubuntu 24.04, ROCm 6.3.2

Modèle	Tokens/sec	vs RTX 5070 Ti
Mistral 7B	84 t/s	-11 %
Llama 3.1 8B	75 t/s	-9 %
Phi-4 14B	48 t/s	-8 %
Mistral Small 24B	30 t/s	-6 %

Écart ROCm vs CUDA : ~10 %

À architecture comparable, ROCm reste 8-12 % derrière CUDA en LLM (moins de maturité du software stack). Compensé en partie par le prix (~250 € de moins qu'une 5070 Ti).

#5. RX 9070 XT vs RTX 5070 Ti

Le duel 16 Go 2025

Critère	RX 9070 XT	RTX 5070 Ti
VRAM	16 Go GDDR6	16 Go GDDR7
Bande passante	644 Go/s	896 Go/s
Mistral 7B Q4	84 t/s	94 t/s
FP4 hardware	Non	Oui
FP8 hardware	Oui (RDNA 4)	Oui (Blackwell)
Stack logiciel	ROCm/Vulkan	CUDA (mature)
Prix 2026	~700 €	~950 €
Verdict LLM	Bon rapport €/perf	Référence neuve

#Verdict 2026

Achetez si: Vous êtes à l'aise avec Linux + ROCm, voulez 16 Go neuf à <800 €, et acceptez 10 % de perf en moins vs Nvidia.
Évitez si: Windows-only sans envie de débugger, besoin de TensorRT-LLM ou écosystème CUDA spécifique (training pro).
Comparé à RTX 4070 Ti Super occasion: À 750 € occasion, la 4070 Ti Super offre CUDA, perf équivalente. Match nul — choisissez selon préférence vendor.

#Questions fréquentes

La Radeon RX 9070 XT est-elle bien supportée pour les LLM ?+

Oui depuis ROCm 6.3 (février 2025). Ollama, llama.cpp et vLLM la reconnaissent. Quelques bugs résiduels sur kernels Linux < 6.10, à mettre à jour.

Combien de tokens/sec pour Mistral 7B sur RX 9070 XT ?+

78-88 tokens/seconde en Q4_K_M sous ROCm 6.3, Ubuntu 24.04. ~10 % plus lent qu'une RTX 5070 Ti, mais ~250 € moins chère.

RX 9070 XT ou RTX 5070 Ti pour LLM ?+

RTX 5070 Ti si budget le permet (mature CUDA, +10 % perf). RX 9070 XT si budget plus serré ou philosophie open-source. Les 16 Go sont équivalents.

ROCm fonctionne-t-il sur Windows pour RX 9070 XT ?+

ROCm 6.3 supporte Windows officiellement, mais moins testé qu'Ubuntu. En pratique, Vulkan via llama.cpp est plus stable sur Windows et perd seulement 5-10 % vs ROCm Linux.

La RX 9070 XT supporte-t-elle FP8 pour les LLM ?+

Oui nativement (première AMD grand public). En 2026, peu exploité par Ollama/llama.cpp. Via vLLM ou MLC-LLM avec quants AWQ : gain 25-35 % vs Q4_K_M classique.

Peut-on faire du fine-tuning sur RX 9070 XT ?+

QLoRA 7B-8B : oui via PyTorch + ROCm. QLoRA 14B : tight (16 Go limite). LoRA classique 14B+ : 24 Go nécessaires (RX 7900 XTX ou Nvidia 24 Go).

Alim pour RX 9070 XT ?+

750 W ATX 3.0 minimum. TDP 304 W + CPU 150 W + système = 500 W nominal, mais pics RDNA 4 mesurés à 380 W transitoires.

Ce guide vous a aidé ?

Un retour, une erreur, une précision ? Faites-nous signe, ça améliore le guide pour tout le monde.

Suite logique

Matériel · 10 min