Quel LLM sur Radeon RX 9060 XT (8 / 16 Go) ?

#RX 9060 XT : la version 16 Go est la seule sérieuse pour les LLM

Pour faire tourner des LLM en local, choisissez la Radeon RX 9060 XT en version 16 Go. Les deux versions partagent le même processeur graphique et la même bande passante de 320 Go/s ; seule la capacité change, et c'est elle qui décide de ce que vous pouvez charger. Avec 8 Go, vous êtes limité aux modèles de 7 à 9 milliards de paramètres en Q4, avec un contexte court. Avec 16 Go, vous passez aux modèles de 12 à 24 milliards de paramètres, à un contexte plus long et à une quantification plus fidèle. Au lancement, AMD affichait 299 dollars pour la 8 Go et 349 dollars pour la 16 Go : 50 dollars d'écart pour doubler la mémoire.

Les prix évoluent ; pour connaître celui du jour et le prix du gigaoctet de VRAM, consultez le suivi des prix des cartes graphiques pour l'IA locale. Le principe à retenir : sur une carte qui coûte peu, le supplément pour la version 16 Go est faible au regard de ce qu'il débloque.

#Compatibilité ROCm, Vulkan et Windows

La RX 9060 XT figure dans la matrice de compatibilité ROCm 7.2.1 des Radeon, pour Ubuntu 22.04, 24.04 et 25.10. Ollama la liste aussi parmi les cartes prises en charge par ROCm sous Linux, avec le pilote ROCm v7. Sous Linux, l'installation d'Ollama avec ROCm suit donc la même voie qu'avec les autres Radeon : le guide Ollama avec GPU AMD détaille la marche à suivre.

Sous Windows, prudence. La liste de cartes que la documentation d'Ollama donne pour ROCm sous Windows s'arrête aux RX 7000 et ne mentionne pas les RX 9000. Ollama indique par ailleurs que Vulkan fournit une prise en charge supplémentaire sous Windows et Linux, activé par défaut. Une RX 9060 XT peut donc fonctionner sous Windows par Vulkan ; vérifiez avec ollama ps que le modèle est bien sur le GPU et pas sur le processeur. LM Studio et llama.cpp offrent aussi un backend Vulkan.

#Ce qui tient dans 8 Go et dans 16 Go

Les poids ci-dessous viennent du catalogue QuelLLM, en Q4 sauf mention contraire. À ces poids s'ajoutent le cache KV, qui croît avec le contexte, et une marge d'environ un gigaoctet pour le système et les tampons. Un modèle qui remplit la carte à 100 % en poids est donc trop gros.

La conclusion pratique tient en une phrase : la 16 Go ouvre la catégorie 12 à 24 milliards de paramètres, où l'on trouve des modèles nettement plus capables pour le raisonnement, le code et le français. Le guide sur les 16 Go de VRAM donne la liste complète, celui sur les 8 Go les astuces pour étirer la mémoire.

#Vitesse attendue : la bande passante fixe le plafond

La génération de texte lit, à chaque token, l'essentiel des poids du modèle : la vitesse maximale est donc la bande passante divisée par la taille des poids lus. Avec 320 Go/s, c'est un plafond d'environ 53 tokens par seconde pour un Qwen 3.5 9B en Q4 (6 Go), 46 pour un Gemma 4 12B (7 Go), 23 pour un Mistral Small 24B (14 Go), et environ 32 pour le même Qwen 3.5 9B en Q8 (10 Go). Ces valeurs sont des plafonds théoriques, jamais atteints exactement ; les modèles MoE, qui ne lisent que leurs poids actifs, y échappent en partie.

Le seul repère public comparable est le tableau de la communauté llama.cpp sur ROCm : pour la RX 9060 XT, un participant relève 1 420 tokens par seconde en lecture du prompt et 68 en génération sur un Llama 2 7B en Q4_0, sans Flash Attention. Ce petit modèle est bien plus léger que ceux du tableau précédent. Il donne l'ordre de grandeur, pas la vitesse d'un 12B ou d'un 24B sur votre installation, qui variera avec le pilote, le système et la carte du fabricant.

#Régler Ollama pour ne pas déborder des 16 Go

Sur 16 Go, la marge se joue au gigaoctet. Trois réglages évitent le débordement silencieux vers le processeur, qui fait chuter la vitesse sans message d'erreur. Le premier est la taille du contexte : la documentation d'Ollama indique une fenêtre par défaut de 4 096 tokens, modifiable avec OLLAMA_CONTEXT_LENGTH ; chaque doublement du contexte augmente le cache KV. Le deuxième est le cache KV lui-même, quantifiable avec OLLAMA_KV_CACHE_TYPE (f16 par défaut, q8_0 pour le réduire) lorsque Flash Attention est active. Le troisième est le contrôle : après une réponse, ollama ps affiche la répartition entre GPU et processeur.

OLLAMA_CONTEXT_LENGTH=16384 OLLAMA_KV_CACHE_TYPE=q8_0 ollama serve
# dans un autre terminal
ollama run <nom-du-modèle>
ollama ps

Un exemple de raisonnement : un modèle de 14 Go comme Mistral Small 24B en Q4 sur une carte de 16 Go laisse environ 2 Go pour le contexte, le cache et les tampons. Si ollama ps affiche un partage GPU et processeur, réduisez d'abord le contexte, puis quantifiez le cache KV, puis descendez d'un cran de quantification, plutôt que de laisser le modèle déborder. Le guide sur la quantification du cache KV détaille la démarche.

#Acheter, attendre ou viser 24 Go

Trois situations se présentent. Si vous avez déjà un PC de bureau récent et une alimentation de 450 W ou plus, la 9060 XT 16 Go est un moyen simple de passer d'un usage limité aux petits modèles à un usage sérieux du chat, de la traduction et du code léger. Si vous visez des modèles de 27 à 35 milliards de paramètres, ni la 16 Go ni son 320 Go/s ne suffisent : regardez les cartes de 24 Go, dont le guide de la RX 7900 XTX. Si vous ne pouvez pas trancher sur le prix, comparez sur le suivi du site le coût du gigaoctet de VRAM, qui est le bon critère pour l'IA locale.

#Deux RX 9060 XT : 32 Go pour moins cher ?

La question revient dans les recherches. Dans llama.cpp, le mode de répartition par défaut coupe le modèle par couches entre les cartes, en pipeline, et une option règle la proportion par carte. Deux 9060 XT 16 Go donnent 32 Go de VRAM au total pour environ 320 W de puissance typique selon AMD, ce qui permet de charger un Qwen 3.8 27B en Q4 (16 Go de poids) avec beaucoup de contexte, ou un MoE de 30 à 35 milliards de paramètres (19 à 21 Go).

Deux limites à connaître. La vitesse par token ne double pas : les cartes travaillent l'une après l'autre sur chaque token, et chacune conserve sa bande passante de 320 Go/s. Et la carte mère doit offrir deux emplacements PCIe utilisables et un boîtier ventilé. Une seule 24 Go, comme la 7900 XTX, offre 960 Go/s sur un seul bus ; pour un modèle qui tient dedans, elle génère nettement plus vite.

#FP8 : un atout sur le papier, peu de conséquences avec Ollama

Les Radeon RX 9000 sont de génération RDNA 4, et AMD liste pour la 9060 XT un calcul FP8 de 205 TFLOPs, ce que la fiche de la RX 7900 XTX ne mentionne pas. Pour un usage courant avec Ollama ou LM Studio, ce point compte peu : les modèles au format GGUF sont quantifiés en entiers (Q4, Q5, Q8), pas en FP8. Il devient utile avec des moteurs qui exploitent des poids FP8, comme vLLM, dont la documentation liste les RX 9000. Ne l'utilisez pas comme argument d'achat si vous restez sur Ollama.

#RX 9060 XT ou RTX 5060 Ti : le duel à 16 Go

NVIDIA propose la RTX 5060 Ti en 16 Go et en 8 Go, en GDDR7 sur un bus de 128 bits, contre du GDDR6 sur 128 bits pour la carte AMD. La mémoire plus rapide donne à NVIDIA l'avantage de la bande passante, donc de la vitesse de génération ; consultez la fiche NVIDIA pour le débit exact. L'autre avantage est logiciel : CUDA est la cible par défaut de la plupart des projets d'IA.

• Quel LLM pour 16 Go de VRAM : la liste complète
• Quel LLM pour 8 Go de VRAM : astuces et limites
• Ollama avec GPU AMD (ROCm) : installation pas à pas
• LLM sur RTX 5060 Ti (8 / 16 Go)
• LLM sur RX 7900 XTX (24 Go)
• Prix des cartes graphiques pour l'IA locale

• Source : fiche AMD de la RX 9060 XT (16 Go)
• Source : documentation GPU d'Ollama
• Source : compatibilité ROCm sur Radeon
• Source : tableau de performances llama.cpp sur ROCm

#Questions fréquentes