Quel LLM sur RTX 5050 (8 Go) ?

#RTX 5050 pour un LLM local : ce que 8 Go de GDDR6 permettent

Une RTX 5050 fait tourner sans difficulté les modèles de 3 à 9 milliards de paramètres en Q4. Qwen 3.5 4B pèse 3,4 Go, Granite 4.2 8B 5,3 Go et Qwen 3.5 9B 6,6 Go d'après la bibliothèque Ollama : ils tiennent dans les 8 Go de la carte, le dernier avec un contexte court. Un modèle de 12B en Q4 occupe environ 7 à 8 Go et ne laisse plus de place au contexte. La limite de vitesse vient de la mémoire : la 5050 utilise de la GDDR6 sur un bus de 128 bits, soit 320 Go/s d'après Wikipedia, là où la RTX 5060 utilise de la GDDR7 à 448 Go/s. Pour découvrir les LLM locaux et s'en servir pour des tâches simples, c'est suffisant. Pour un usage quotidien exigeant, la capacité de 8 Go devient vite le facteur bloquant.

Architecture

Blackwell, 2 560 cœurs CUDA et Tensor Cores de 5e génération, 421 TOPS d'IA d'après NVIDIA.

Mémoire

8 Go de GDDR6 sur un bus de 128 bits, 320 Go/s de bande passante.

Puissance

130 W de puissance graphique totale ; NVIDIA indique 550 W d'alimentation minimale pour le PC entier.

Prix de lancement

249 dollars, sortie le 1er juillet 2025 d'après Wikipedia.

#GDDR6 contre GDDR7 : pourquoi la bande passante fait la différence

En génération de texte, le GPU relit l'essentiel des poids du modèle pour chaque token produit. La vitesse maximale est donc la bande passante divisée par la taille des poids. La 5050 n'est pas plus lente que ses aînées à cause de ses cœurs, mais à cause de sa mémoire : 320 Go/s contre 448 Go/s pour la RTX 5060, soit 40 % de plus pour cette dernière à capacité identique. La 5050 reste néanmoins plus rapide qu'une RTX 4060 (272 Go/s), et elle ajoute les Tensor Cores de cinquième génération.

Cette comparaison éclaire le choix entre les trois cartes. Si vos modèles tiennent dans 8 Go, la 5060 est nettement plus rapide et la 5050 est un compromis de prix. Si vos modèles dépassent 8 Go, aucune carte de 8 Go ne convient, et la 3060 12 Go d'occasion s'impose comme alternative.

#Quels modèles tiennent dans 8 Go

Le repère du site est d'environ 0,6 Go par milliard de paramètres en Q4, poids seuls. Ollama utilise par défaut un contexte de 4 096 tokens ; au-delà, le cache K/V grandit et grignote la marge. Une marge de moins de 1,5 Go est un signal d'alerte, car le système d'affichage et les autres programmes prélèvent eux aussi leur part de la carte : le moindre programme qui occupe la VRAM fait alors déborder le modèle en RAM système.

#Installer Ollama sur une RTX 5050

1. 01
   Mettre à jour le pilote

   Ollama demande un pilote NVIDIA 550 ou plus récent. Installez le pilote le plus récent disponible pour la RTX 50 : c'est nécessaire pour la génération Blackwell.
2. 02
   Installer Ollama

   Téléchargez l'installeur pour votre système ; CUDA est embarqué.
3. 03
   Lancer un modèle

   Essayez ollama run qwen3.5:4b pour une première expérience fluide, puis ollama run granite4.2:8b pour plus de qualité.
4. 04
   Vérifier le placement

   Lancez ollama ps : la colonne PROCESSOR doit afficher 100 % GPU.

#Quelle vitesse attendre : un plafond, pas une mesure

Aucun débit n'est présenté ici comme une mesure maison. On calcule le plafond de génération en divisant la bande passante par la taille des poids. Un relevé tiers public (LLaMA 3 8B en Q4_K_M sous llama.cpp, mai 2024) donne, pour la RTX 4080, 106 tokens/s pour un plafond de 156 tokens/s, soit environ 68 %. En prenant 70 % comme ordre de grandeur, on obtient les estimations suivantes pour un contexte court.

Une lecture confortable commence vers 15 à 20 tokens/s : tous ces modèles la dépassent. Les estimations baissent avec le contexte, et la lecture de l'invite pèse sur le calcul plus que sur la mémoire.

#Tirer le maximum de 8 Go

Trois réglages comptent. Le cache K/V quantifié en q8_0 utilise environ la moitié de la mémoire du f16, valeur par défaut, à condition d'activer Flash Attention. Un contexte adapté à l'usage évite de gaspiller de la VRAM. Enfin, un seul modèle chargé à la fois est la règle sur 8 Go, quelle que soit la taille des modèles concernés.

export OLLAMA_FLASH_ATTENTION=1
export OLLAMA_KV_CACHE_TYPE=q8_0
export OLLAMA_CONTEXT_LENGTH=8192
ollama serve

Un seul modèle chargé

Ollama garde un modèle en mémoire après usage ; si vous changez de modèle, vérifiez avec ollama ps que le précédent est déchargé, sinon les deux se disputent les 8 Go.

Contexte à la demande

N'augmentez le contexte que pour la tâche qui l'exige : chaque doublement double le cache K/V.

Applications graphiques

Les navigateurs, jeux et logiciels de montage réservent de la VRAM. Fermez-les avant un chargement et contrôlez avec nvidia-smi.

Quantification

Restez en Q4_K_M : un 8B en Q8 pèse presque 8 Go à lui seul et dépasse la carte.

Ces réglages n'augmentent pas la capacité de la carte, ils évitent de la gaspiller. Si un modèle déborde malgré tout, la génération ne s'arrête pas : une partie des poids est lue depuis la RAM système, ce qui la ralentit nettement. La documentation d'Ollama décrit ce cas dans la sortie de ollama ps, avec une colonne qui indique la répartition entre GPU et CPU.

• Quantifier le KV cache pour gagner de la VRAM
• Dépanner Ollama : GPU non détecté, lenteurs, erreurs mémoire

Une précision utile : des ordinateurs portables portent aussi le nom RTX 5050. Leurs caractéristiques et leur limite de puissance dépendent du constructeur, et ce guide traite la carte de bureau. Vérifiez la fiche technique de votre machine, puis la mémoire réellement disponible, avant d'appliquer les chiffres de bande passante ci-dessus.

#Ce que l'on fait concrètement avec 8 Go

Le bon critère n'est pas la taille du modèle mais le travail demandé. Un chat, un résumé de quelques pages ou une reformulation se font avec un modèle de 4B à 8B sans difficulté. Un RAG sur vos documents demande un modèle de génération et un modèle d'embeddings, plus un contexte suffisant pour les extraits : sur 8 Go, gardez le modèle de génération à 4B ou 8B. Un assistant de code exige davantage de contexte et souvent un modèle plus gros, ce qui devient contraignant. Pour la vision ou les agents qui enchaînent des outils, les 8 Go se remplissent vite.

#Quand la 5050 ne suffit plus

Trois signaux indiquent qu'il faut plus de mémoire. Vous voulez charger un modèle de 12B ou plus, par exemple un modèle de qualité supérieure pour la rédaction. Votre contexte dépasse régulièrement 16 000 tokens, parce que vous travaillez sur de longs documents. Vous chargez plusieurs modèles à la fois, par exemple génération, embeddings et reranker. Dans ces trois cas, ajouter de la vitesse ne règle rien : c'est la capacité qui manque. La page dédiée aux 12 Go et celle des 16 Go décrivent les paliers suivants, et le calculateur de VRAM permet de vérifier un modèle précis avant d'acheter.

• Quel LLM pour 8 Go de VRAM

#RTX 5050, RTX 5060 ou RTX 3060 12 Go : quel choix

Le choix dépend de la taille des modèles visés. Pour des modèles de 4B à 8B, la 5060 offre 40 % de bande passante en plus pour 50 dollars de prix conseillé de plus (299 contre 249 dollars au lancement), ce qui est un bon rapport. Pour des modèles de 9B à 14B, ni l'une ni l'autre ne convient : la 3060 12 Go d'occasion ouvre des modèles que les 8 Go refusent. Consultez le suivi des prix pour comparer les cartes au moment de l'achat.

• Quel LLM sur RTX 5060
• Quel LLM sur RTX 3060 12 Go
• Prix des cartes graphiques pour l'IA locale

#Verdict 2026

Achetez une 5050 si

Vous voulez du neuf avec garantie, un usage modeste (chat, résumé, petit RAG) et un budget serré.

Préférez la 5060

Si le budget le permet : même capacité, 40 % de bande passante en plus.

Préférez une 3060 12 Go d'occasion

Si vos modèles dépassent 8 Go : c'est la capacité, pas la vitesse, qui vous manquera.

• Source : caractéristiques officielles NVIDIA (RTX 5050)
• Source : GPU NVIDIA pris en charge par Ollama
• Source : tailles de Granite 4.2 dans la bibliothèque Ollama

#Questions fréquentes