Quel LLM sur RTX 3050 (6 / 8 Go) ?

#La RTX 3050 en 2026 : ce qu'elle fait tourner

Une RTX 3050 exécute confortablement les modèles de 3 à 4 milliards de paramètres en quantification Q4. D'après le catalogue QuelLLM, Granite 4.1 3B pèse 2 Go et Qwen 3.5 4B 2,3 Go : ils tiennent dans les 6 comme dans les 8 Go, avec de la place pour le contexte. Un modèle de 8 milliards comme Granite 4.2 8B (4,6 Go en Q4) passe sur la version de 8 Go et se joue à la limite sur la 6 Go, qui n'expose que 5 804 MiB à llama.cpp. Un 9B comme Qwen 3.5 9B (6 Go de poids) ne tient sur aucune des deux sans déborder en RAM. Côté vitesse, le seul résultat public est celui d'une 6 Go : 37 tokens par seconde sur un modèle de 7 milliards en Q4_0. C'est correct pour discuter, mais la carte est à sa limite dès que le modèle grossit.

#RTX 3050 6 Go ou 8 Go : deux cartes différentes

Sous le même nom, NVIDIA a vendu deux produits. Les mesures ne peuvent pas être mélangées : la 6 Go est plus lente à mémoire égale, parce que son bus de 96 bits limite la bande passante à 168 Go/s, contre 224 Go/s pour la 8 Go.

Le chiffre estimé pour la 8 Go applique au 224 Go/s le rapport entre la mesure et le plafond théorique de la 6 Go, qui atteint environ 85 % de ce que sa bande passante permet. C'est une projection, à ne pas citer comme un résultat. Sa consommation de 70 W rend la 6 Go intéressante pour un ancien PC dont l'alimentation est limitée, la fiche NVIDIA ne listant d'ailleurs aucun connecteur d'alimentation supplémentaire pour cette version.

#Modèles compatibles selon la mémoire

La règle à retenir est de laisser au moins un gigaoctet libre pour le contexte et le système. Sur la 6 Go, la mémoire réellement disponible pour llama.cpp est de 5 804 MiB, soit un peu moins de 5,7 Go : un modèle de 4,6 Go est donc envisageable, mais le contexte devra rester court. Sur la 8 Go, le même modèle laisse près de trois gigaoctets de marge. Le guide sur les 6 Go de VRAM détaille les modèles qui s'y trouvent à l'aise.

• Quel LLM pour 6 Go de VRAM ?
• Quel LLM pour 8 Go de VRAM ?

#Vitesse : mesures et estimations

Le tableau collaboratif de llama.cpp a reçu en juillet 2026 une mesure sur une RTX 3050 de 6 Go : 37,39 tokens par seconde en génération sur Llama 2 7B en Q4_0, un fichier de 3,56 GiB. Avec Flash Attention, la valeur passe à 38,51. Ce résultat mérite deux lectures. D'abord, il atteint environ 85 % de ce que permet la bande passante de 168 Go/s, ce qui est un bon rendement : la carte est limitée par sa mémoire, pas par ses cœurs. Ensuite, le débit baisse quand la génération s'allonge : il tombe à 33,52 tokens par seconde sur 2 048 tokens, soit environ 10 % de moins.

On peut extrapoler à d'autres modèles par règle de trois sur la taille du fichier. Ce sont des bornes hautes théoriques, calculées à partir de la mesure de la 6 Go, et non des résultats publiés.

À titre de comparaison, la RTX 3060 12 Go génère 75,6 tokens par seconde sur le même test : le double de la 3050 6 Go. Sur un modèle de 8 milliards, la différence se ressent nettement, puisque la 3050 6 Go tombe autour de 30 tokens par seconde en estimation théorique, ce qui reste lisible mais plus lent que la lecture.

#Astuces pour rentabiliser 6 Go

1. 01
   Choisir un modèle de 4 milliards ou moins

   Qwen 3.5 4B ou Granite 4.1 3B en Q4 laissent 3 à 4 Go de marge, ce qui permet un contexte confortable et un débit nettement supérieur.
2. 02
   Libérer la mémoire vidéo

   Fermez le navigateur, les jeux et tout ce qui utilise la carte : sur 6 Go, chaque gigaoctet pris par une autre application vient du contexte disponible.
3. 03
   Quantifier le cache K/V

   La documentation d'Ollama précise que le cache K/V peut être quantifié quand Flash Attention est activée. Définissez OLLAMA_FLASH_ATTENTION=1 puis OLLAMA_KV_CACHE_TYPE=q8_0 avant de lancer le serveur.
4. 04
   Contrôler le chargement

   Après un premier prompt, lancez ollama ps : la colonne Processor doit afficher 100% GPU. Sinon le modèle déborde et la vitesse s'effondre.

OLLAMA_FLASH_ATTENTION=1 OLLAMA_KV_CACHE_TYPE=q8_0 ollama serve

#Identifier la version dont vous disposez

Les deux cartes portent le même nom, et les annonces d'occasion ne précisent pas toujours la mémoire. Plusieurs indices permettent de trancher sans ouvrir le PC. La fiche NVIDIA distingue la puissance de la carte : 130 W pour la version de 8 Go, 70 W pour celle de 6 Go, avec une alimentation système conseillée de 550 W contre 300 W. Une carte sans connecteur d'alimentation externe est donc très probablement une 6 Go, même si certains modèles de constructeurs peuvent en ajouter un. Une fois la carte installée, la commande nvidia-smi affiche la mémoire totale : une valeur voisine de 6 000 MiB signale la petite version, et une valeur proche de 8 000 MiB la grande. Le test llama.cpp de la 6 Go a d'ailleurs relevé 5 804 MiB exploitables, un peu moins que la capacité nominale.

nvidia-smi --query-gpu=name,memory.total --format=csv

Cette vérification évite une confusion coûteuse : payer une 8 Go et recevoir une 6 Go change ce que vous pouvez faire tourner, puisque le Granite 4.2 8B y devient à peine viable. Demandez systématiquement une capture de nvidia-smi avant achat, et refusez l'annonce qui ne précise pas la mémoire. Faites de même pour une carte déjà installée dans un PC récupéré : le nom affiché par Windows ne suffit pas à distinguer les deux versions.

#Le contexte : jusqu'où pousser sur 6 Go

Le tableau de llama.cpp montre que le débit de la 3050 6 Go baisse de 10 % entre 128 et 2 048 tokens générés. La mémoire est le second effet : le cache de contexte consomme de la VRAM proportionnellement à la longueur de la conversation. Sur une carte de 6 Go avec un modèle de 4 milliards en Q4 (2,3 Go), il reste plus de 3 Go pour le cache, ce qui permet des contextes de plusieurs milliers de tokens sans effort. Avec un 8B de 4,6 Go, il ne reste qu'un gigaoctet environ : le contexte devient le facteur limitant bien avant la vitesse.

Deux réflexes évitent les mauvaises surprises. D'abord, limitez volontairement la fenêtre de contexte à ce dont vous avez besoin, plutôt que de laisser un modèle annonçant des centaines de milliers de tokens de contexte en réserver une part inutile. Ensuite, si vous manipulez de longs documents, découpez-les : résumer trois textes de deux mille tokens coûte moins de mémoire qu'un seul de six mille. Le guide sur la fenêtre de contexte détaille ces compromis.

• Comprendre la fenêtre de contexte
• Quantifier le KV cache : gagner de la VRAM (long contexte)

#À quoi sert vraiment une RTX 3050 pour l'IA locale

Avec un modèle de 3 à 4 milliards en Q4, elle suffit pour des tâches ciblées : résumer un texte, reformuler, classer des messages, répondre à des questions simples sur un document court ou faire de l'autocomplétion de code. Elle convient mal à la discussion longue sur un modèle de 8B, au RAG sur des documents volumineux ou aux tâches de raisonnement qui demandent les modèles les plus capables. La barrière n'est pas seulement la vitesse : les petits modèles font plus d'erreurs et perdent le fil plus vite. Prévoyez donc de vérifier leurs réponses sur les sujets importants, et de ne pas leur confier de décisions engageantes sans relecture humaine.

Si vous cherchez avant tout à découvrir l'IA locale à moindre frais, la carte remplit ce rôle. Si vous voulez un assistant quotidien, un 8B sur 8 Go de mémoire est un minimum, et 12 Go offrent une marge que les prix d'occasion rendent souvent accessible.

• Quel LLM sur RTX 3060 12 Go ?
• Prix des cartes graphiques pour l'IA locale (suivi hebdomadaire)

#Verdict 2026

Usage limité aux petits modèles

Sur 6 Go, restez à 4 milliards ou moins. Sur 8 Go, un 8B en Q4 fonctionne avec un contexte modéré.

Préférez une carte de 12 Go

La 3060 12 Go double le débit mesuré et ouvre les modèles de 12 milliards. L'écart de prix d'occasion varie chaque semaine : consultez le suivi.

À l'achat

Ne prenez la 3050 que si elle est déjà dans votre PC ou si le budget est très serré. Vérifiez la version, 6 ou 8 Go : les annonces ne le précisent pas toujours.

#Questions fréquentes

• Source : tableau de performances llama.cpp sur CUDA
• Source : fiche NVIDIA de la RTX 3050
• Source : cartes NVIDIA prises en charge par Ollama
• Source : FAQ Ollama (ollama ps, cache K/V)