Débutant 9 minPar VRAM
Quel LLM pour 6 Go de VRAM ?
6 Go de VRAM permettent de faire tourner Mistral 7B Q4 (tangent) et Llama 3.2 3B confortable. GTX 1660 series, RTX 2060, RTX 3050 6GB : ces cartes restent pertinentes pour démarrer en LLM sans investissement. Ce guide détaille exactement quels modèles tournent et comment optimiser 6 Go.
#6 Go VRAM en 2026
→
Le seuil Mistral 7B Q4
6 Go = vous pouvez faire tourner Mistral 7B Q4 (4,4 Go) avec 1,5 Go de marge contexte. C'est le minimum confortable pour un usage LLM réel.
#1. GPU concernés
- GTX 1660 / Super / Ti
- Turing 2019, 6 Go GDDR5/GDDR6. ~100-150 € occasion.
- RTX 2060 6 Go
- Turing avec Tensor Cores. ~120 € occasion.
- RTX 3050 6 Go
- Ampere bas de gamme 2024. ~140 € occasion.
- GTX 1060 6 Go
- Pascal 2016. ~50 € occasion. Limité par l'absence de Tensor Cores.
#2. Modèles compatibles
6 Go VRAM — modèles LLM
| Modèle | Quant | VRAM | Tokens/sec (RTX 2060) |
|---|---|---|---|
| Llama 3.2 3B | Q8_0 | 3,4 Go | 30-38 |
| Qwen 2.5 3B | Q5_K_M | 2,2 Go | 42-50 |
| Mistral 7B | Q4_K_M | 4,4 Go | 18-24 |
| Llama 3.1 8B | Q3_K_S | 3,8 Go | 16-22 (qualité dégradée) |
| Qwen 2.5 Coder 7B | Q4_K_M | 4,5 Go | 16-22 tangent |
#3. Astuces 6 Go
- KV cache Q8 obligatoire
- OLLAMA_KV_CACHE_TYPE=q8_0 — sinon contexte 4k+ déborde.
- Context 4k max
- Au-delà, Mistral 7B Q4 + cache déborde. Suffisant pour chat.
- Une seule app GPU
- Pas de Chrome accéléré + LLM + jeu. Choisissez.
- Pas de 14B sérieux
- Phi-4 14B Q3 tient en 6,5 Go mais déborde 6 Go. Restez sur 7B-8B.
#Upgrade conseillé
- RTX 3060 12 Go (~250 €)
- Le doublement de VRAM ouvre Phi-4 14B et Qwen 14B. Meilleur upgrade LLM 2026.
- RTX 4060 Ti 16 Go occasion (~420 €)
- Si budget plus large, accès Mistral Small 24B.
#Questions fréquentes
Quel est le meilleur LLM pour 6 Go de VRAM ?+
Mistral 7B Q4_K_M est le sweet spot. Excellent en français, qualité supérieure à Llama 3.2 3B. Sinon Llama 3.2 3B Q8 si vous voulez plus rapide.
Combien de tokens/sec pour Mistral 7B sur 6 Go ?+
Sur RTX 2060 6 Go : 18-24 tok/s. Sur GTX 1660 Super : 14-18 tok/s. Sur GTX 1060 6 Go : 8-12 tok/s.
Peut-on faire tourner Llama 3.1 8B sur 6 Go ?+
En Q3_K_S (3,8 Go) oui mais avec qualité dégradée. Préférez Mistral 7B Q4 — qualité similaire ou supérieure pour la même VRAM.
RTX 2060 6 Go ou RTX 3050 8 Go pour LLM ?+
RTX 3050 8 Go : +33 % VRAM (8 vs 6 Go), Tensor Cores 3ᵉ gen, plus récente. À prix équivalent (~150-180 €), 3050 8 Go gagne.
6 Go suffisent pour le RAG ?+
RAG simple oui (Mistral 7B Q4 + embedder TaB léger). RAG multi-stage non. Pour RAG sérieux, 12 Go+.
Ce guide vous a aidé ?
Un retour, une erreur, une précision ? Faites-nous signe, ça améliore le guide pour tout le monde.