🇺🇸 Granite 4.1 8B Instruct
Dense 8B Apache 2.0, 12 langues dont FR, 131k ctx, GQA 32Q/8KV. MMLU 73.84, HumanEval 85.37. Sortie 29 avril 2026.
# HuggingFace : ibm-granite/granite-4.1-8b
Classement mis à jour le 02/09/2026
La RTX 3060 12 GB est la carte budget la plus populaire pour faire tourner des LLM en local. 12 GB de VRAM permettent des modèles 7-9B en Q4/Q5 avec fluidité. Voici les meilleurs choix.
Dense 8B Apache 2.0, 12 langues dont FR, 131k ctx, GQA 32Q/8KV. MMLU 73.84, HumanEval 85.37. Sortie 29 avril 2026.
# HuggingFace : ibm-granite/granite-4.1-8b
4B effectifs multimodal (texte+image+audio). 140 langues. Pour laptop et edge.
ollama run gemma4:e4b
Gemma 4 12B (Google) : modèle dense multimodal (texte, vision, audio), 256k contexte, ~7 Go VRAM Q4. Apache 2.0, multilingue.
# HuggingFace : google/gemma-4-12B
Dense 14B avec hybrid thinking. Égale Qwen 2.5 32B Base sur STEM/code.
ollama run qwen3:14b
Raisonneur 3.8B MIT entraîné sur traces R1. AIME24 57.5, MATH-500 94.6.
ollama run phi4-mini-reasoning:3.8b
Raisonneur MIT 14B. Bat R1-Distill-Llama-70B sur AIME/GPQA avec 50× moins de paramètres.
ollama run phi4-reasoning:14b
Raisonnement exceptionnel pour sa taille. Orienté STEM.
ollama run phi4:14b
Dense 14B Apache 2.0. MMLU 79.7, HumanEval 83.5. 29+ langues. Bon compromis.
ollama run qwen2.5:14b
| Rang | Modèle | Params | VRAM Q4 | Contexte | Licence | Sur RTX 3060 12GB |
|---|---|---|---|---|---|---|
| #1 | Granite 4.1 8B Instruct | 8B | 5 GB | 131 072 | Apache 2.0 | 12 tok/s · Q8 |
| #2 | Gemma 4 E4B | 4B | 10 GB | 128 000 | Gemma | 14 tok/s · Q5_K_M |
| #3 | Gemma 4 12B | 12B | 7 GB | 262 144 | Apache 2.0 | 18 tok/s · Q5_K_M |
| #4 | Qwen 3 14B | 14B | 9 GB | 131 072 | Apache 2.0 | 6 tok/s · Q5_K_M |
| #5 | Phi-4 Mini Reasoning 3.8B | 3.8B | 10 GB | 128 000 | MIT | 14 tok/s · Q5_K_M |
| #6 | Phi-4 Reasoning 14B | 14B | 9 GB | 32 768 | MIT | 6 tok/s · Q5_K_M |
| #7 | Phi-4 14B | 14B | 9 GB | 16 384 | MIT | 6 tok/s · Q5_K_M |
| #8 | Qwen 2.5 14B Instruct | 14B | 9 GB | 131 072 | Apache 2.0 | 6 tok/s · Q5_K_M |
RTX 3060 12GB n'est plus vendu neuf au bon prix — l'équivalent actuel est le RTX 5060 Ti 16 Go :
Liens affiliés — QuelLLM peut percevoir une commission sur les achats, sans surcoût pour vous, ce qui n'influence pas le classement (établi de façon indépendante). En tant que Partenaire Amazon, QuelLLM réalise un bénéfice sur les achats remplissant les conditions requises.
Mémo gratuit
Reçois le mémo VRAM → meilleur modèle de code → commande Ollama (un seul écran, copier-coller). Et passe au kit Copilote Local pour en faire un setup qui marche vraiment.
Le kit Copilote Local — les configs Ollama + Cline + Aider prêtes à coller, Modelfiles réglés, dépannage, espace en ligne à vie →Pas de spam. Désinscription en 1 clic. Tes données restent chez nous (jamais revendues).
Ta carte → le meilleur modèle de code à faire tourner en local, et la commande Ollama exacte :
| Ta VRAM | GPU / Mac typiques | Modèle de code conseillé | Commande Ollama |
|---|---|---|---|
| 8 Go | RTX 4060 / 3060 · M1-M2 16 Go | Qwen 3.5 9B (Q4, 6,6 Go — 256k ctx) | ollama run qwen3.5:9b |
| 12 Go | RTX 3060 12 Go / 4070 / 5070 | Qwen 3.5 9B (Q8, 11 Go) ou Gemma 4 12B (7,6 Go) | ollama run qwen3.5:9b-q8_0 |
| 16 Go | RTX 5070 Ti / 4080 / 5080 · RX 9070 XT · M4 24 Go | Devstral 24B (Q4, 14 Go) — spécialiste agent de code | ollama run devstral:24b |
| 24 Go | RTX 3090 / 4090 · RX 7900 XTX · M4 Pro 48 Go | Qwen 3.8 27B (Q4, 18 Go) — le « proche Copilot » | ollama run qwen3.8:27b |
| 32 Go | RTX 5090 | Qwen 3.6 35B-A3B (Q4, 23 Go) — MoE rapide | ollama run qwen3.6:35b |
| 48 Go+ | Mac M4 Max 64 Go · M2 Ultra 128 Go | Qwen3-Coder 30B-A3B (Q8, 32 Go — 256k ctx) | ollama run qwen3-coder:30b-a3b-q8_0 |
-base : ollama run qwen2.5-coder:7b-base — c'est encore la référence sur ce cas précis. ⚠️ Qwen 3.8 : son raisonnement est réglé très haut par défaut et il « sur-réfléchit » sur des demandes simples — baisse-le à low (ou coupe-le) au premier lancement. ⚠️ Piège licence : Codestral 22B = Mistral Non-Production License → interdit pour coder au travail. Qwen 3.5/3.8, Gemma 4 et Devstral sont en Apache 2.0. 💡 Ça plante en mémoire ? Garde ~1,5 Go de VRAM libre pour le contexte, ou descends d'un cran de quantization.🔌 Pour le brancher dans VS Code : Cline (agent multi-fichiers), Aider (CLI) ou Tabby/Twinny (autocomplétion FIM) — tous se connectent à Ollama en local. Le kit Copilote Local — configs prêtes à coller + setup testé — est dispo : /copilote-local.
Filtre : modèles qui tiennent en Q4_K_M dans 12 GB. Bonus pour ceux qui utilisent au moins 40% de la VRAM — on évite de recommander un modèle trop petit qui sous-exploite la carte.
Critères pris en compte :
Le scoring est entièrement transparent : consultez notre méthodologie pour les détails de calcul VRAM/tokens/sec.
Peut-on faire du RAG sérieux sur RTX 3060 12 GB ?
Oui avec Llama 3.1 8B (contexte 128k) ou Qwen 2.5 7B (131k). En Q4, le modèle + contexte RAG de ~32k tient dans 12 GB. Pour du contexte > 100k, passez en Q4_0 ou limitez le batch.
RTX 3060 vs RX 6700 XT pour LLM ?
CUDA est beaucoup mieux supporté (Ollama, llama.cpp, vLLM tous optimisés). AMD marche via ROCm mais avec des setups plus complexes. Pour du LLM, NVIDIA reste le choix évident en 2026.
Quel Q choisir sur 12 GB ?
Q5_K_M pour un 7-8B (utilise ~7 GB, laisse de la marge pour un gros contexte). Q4_K_M pour un 12B (Mistral Nemo). Évitez Q3/Q2 — la dégradation est visible.
Peut-on tourner un 12B en temps réel ?
Oui — Mistral Nemo 12B en Q4_K_M (~7 GB) donne 10-15 tokens/sec sur 3060. Utilisable pour du chat, un peu lent pour de l'édition temps réel.