🇺🇸 Granite 4.1 8B Instruct
Dense 8B Apache 2.0, 12 langues dont FR, 131k ctx, GQA 32Q/8KV. MMLU 73.84, HumanEval 85.37. Sortie 29 avril 2026.
# HuggingFace : ibm-granite/granite-4.1-8b
Classement mis à jour le 29/08/2026
Le Mac mini M2 / M2 Pro (8-32 Go, 100-200 Go/s) reste un excellent serveur d'inférence silencieux pour 7-13B en Q4_K_M. Ventilé, compact, prêt 24/7.
Dense 8B Apache 2.0, 12 langues dont FR, 131k ctx, GQA 32Q/8KV. MMLU 73.84, HumanEval 85.37. Sortie 29 avril 2026.
# HuggingFace : ibm-granite/granite-4.1-8b
Granite 4.2 8B (IBM) : dense Apache 2.0, 128k contexte, ~4,6 Go VRAM Q4. Chat, code et raisonnement multilingues pour l'entreprise.
ollama pull granite4.2
Fine-tune SFT « thinking » d'OLMo 3 7B : raisonnement pas-à-pas, 16k contexte, ~4,2 Go VRAM en Q4. 100% ouvert, licence Apache 2.0.
# HuggingFace : zimplex/olmo3-7b-think-sft-eosfix-16k-3ep-euc
GLM 5.3 (Zhipu) : dense 7B spécialisé code et raisonnement, 128k contexte, ~4,1 Go VRAM Q4. Léger, tourne sur GPU 6-8 Go, licence MIT.
ollama pull glm-5.3
Dense 7B 100% ouvert (poids + données + code). Transparence totale pour recherche.
ollama run olmo-3:7b
Mode hybride thinking/fast. 119 langues, 32k natif (131k via YaRN).
ollama run qwen3:8b
Premier omni open : texte+image+audio+vidéo en entrée, texte+parole en sortie. Pas de tag Ollama officiel.
# GGUF : ggml-org/Qwen2.5-Omni-7B-GGUF (pas d'Ollama officiel)
| Rang | Modèle | Params | VRAM Q4 | Contexte | Licence | Sur Apple M2 (16 GB) |
|---|---|---|---|---|---|---|
| #1 | Granite 4.1 8B Instruct | 8B | 5 GB | 131 072 | Apache 2.0 | 12 tok/s · Q8 |
| #2 | Granite 4.2 8B | 8B | 4.6 GB | 128 000 | Apache 2.0 | 32 tok/s · Q8 |
| #3 | OLMo 3 7B Think (SFT) | 7B | 4.2 GB | 16 000 | Apache 2.0 | 32 tok/s · Q8 |
| #4 | GLM 5.3 7B | 7B | 4.1 GB | 128 000 | MIT | 32 tok/s · Q8 |
| #5 | OLMo 3 7B | 7B | 5 GB | 8 192 | Apache 2.0 | 12 tok/s · Q8 |
| #6 | Qwen 3 8B | 8B | 5 GB | 131 072 | Apache 2.0 | 12 tok/s · Q8 |
| #7 | Qwen 2.5 Omni 7B | 7B | 6 GB | 32 768 | Apache 2.0 | 8 tok/s · Q8 |
Comparez les prix de Mac mini M2 chez nos marchands partenaires (prix et stock à jour) :
Liens affiliés — QuelLLM peut percevoir une commission sur les achats, sans surcoût pour vous, ce qui n'influence pas le classement (établi de façon indépendante). En tant que Partenaire Amazon, QuelLLM réalise un bénéfice sur les achats remplissant les conditions requises.
Mémo gratuit
Reçois le mémo VRAM → meilleur modèle de code → commande Ollama (un seul écran, copier-coller). Et passe au kit Copilote Local pour en faire un setup qui marche vraiment.
Le kit Copilote Local — les configs Ollama + Cline + Aider prêtes à coller, Modelfiles réglés, dépannage, espace en ligne à vie →Pas de spam. Désinscription en 1 clic. Tes données restent chez nous (jamais revendues).
Ta carte → le meilleur modèle de code à faire tourner en local, et la commande Ollama exacte :
| Ta VRAM | GPU / Mac typiques | Modèle de code conseillé | Commande Ollama |
|---|---|---|---|
| 8 Go | RTX 4060 / 3060 · M1-M2 16 Go | Qwen 3.5 9B (Q4, 6,6 Go — 256k ctx) | ollama run qwen3.5:9b |
| 12 Go | RTX 3060 12 Go / 4070 / 5070 | Qwen 3.5 9B (Q8, 11 Go) ou Gemma 4 12B (7,6 Go) | ollama run qwen3.5:9b-q8_0 |
| 16 Go | RTX 5070 Ti / 4080 / 5080 · RX 9070 XT · M4 24 Go | Devstral 24B (Q4, 14 Go) — spécialiste agent de code | ollama run devstral:24b |
| 24 Go | RTX 3090 / 4090 · RX 7900 XTX · M4 Pro 48 Go | Qwen 3.8 27B (Q4, 18 Go) — le « proche Copilot » | ollama run qwen3.8:27b |
| 32 Go | RTX 5090 | Qwen 3.6 35B-A3B (Q4, 23 Go) — MoE rapide | ollama run qwen3.6:35b |
| 48 Go+ | Mac M4 Max 64 Go · M2 Ultra 128 Go | Qwen3-Coder 30B-A3B (Q8, 32 Go — 256k ctx) | ollama run qwen3-coder:30b-a3b-q8_0 |
-base : ollama run qwen2.5-coder:7b-base — c'est encore la référence sur ce cas précis. ⚠️ Qwen 3.8 : son raisonnement est réglé très haut par défaut et il « sur-réfléchit » sur des demandes simples — baisse-le à low (ou coupe-le) au premier lancement. ⚠️ Piège licence : Codestral 22B = Mistral Non-Production License → interdit pour coder au travail. Qwen 3.5/3.8, Gemma 4 et Devstral sont en Apache 2.0. 💡 Ça plante en mémoire ? Garde ~1,5 Go de VRAM libre pour le contexte, ou descends d'un cran de quantization.🔌 Pour le brancher dans VS Code : Cline (agent multi-fichiers), Aider (CLI) ou Tabby/Twinny (autocomplétion FIM) — tous se connectent à Ollama en local. Le kit Copilote Local — configs prêtes à coller + setup testé — est dispo : /copilote-local.
Filtre : 1-32B dont Q4_K_M tient sous 22 Go (M2 Pro 32 Go max). Bonus 7-13B (peak M2 Pro) et licences libres pour serveur partagé.
Critères pris en compte :
Le scoring est entièrement transparent : consultez notre méthodologie pour les détails de calcul VRAM/tokens/sec.
Mac mini M2 8 Go : pertinent en 2026 ?
Phi-4 Mini 3,8B Q4 ou Llama 3.2 3B Q4 tournent — mais c'est étriqué. Préférez 16 Go minimum. Voir le guide Mac mini M2.
Mac mini M2 Pro 32 Go : quel sweet spot ?
Mistral Nemo 12B Q4 (~7 Go) ou Qwen 3 14B Q4 (~8 Go) — 22-28 tok/s. Excellent serveur LLM domestique pour 1-3 utilisateurs simultanés via Ollama API.
M2 Pro vs M4 Pro pour un serveur LLM ?
M4 Pro (273 Go/s) est ~35-40 % plus rapide que M2 Pro (200 Go/s) sur les mêmes modèles. Si on l'achète neuf en 2026, autant prendre le M4 Pro. Voir Mac mini M4.
Configuration serveur silencieux Mac mini M2 ?
Ollama + Open WebUI sur le LAN, port 11434 derrière un reverse proxy nginx. Auto-démarrage via launchd. Idle ~10W, sous charge ~35W. Plus silencieux qu'un PC ITX.