Granite 4.0 H-Small 32B-A9Bvsgpt-oss 20B
Comparatif complet entre Granite 4.0 H-Small 32B-A9B (32B paramètres, IBM) et gpt-oss 20B (21B, OpenAI). VRAM requise par quantification, tokens/seconde mesurés sur 4 GPU de référence, verdict par cas d'usage, licence, commandes d'installation. Tous les chiffres sont calculés à partir des données du catalogue — aucun copier-coller entre pages.
En bref
| Caractéristique | Granite 4.0 H-Small 32B-A9B | gpt-oss 20B |
|---|---|---|
| Paramètres | 32B | 21B |
| Famille | Granite | gpt-oss |
| Auteur | IBM | OpenAI |
| Origine | US | US |
| Licence | Apache 2.0 | Apache 2.0 |
| Contexte | 128 000 tokens | 128 000 tokens |
| Sortie | Octobre 2025 | Avril 2025 |
Empreinte mémoire
VRAM approximative nécessaire pour l'inférence avec une fenêtre de contexte moyenne. Le vainqueur (en vert) est le modèle qui consomme moins — avantage aux petits.
| Quantification | Granite 4.0 H-Small 32B-A9B | gpt-oss 20B |
|---|---|---|
| Q4_K_M (léger) | 19 GB | 13 GB |
| Q5_K_M (équilibre) | 23 GB | 16 GB |
| Q8 (quasi-lossless) | 35 GB | 23 GB |
| FP16 (qualité max) | 64 GB | 42 GB |
| RAM CPU-only | 32 GB | 18 GB |
Vitesse estimée (tokens/seconde)
Estimations basées sur la meilleure quantification tenable sur chaque GPU. Les chiffres réels dépendent du prompt, du contexte et du moteur (llama.cpp, vLLM, MLX). Méthodologie.
| GPU de référence | Granite 4.0 H-Small 32B-A9B | gpt-oss 20B |
|---|---|---|
| RTX 4090 (24 GB) | 75 tok/s · Q5_K_M | 130 tok/s · Q8 |
| RTX 4080 (16 GB) | ✗ trop lourd | 55 tok/s · Q5_K_M |
| RTX 3060 12GB (12 GB) | ✗ trop lourd | ✗ trop lourd |
| Apple M4 Pro (48 GB) (36 GB) | 30 tok/s · Q8 | 55 tok/s · Q8 |
Verdict par cas d'usage
Pour chaque usage courant, on indique lequel des deux est le mieux adapté selon ses tags, sa taille et sa spécialisation.
Forces et faiblesses
Granite 4.0 H-Small 32B-A9B
Hybride Mamba-2 + MoE 32B/9B actifs. ~70% de RAM en moins en long contexte. Apache 2.0.
- 70% de RAM en moins en long contexte
- Apache 2.0
- Enterprise-ready
- Support llama.cpp récent requis
Installation
gpt-oss 20B
Petit frère de gpt-oss 120B. 21B/3.6B actifs. Égale o3-mini sur laptop.
- Licence MIT
- 13 Go VRAM Q4
- Qualité OpenAI en format accessible
- 128k contexte
- MoE — plus VRAM que dense équivalent
- Moins de fine-tunes que Llama/Qwen
Installation
Questions fréquentes
Quel modèle tourne le mieux sur RTX 4090 (24 GB) : Granite 4.0 H-Small 32B-A9B ou gpt-oss 20B ?
Sur une RTX 4090, Granite 4.0 H-Small 32B-A9B tourne en Q5_K_M (~75 tok/s), gpt-oss 20B en Q8 (~130 tok/s). En pur débit, gpt-oss 20B l'emporte. Consultez le configurateur pour tester votre GPU exact.
Lequel consomme le moins de VRAM ?
En Q4_K_M, gpt-oss 20B tient en 13 GB contre 19 GB pour son rival — un écart de 6 GB, significatif si vous visez une RTX 3060 ou une 4060 Ti 8 GB.
Peut-on utiliser ces modèles en production commerciale ?
Granite 4.0 H-Small 32B-A9B est sous Apache 2.0 — libre d'utilisation commerciale. gpt-oss 20B est sous Apache 2.0 — libre également. Pour du SaaS, privilégiez Apache 2.0 ou MIT.
Lequel choisir en 2026 ?
Dépend de votre contrainte principale. Plus petit / plus rapide : gpt-oss 20B (21B). Plus capable : Granite 4.0 H-Small 32B-A9B (32B). Si vous hésitez, lancez le configurateur avec votre GPU et votre cas d'usage — il tranchera en fonction des deux.
Alternatives à considérer
Si aucun des deux ne vous convient, voici les modèles voisins que vous pourriez explorer.