Famille Grok · 314B paramètres

Grok-1 (base)

MoE Apache 314B/~86B actifs (8 experts top-2). Base seulement (pas d'instruct). Historique xAI Mars 2024.

🇺🇸 xAI·Licence Apache 2.0·Contexte 8k tokens·Sortie Mars 2024← Catalogue

01Ce qu'il sait faire

Points forts
  • Premier LLM open-weight xAI
  • Apache 2.0
  • Architecture MoE efficace
Limites à connaître
  • —188 Go VRAM Q4
  • —Poids bruts — sans instruction tuning officiel
  • —Dépassé par Grok 2+
Architecture
MoE · 314B total / 86B actifs · 8 experts, 2 actifs · xAI
Entraînement
xAI — premier modèle open-source xAI. Poids bruts publiés sans fine-tuning officiel.
Idéal pour
Référence open xAIRecherche

04Installer

Installez Ollama pour votre OS. Vérifiez le modèle et sa quantification avant le téléchargement. Commencez avec 4096 tokens de contexte, puis contrôlez le placement avec ollama ps. Une commande ci-dessous n’est pas une preuve de test exécuté sur votre machine.

$# Non disponible via Ollama — poids HuggingFace uniquement
⚠
Premier téléchargement : entre 2 et 40 Go selon la quantization choisie. Espace disque à prévoir, connexion stable recommandée. Les relances suivantes sont instantanées.

02Mémoire requise

VRAM GPU approximative pour faire tourner ce modèle, overhead contexte de 4k tokens inclus. Pour un contexte plus long, ajoutez ~1 Go par tranche de 8k tokens.

Q4_K_M
Le plus léger, ~5% de perte
188 Go
Q5_K_M
Bon compromis qualité/taille
225 Go
Q8_0
Quasi-indistinguable de FP16
335 Go
FP16
Pleine précision — usage serveur
630 Go
Fallback CPU · Si vous n'avez pas de GPU, comptez 240 Go de RAM minimum pour faire tourner ce modèle à vitesse réduite.

Quel matériel pour Grok-1 (base) ?

Pour exécuter Grok-1 (base) en local en quantification Q4, il faut environ 188 Go de VRAM. Une option à comparer : GMKtec EVO-X2 64 Go / 1 To (Ryzen AI Max+ 395) — ce modèle dépasse la capacité GPU de ce mini-PC : choisissez un modèle plus petit ou une infrastructure adaptée.

Offre actuelle : GMKtec EVO-X2 64 Go / 1 To (Ryzen AI Max+ 395)
AmazonVoir le prix →

Pourquoi ce choix ? Notre fiche complète sur GMKtec EVO-X2 64 Go / 1 To (Ryzen AI Max+ 395) →

Liens affiliés — commission possible sans surcoût pour vous, reco indépendante. En tant que Partenaire Amazon, QuelLLM réalise un bénéfice sur les achats remplissant les conditions requises.

Ce modèle dans ton ChatGPT privé, sans cloud

Trop gros pour ta machine ? Le kit te donne le modèle qui tient dans ta VRAM

  • Espace en ligne à vie
  • PDF + fichiers
  • Mises à jour à vie

03Vitesse attendue

Tokens générés par seconde en Q4_K_M, contexte 4k. Au-delà de 20 t/s, la lecture est confortable. En dessous de 10 t/s, c'est juste pour tester.

Entrée de gamme
~0.5t/s
GTX 1650, RX 6600, MBA M2 8Go
Milieu de gamme
~2t/s
RTX 4060, 4070, MBP M3 Pro
Haut de gamme
~8t/s
RTX 4090, M4 Max, Radeon 7900