Famille Command · 35B paramètres

Command R 35B v01

Original Command R optimisé RAG. 10 langues. ⚠ Licence CC-BY-NC (non-commercial).

Cohere·Licence CC-BY-NC 4.0·Contexte 125k tokens·Sortie Mars 2024·Tient dans les 128 Go de l'AI TOP ATOM de GIGABYTE (lien affilié)← Catalogue

01Ce qu'il sait faire

Points forts
  • Premier open RAG/tool-use
  • 128k ctx
  • 10 langues
Limites à connaître
  • —⚠ Licence CC-BY-NC (non-commercial)
  • —Supplanté par Command R+ 104B
Architecture
Dense 35B · optimisé RAG et tool-use · GQA
Entraînement
10 langues évaluées, 23 entraînées.
Idéal pour
RAGTool use10 langues

04Installer

Installez Ollama pour votre OS. Vérifiez le modèle et sa quantification avant le téléchargement. Commencez avec 4096 tokens de contexte, puis contrôlez le placement avec ollama ps. Une commande ci-dessous n’est pas une preuve de test exécuté sur votre machine.

$ollama run command-r:35b
⚠
Premier téléchargement : entre 2 et 40 Go selon la quantization choisie. Espace disque à prévoir, connexion stable recommandée. Les relances suivantes sont instantanées.

02Mémoire requise

VRAM GPU approximative pour faire tourner ce modèle, overhead contexte de 4k tokens inclus. Pour un contexte plus long, ajoutez ~1 Go par tranche de 8k tokens.

Q4_K_M
Le plus léger, ~5% de perte
20 Go
Q5_K_M
Bon compromis qualité/taille
25 Go
Q8_0
Quasi-indistinguable de FP16
37 Go
FP16
Pleine précision — usage serveur
70 Go
Fallback CPU · Si vous n'avez pas de GPU, comptez 32 Go de RAM minimum pour faire tourner ce modèle à vitesse réduite.

Quel matériel pour Command R 35B v01 ?

Pour exécuter Command R 35B v01 en local en quantification Q4, il faut environ 20 Go de VRAM. Une option à comparer : GMKtec EVO-X2 64 Go / 1 To (Ryzen AI Max+ 395) — gardez une marge pour le système et le contexte ; vérifiez la compatibilité du moteur avec le GPU.

Offre actuelle : GMKtec EVO-X2 64 Go / 1 To (Ryzen AI Max+ 395)
AmazonVoir le prix →

Pourquoi ce choix ? Notre fiche complète sur GMKtec EVO-X2 64 Go / 1 To (Ryzen AI Max+ 395) →

Liens affiliés — commission possible sans surcoût pour vous, reco indépendante. En tant que Partenaire Amazon, QuelLLM réalise un bénéfice sur les achats remplissant les conditions requises.

En mobilité : Command R 35B v01 tourne aussi sur un PC portable RTX (24 Go de VRAM) →

Ce modèle dans ton ChatGPT privé, sans cloud

Ton ChatGPT privé et gratuit sur ta machine en 1 heure — LM Studio, Ollama, Open WebUI, tes documents, sans cloud.

  • Espace en ligne à vie
  • PDF + fichiers
  • Mises à jour à vie

03Vitesse attendue

Tokens générés par seconde en Q4_K_M, contexte 4k. Au-delà de 20 t/s, la lecture est confortable. En dessous de 10 t/s, c'est juste pour tester.

Entrée de gamme
~3t/s
GTX 1650, RX 6600, MBA M2 8Go
Milieu de gamme
~12t/s
RTX 4060, 4070, MBP M3 Pro
Haut de gamme
~28t/s
RTX 4090, M4 Max, Radeon 7900