01Ce qu'il sait faire

Points forts

Très téléchargé sur HF
Apache 2.0
Bat Qwen 2.5 1.5B de ~6 pts MMLU-Pro

Limites à connaître

—Anglais-first
—Ctx 8k

Architecture

Dense type Llama 2 · SFT + DPO (UltraFeedback)

Entraînement

11T tokens.

Idéal pour

Edge/laptopTool calling léger

02Mémoire requise

VRAM GPU approximative pour faire tourner ce modèle, overhead contexte de 4k tokens inclus. Pour un contexte plus long, ajoutez ~1 Go par tranche de 8k tokens.

Q4_K_M

Le plus léger, ~5% de perte

1.2 Go

Q5_K_M

Bon compromis qualité/taille

1.5 Go

Q8_0

Quasi-indistinguable de FP16

2.2 Go

FP16

Pleine précision — usage serveur

3.5 Go

Fallback CPU · Si vous n'avez pas de GPU, comptez 4 Go de RAM minimum pour faire tourner ce modèle à vitesse réduite.

Quel GPU pour faire tourner SmolLM2 1.7B Instruct ?

Pour exécuter SmolLM2 1.7B Instruct en local en quantification Q4, il faut environ 1.2 Go de VRAM. Le meilleur rapport prix/performance : un RTX 5060 Ti 16 Go (16 Go de VRAM, le meilleur €/Go).

Où acheter le RTX 5060 Ti 16 Go

DartyVoir RTX 5060 Ti 16 Go →AmazonVoir RTX 5060 Ti 16 Go →

Liens affiliés — commission possible sans surcoût pour vous, reco indépendante. En tant que Partenaire Amazon, QuelLLM réalise un bénéfice sur les achats remplissant les conditions requises.

En mobilité : SmolLM2 1.7B Instruct tourne aussi sur un PC portable RTX (16 Go de VRAM) →

03Vitesse attendue

Tokens générés par seconde en Q4_K_M, contexte 4k. Au-delà de 20 t/s, la lecture est confortable. En dessous de 10 t/s, c'est juste pour tester.

Entrée de gamme

~40t/s

GTX 1650, RX 6600, MBA M2 8Go

Milieu de gamme

~120t/s

RTX 4060, 4070, MBP M3 Pro

Haut de gamme

~230t/s

RTX 4090, M4 Max, Radeon 7900

04Benchmarks publics

Scores reproduits depuis les model cards ou MMLU-Pro / communautaires. Unité : % bonnes réponses.

BFCL (function calling)

05Installer

Le chemin le plus court : Ollama. Une commande, le modèle est téléchargé et lancé.

$ollama run smollm2:1.7b

LM Studio

Interface graphique, zéro CLI

→ Voir le guide

llama.cpp

Perf brute, build from source

→ Voir le guide

vLLM

Serveur OpenAI-compatible prod

→ Voir le guide

Jan / GPT4All

Apps desktop tout-en-un

→ Voir le guide

⚠

Premier téléchargement : entre 2 et 40 Go selon la quantization choisie. Espace disque à prévoir, connexion stable recommandée. Les relances suivantes sont instantanées.