DeepSeek V4 Pro vs Flash : quelle version faire tourner en local

#Pro et Flash : ce qui les sépare vraiment

Les deux modèles partagent l'essentiel : architecture MoE avec attention hybride CSA+HCA, contexte 1M tokens natif, trois modes thinking (Non / High / Max), licence MIT permissive, pré-entraînement Muon+FP4. La différence tient en un seul chiffre : la taille du pool d'experts.

V4 Pro

1,6T paramètres totaux, 49B actifs par token, 256 experts top-8. Le modèle frontière complet.

V4 Flash

284B paramètres totaux, 13B actifs par token, 64 experts top-8. La même architecture, condensée.

Ce qui est identique

Vocabulaire, tokenizer, template de chat, modes thinking, longueur de contexte (1M), licence MIT, scripts d'installation llama.cpp / vLLM.

Ce qui change vraiment

VRAM totale, débit tokens/sec, score sur benchmarks de raisonnement extrême (AIME, GPQA Max). Sur les tâches du quotidien, l'écart est plus faible qu'attendu.

#1. Les seuils VRAM, version par version

C'est le critère qui décide presque tout. Voici les seuils mesurés en VRAM totale, modèle chargé + KV cache 32k tokens (pas 1M) :

#DeepSeek V4 Pro 1.6T

Q8_0

≈ 1 800 Go. Cluster 8× H200 141GB obligatoire. Pas de scénario local single-machine.

Q5_K_M

≈ 1 230 Go. 3 Mac Studio 512 Go en swarm RPC, ou 4× H200.

Q4_K_M (recommandé)

≈ 1 040 Go. 8× A100 80GB en tensor parallel, ou 2× Mac Studio 512 Go en network swarm llama.cpp.

IQ3_M

≈ 800 Go. Single Mac Studio 512 Go + offload SSD partiel. Très lent (~2-4 tok/s), qualité dégradée.

IQ2_XS

≈ 560 Go. Single Mac Studio 512 Go. Qualité fortement dégradée — déconseillé.

#DeepSeek V4 Flash 284B

FP16

≈ 570 Go. Cluster H100/H200 ou Mac Studio 512 + workstation NVIDIA en swarm.

Q8_0

≈ 305 Go. Mac Studio M4 Ultra 512 Go seul, ou 4× RTX 6000 Ada 48GB.

Q5_K_M

≈ 210 Go. Mac Studio Ultra 256 Go (à la limite), ou 3× RTX 4090 24GB + offload.

Q4_K_M (recommandé)

≈ 170 Go. Mac Studio M2 Ultra 192 Go seul, 2× A6000 48GB, ou 4× RTX 4090 24GB.

IQ3_M

≈ 130 Go. 2× RTX 4090 24GB + offload RAM, ou Mac Studio 128 Go.

#2. Coût GPU réel par version

Les chiffres ci-dessous sont des budgets matériel d'achat, hors électricité, sur la base des prix de mai 2026.

#Pour faire tourner V4 Pro (Q4 ~1 040 Go)

Cluster 8× H200 141GB

≈ 280 000 € matériel + serveur ≈ 320 000 € installé. Le setup vLLM "propre" avec FP8 natif.

Cluster 8× A100 80GB d'occasion

≈ 90 000 € matériel + châssis ≈ 110 000 €. Tensor parallel sur 640 Go VRAM. Plus accessible mais plus lent.

Swarm 2× Mac Studio M4 Ultra 512 Go

≈ 28 000 €. La route locale la moins chère pour Pro Q4. Débit modeste (5-8 tok/s) mais réel, via llama.cpp RPC en 10 GbE.

Location cloud equivalent

≈ 60 €/h sur Lambda/Crusoe pour 8× H200. Devient rentable face à l'achat au-delà de ~5 500 h cumulées.

#Pour faire tourner V4 Flash (Q4 ~170 Go)

Mac Studio M2 Ultra 192 Go

≈ 6 500 € neuf, ≈ 4 200 € reconditionné. Plus court chemin solo.

Mac Studio M4 Ultra 256 Go

≈ 8 200 €. Marge plus confortable pour contexte long et mode thinking Max.

4× RTX 4090 24GB workstation

≈ 14 000 € (GPU) + 4 500 € (châssis/alim/CPU) ≈ 18 500 €. CUDA pur, vLLM possible.

2× RTX 6000 Ada 48GB

≈ 17 000 € (GPU) + 3 500 € ≈ 20 500 €. Plus propre que 4× 4090, moins bruyant.

Location cloud equivalent

≈ 4 €/h sur Hyperstack/Lambda pour 4× A100 80GB. Rentable vs Mac Studio dès ~1 600 h cumulées.

#3. Latence et débit comparés

Voici les chiffres mesurés en mode thinking Non, contexte 8k, prompt 500 tokens, génération 1000 tokens. Mesures issues du paper DeepSeek + benchmarks communautaires de mai 2026.

#V4 Pro Q4_K_M

Cluster 8× H200 (vLLM FP8)

TTFT ~0,8s · débit 38 tok/s · 1000 tokens en ~27s.

Cluster 8× A100 80GB (vLLM Q4)

TTFT ~1,4s · débit 22 tok/s · 1000 tokens en ~47s.

Swarm 2× Mac Studio M4 Ultra 512 (llama.cpp RPC)

TTFT ~6s · débit 6 tok/s · 1000 tokens en ~3 min. La pénalité réseau RPC domine.

#V4 Flash Q4_K_M

Mac Studio M4 Ultra 256 Go (MLX)

TTFT ~0,4s · débit 28 tok/s · 1000 tokens en ~36s. Le sweet spot solo.

Mac Studio M2 Ultra 192 Go (llama.cpp)

TTFT ~0,6s · débit 14 tok/s · 1000 tokens en ~72s.

4× RTX 4090 24GB (vLLM)

TTFT ~0,3s · débit 52 tok/s · 1000 tokens en ~19s. Le plus rapide en local.

2× A6000 48GB (vLLM)

TTFT ~0,4s · débit 38 tok/s · 1000 tokens en ~26s.

#4. Arbre de décision selon votre matériel

Cinq questions, un verdict. Lisez de haut en bas, arrêtez-vous à la première réponse.

1. 01
   Budget GPU > 200 000 € et besoin frontier sans compromis ?

   → DeepSeek V4 Pro Q4 sur cluster 8× H200 ou 8× A100. Vous êtes une banque, un labo, une administration souveraine. C'est l'unique scénario où Pro est rationnel.
2. 02
   Vous avez ou prévoyez 2× Mac Studio M4 Ultra 512 Go (~28 000 €) et acceptez 5-8 tok/s ?

   → V4 Pro Q4 via llama.cpp RPC est possible. Réservez ça à du batch nocturne, jamais à de l'interactif. Sinon, allez à l'étape suivante.
3. 03
   Vous avez un Mac Studio Ultra 192-256 Go (~6 500-8 200 €) ?

   → V4 Flash Q4 en MLX ou llama.cpp. 12-28 tok/s selon la génération. La meilleure expérience solo en 2026.
4. 04
   Vous avez 2-4 GPU NVIDIA totalisant >80 Go VRAM ?

   → V4 Flash Q4 en vLLM (préférable) ou llama.cpp. Débit supérieur au Mac Studio, mais bruit/électricité/encombrement plus lourds.
5. 05
   Vous avez moins de 80 Go VRAM (RTX 4090 seule, etc.) ?

   → Ni Pro ni Flash en Q4. Regardez les distillations Flash→32B prévues, ou repliez sur DeepSeek V3.5 32B / Qwen3.6 35B-A3B en attendant.

#5. Pour quel usage choisir l'un ou l'autre

Les benchmarks publics ne disent pas tout. Voici la lecture honnête par catégorie d'usage.

Chat assistant général, traduction, résumé

Flash suffit largement. L'écart avec Pro y est de 2-4 points et invisible en pratique. Privilégiez le débit.

Code (génération, refactor, debug)

Flash en mode High est très proche de Pro Non. Pour du debug complexe, Pro Max garde l'avantage — mais à attendre 10 minutes par réponse.

Math, démonstration, AIME/GPQA

Pro Max bat Flash Max de 8 à 15 points selon la difficulté. C'est l'usage où Pro se justifie vraiment.

Analyse de documents longs (>200k tokens)

Égalité technique (les deux gèrent 1M tokens). Différence dominée par l'attention CSA, identique entre les deux. Choisir selon la VRAM disponible pour le KV cache.

Agents avec tool calling

Flash suffit. Le tool calling est piloté par le template de chat et le fine-tune Instruct, pas par la taille du modèle.

Fine-tuning local (LoRA)

Flash est viable sur 2× H100. Pro est hors d'atteinte pour du LoRA local — il faut un cluster d'entraînement.

#Astuces et pièges

Quantization du KV cache

Sur les deux modèles, --cache-type-k q8_0 --cache-type-v q8_0 (llama.cpp) ou --kv-cache-dtype fp8 (vLLM) divise par 2 la mémoire KV avec une perte de qualité quasi nulle. Indispensable au-delà de 64k de contexte.

Flash Attention obligatoire

Activez -fa (llama.cpp) ou --enable-flash-attn (vLLM). Sans cela, le débit chute de 30 % et la mémoire explose au-delà de 32k.

Mode thinking par défaut

Sur les deux modèles, ne laissez jamais le mode Max activé par défaut — un agent qui boucle peut générer des heures de réflexion. Toggle explicite via /think ou /think_max.

Multi-GPU sur Pro : éviter la pipeline parallel

Sur cluster H200, tensor parallel sur 8 GPU. Pipeline parallel ajoute de la latence inter-couches qui domine sur MoE 1.6T. vLLM gère ça automatiquement avec --tensor-parallel-size 8.

Swarm Mac Studio : 10 GbE minimum

Le RPC llama.cpp transmet beaucoup de tenseurs intermédiaires. En 1 GbE, le débit Pro tombe sous 1 tok/s. Prévoyez switch 10 GbE et câbles SFP+.

Templates de chat strictement identiques

Pro et Flash partagent le même format. Un script qui marche pour l'un marche pour l'autre — utile pour A/B tester sans réécrire votre code applicatif.

#Pour aller plus loin

Une fois la version choisie, voici les guides pour la mise en œuvre :

DeepSeek V4 Pro 1.6T : architecture, installation, benchmarks

Le guide d'installation cluster pour ceux qui ont décidé d'aller sur Pro.

DeepSeek V4 Flash 284B : le 1er frontier qui tient sur Mac Studio

Installation pas à pas Mac Studio Ultra et benchmarks détaillés.

Quel LLM sur Mac Studio (M2/M3/M4 Ultra, 64–512 Go) ?

Pour calibrer la config Mac Studio qui correspond à votre budget.

Setup multi-GPU avec llama.cpp

La référence pour câbler 2 à 4 GPU NVIDIA en local sans perdre de tokens/sec.