DeepSeek V4 Flash 284B : le 1er frontier qui tient sur Mac Studio

#DeepSeek V4 Flash en bref

Sortie

24 avril 2026, simultanée avec V4 Pro. Disponible sur HuggingFace : deepseek-ai/DeepSeek-V4-Flash.

Architecture

MoE 284B totaux, 13B actifs par token. 128 experts par couche, top-8 routing. Variantes Base + Instruct disponibles.

Innovations héritées du Pro

Attention CSA+HCA, mHC, optimiseur Muon, entraînement FP4+FP8 mixte.

Contexte

1 000 000 tokens natifs (identique au Pro).

Modes thinking

3 niveaux Non / High / Max — toggleable au prompt.

Licence

MIT, identique au Pro. Aucune restriction d'usage commercial ni géographique.

#1. Pourquoi c'est un événement

Avant le 24 avril 2026, faire tourner un modèle frontière en local impliquait soit un cluster GPU à 80 k€+, soit accepter une qualité dégradée d'un modèle 70B. DeepSeek V4 Flash change ça : 170 Go en Q4 tient sur des configurations à 4-8 k€ d'occasion.

Mac Studio M3 Ultra 256 Go

7 299 €. 170 Go modèle + 30 Go contexte = tient large. ~10-12 tok/s en Q4.

2× RTX 5090 32 Go (64 Go VRAM)

~5 200 €. Insuffisant — il manque ~110 Go. Possible avec offload CPU, mais lent (3-5 tok/s).

4× RTX A6000 48 Go (192 Go VRAM)

~12 000 € occasion. Tient confortablement, ~18-25 tok/s.

Workstation 2× Mac Studio Max 64 Go

Insuffisant en single. Avec llama.cpp RPC swarm et 4× Mac Studio : possible, ~5 tok/s.

#2. Architecture (variante efficient de V4)

V4 Flash est une réduction proportionnelle du V4 Pro : ~5,7× moins d'experts, ~3,8× moins de paramètres actifs, mais même squelette CSA+HCA + Muon + FP4/FP8. C'est cette homogénéité qui permet à V4 Flash d'hériter de la qualité du Pro à coût bien moindre.

Experts par couche

128 (vs 256 pour Pro). Top-8 routing identique.

Paramètres actifs

13B (vs 49B pour Pro). Vitesse d'inférence ~3,8× supérieure à params total équivalent.

Couches

61 (Pro : 76). Réduction modérée pour préserver la profondeur de raisonnement.

Heads d'attention

Identique au Pro (CSA+HCA configurés à l'identique). Pas d'économie sur l'attention pour préserver la qualité long contexte.

Pré-entraînement

Cible « efficient reasoning » : 18T tokens (vs 32T pour Pro), avec data mix optimisé pour math + code.

#3. Hardware par quantization

#4. Setup Mac Studio Ultra 256/512 Go

# 1. Relever la mémoire GPU allouable
sudo sysctl iogpu.wired_limit_mb=240640    # 256 Go : 235 Go GPU
# Ou pour Mac Studio 512 Go :
# sudo sysctl iogpu.wired_limit_mb=491520

# Persistant
echo "iogpu.wired_limit_mb=240640" | sudo tee -a /etc/sysctl.conf

# 2. llama.cpp avec Metal + Flash Attention
git clone https://github.com/ggerganov/llama.cpp && cd llama.cpp
make GGML_METAL=1 LLAMA_METAL_EMBED_LIBRARY=1

# 3. Téléchargement Q4_K_M (~170 Go split en chunks)
huggingface-cli download deepseek-ai/DeepSeek-V4-Flash-GGUF \
  --include "*Q4_K_M*.gguf" \
  --local-dir ./models

# 4. Lancement avec optimisations max
./build/bin/llama-server \
  -m ./models/DeepSeek-V4-Flash-Q4_K_M-00001-of-00004.gguf \
  -ngl 99 -fa \
  -ctk q8_0 -ctv q8_0 \
  -c 65536 \
  --host 0.0.0.0 --port 8080

#5. Setup multi-GPU NVIDIA

#Option A — vLLM 4× RTX A6000 (48 Go × 4 = 192 Go)

pip install vllm>=0.7

vllm serve deepseek-ai/DeepSeek-V4-Flash \
  --tensor-parallel-size 4 \
  --quantization fp8 \
  --max-model-len 1000000 \
  --enable-prefix-caching \
  --port 8000

#Option B — llama.cpp avec offload partiel

./build/bin/llama-server \
  -m ./models/DeepSeek-V4-Flash-Q4_K_M-00001-of-00004.gguf \
  -ngl 50 \
  --tensor-split 0.5,0.5 \
  -ctk q8_0 -ctv q8_0 \
  -c 32768

#6. Benchmarks et tokens/sec mesurés

#7. Modes thinking et long contexte

V4 Flash hérite des trois modes thinking de V4 Pro à qualité légèrement inférieure mais coût d'inférence bien moindre. C'est le bon choix pour des agents qui doivent raisonner sans monopoliser une infrastructure.

Mode Non

Réponse directe. Latence très basse (~1s pour démarrer le streaming). Pour chat conversationnel, traduction.

Mode High

200-2000 tokens de chain-of-thought avant réponse. +25 % qualité sur math/code. Latence 5-15s avant le premier token de réponse finale.

Mode Max

Jusqu'à 16k tokens de réflexion. Latence 1-5 minutes en local. À réserver aux problèmes durs (preuves math, débogage complexe).

Long contexte 1M

Mêmes capacités que V4 Pro grâce à HCA — Needle-in-Haystack 1M ~95 % (vs 98 % pour Pro). Excellent pour RAG sur grandes bases.

#V4 Flash vs V4 Pro : choisir

#FAQ