Qwen 3 en local : test complet et benchmarks réels

#La gamme Qwen 3 : dense vs MoE

Alibaba a publié Qwen 3 en deux familles distinctes. Les modèles denses (Qwen3-1.7B, 4B, 8B, 14B, 32B) suivent l'architecture classique : tous les paramètres sont utilisés à chaque token. La famille MoE (Qwen3-30B-A3B, Qwen3-235B-A22B) active seulement une fraction des experts par token — d'où le suffixe A3B = 3 milliards de paramètres actifs sur 30 totaux.

Concrètement, pour l'utilisateur local, ça change deux choses : la VRAM nécessaire correspond aux paramètres totaux (le modèle entier doit tenir en mémoire), mais la vitesse correspond aux paramètres actifs. Un MoE 30B-A3B tient dans 19 Go en Q4 comme un dense 32B, mais génère ses tokens à la vitesse d'un 3B. C'est ce qui le rend si intéressant.

#Setup et matériel testé

Trois machines couvrent à peu près tout le spectre du local en 2026 :

RTX 4090 24 Go

Tour Windows 11, Ryzen 9 7950X, 64 Go DDR5. Le haut de gamme grand public.

RTX 3060 12 Go

Tour Linux Ubuntu 24.04, Ryzen 5 5600X, 32 Go DDR4. La config budget la plus populaire.

MacBook Pro M4 Pro 48 Go

macOS 15, GPU 16 cœurs, mémoire unifiée. Représentatif des laptops haut de gamme Apple.

Backend identique partout : Ollama (daemon sur localhost:11434). Tous les modèles en Q4_K_M par défaut, contexte 8192 tokens, prompt standardisé d'environ 500 tokens. Vitesse mesurée sur 10 générations de 500 tokens en moyenne.

ollama pull qwen3:8b
ollama pull qwen3:14b
ollama pull qwen3:30b-a3b

#Qwen3-8B : l'entrée de gamme dense

Modèle dense 8 milliards de paramètres, ~5 Go en Q4_K_M. Conçu pour tourner partout : 8 Go de VRAM suffisent largement. C'est le candidat naturel quand on découvre Qwen 3 sur une RTX 3060 ou un laptop.

RTX 4090

~95 tokens/sec. La carte est largement sous-exploitée — toute la VRAM disponible est sous-utilisée à ce niveau.

RTX 3060 12 Go

~52 tokens/sec. Très confortable, on est bien au-dessus du seuil de fluidité (20 t/s).

M4 Pro 48 Go

~38 tokens/sec. Inférieur aux RTX mais largement utilisable, et zéro bruit de ventilateur.

Côté qualité, Qwen3-8B fait très bien le job sur les tâches courantes : résumé, reformulation, code simple, Q&A. Il se fait visiblement dépasser dès qu'on entre en raisonnement multi-étapes ou en code non trivial — c'est là qu'on sent qu'on est sur un 8B. Le français est correct mais pas excellent, on note quelques anglicismes et tournures bizarres.

#Qwen3-14B : le sweet spot dense

Dense 14B, environ 9 Go en Q4_K_M. Tient sans souci sur 12 Go de VRAM avec un contexte raisonnable. C'est le modèle qu'on recommande à 90 % des gens qui ont une RTX 3060 12 Go, 4070 ou équivalent.

RTX 4090

~78 tokens/sec. Vitesse excellente, on est encore loin du plafond GPU.

RTX 3060 12 Go

~32 tokens/sec. Confortable pour un usage chat, le contexte 8k passe sans offload.

M4 Pro 48 Go

~24 tokens/sec. À la limite du confortable mais utilisable au quotidien.

Le saut de qualité par rapport au 8B est net. Code Python correct sur des fonctions de 50-80 lignes, raisonnement plus solide, français franchement meilleur (tournures naturelles, peu d'erreurs de genre). C'est le premier modèle de la gamme qui ressemble vraiment à un assistant cloud bas-de-gamme en termes de cohérence.

#Qwen3-30B-A3B : le MoE qui change tout

C'est ici que ça devient intéressant. Le 30B-A3B pèse environ 19 Go en Q4_K_M (= il faut 24 Go de VRAM pour le faire tourner confortablement avec du contexte), mais ne génère qu'avec 3B de paramètres actifs. Résultat : qualité d'un 30B, vitesse d'un 3B.

RTX 4090

~110 tokens/sec. Oui, plus rapide que le 8B dense. C'est la magie du MoE : moins de calcul par token.

RTX 3060 12 Go

Ne rentre pas en VRAM. Offload CPU partiel ≈ 8 t/s — usable pour tester mais frustrant.

M4 Pro 48 Go

~45 tokens/sec. La mémoire unifiée brille ici : tout tient en RAM, et le MoE compense les FLOPS limités.

La qualité est très proche d'un Qwen 32B dense. Le 30B-A3B excelle particulièrement en code (proche de Qwen2.5-Coder 32B sur des tâches Python intermédiaires) et en raisonnement structuré. Sur le français écrit, il est franchement bon — au niveau d'un Mistral Small 24B pour donner une référence.

#Thinking mode : utile ou pas ?

Qwen 3 introduit un thinking mode toggleable. Quand il est activé, le modèle génère d'abord un bloc <think>...</think> avec son raisonnement avant de produire la réponse finale. C'est inspiré de DeepSeek R1 mais en plus modulaire : on peut l'activer ou le couper à la volée.

# Dans la session Ollama
/set parameter think true
/set parameter think false

# Ou via prompt direct (Qwen 3 reconnaît les balises)
>>> /think Combien fait 17 × 23 ?
>>> /no_think Salut, ça va ?

Ce qu'on observe sur 50 prompts testés :

Tâches simples (chat, reformulation)

Thinking mode = perte de temps. Ajoute 2 à 5 secondes de latence pour zéro gain de qualité. Désactivez-le.

Maths, logique, raisonnement multi-étape

Gain net en précision : +20 à +30 % de bonnes réponses sur des problèmes type GSM8K. À garder activé.

Code complexe (refactoring, debug)

Gain modéré (+10 %) en qualité, mais latence doublée. À tester selon votre patience.

Génération créative (texte long, dialogue)

Souvent contre-productif : le modèle sur-réfléchit et perd en spontanéité.

#Qualité française vs Llama 4

On a comparé les sorties françaises de Qwen3-14B et Qwen3-30B-A3B avec Llama 4 Scout (le modèle Meta équivalent, sorti la même période) sur trois exercices : rédaction d'un email professionnel, explication vulgarisée d'un concept technique, et analyse d'un texte littéraire court.

Qwen3-14B

Français correct, tournures naturelles, mais quelques erreurs de genre persistantes (« la problème »). Vocabulaire un peu plat.

Qwen3-30B-A3B

Très bon français écrit. Pas de fautes structurelles, vocabulaire varié, registre adapté au contexte. Légèrement inférieur à Mistral Small 24B sur les nuances très idiomatiques.

Llama 4 Scout

Français impeccable sur le plan grammatical, mais ton plus « traduit de l'anglais » que Qwen. Préférences personnelles.

Verdict pragmatique : pour du français professionnel, Qwen3-30B-A3B et Llama 4 Scout sont au coude à coude. Le choix se fait sur d'autres critères (vitesse, taille, licence). Pour du français littéraire ou très idiomatique, Mistral Small reste un cran au-dessus.

#Quel Qwen 3 choisir selon votre config ?

6-8 Go de VRAM (RTX 3050, 3060 Ti, 4060)

Qwen3-8B en Q4_K_M. Le 14B passe en Q3 mais la qualité se dégrade — restez sur le 8B propre.

12 Go de VRAM (RTX 3060 12, 4070, 5070)

Qwen3-14B en Q4_K_M, c'est le sweet spot incontestable. Contexte 16k confortable.

16 Go (RTX 4080, 5070 Ti, 5080)

Qwen3-14B en Q5 ou Q6 pour le confort, ou un 30B-A3B en Q3_K_M si vous voulez tester le MoE.

24 Go (RTX 3090, 4090, RX 7900 XTX)

Qwen3-30B-A3B en Q4_K_M. Aucun débat, c'est le meilleur modèle local généraliste accessible aujourd'hui.

Mac M-series 32-48 Go unifiés

Qwen3-30B-A3B en Q4 ou Q5. Le MoE est particulièrement à l'aise sur la mémoire unifiée Apple.

Mac Studio Ultra 128 Go+

Sautez direct sur Qwen3-235B-A22B (~120 Go en Q4) si vous voulez le top de la gamme. Sinon le 30B-A3B en Q8 reste excellent.

#Pour aller plus loin

Si Qwen 3 est votre point de départ, quelques pistes pour aller plus loin :

Choisir sa quantification

Pour comprendre exactement ce que vous perdez entre Q4_K_M et Q5_K_M sur Qwen 3, et quand monter en quantization a du sens.

Personnaliser avec un Modelfile

Pour fixer le thinking mode, le contexte, et un system prompt FR par défaut sur votre instance Qwen 3 — au lieu de re-régler à chaque session.

Open WebUI avec Ollama

Pour passer du terminal à une vraie interface chat avec historique, markdown et pièces jointes, sans renoncer au local.