Magistral Small 24B vs Qwen 3 32B : mini-Mistral 2026

Le Magistral Small 24B est le modèle de raisonnement compact de Mistral AI, conçu pour tourner en local sur une seule carte GPU grand public. Face à lui, le Qwen 3 32B d'Alibaba s'est imposé comme l'une des références open-weights dans la catégorie des modèles denses de taille moyenne depuis son lancement en 2025. Cet article compare les deux en détail : spécifications VRAM par quantification, vitesse d'inférence sur matériel réel, licences, résultats sur les benchmarks publics et scénarios d'usage concrets. Que vous montiez un poste de travail orienté raisonnement ou que vous cherchiez un modèle polyvalent pour du traitement de texte long, cette page vous donne les éléments nécessaires pour choisir.

Présentation des deux modèles

Magistral Small 24B

Magistral Small 24B appartient à la famille Magistral de Mistral AI, aux côtés d'une variante plus grande (Magistral Medium, ~123 milliards de paramètres). Sa caractéristique principale est son orientation raisonnement structuré : le modèle génère une chaîne de pensée intermédiaire (chain-of-thought) avant de produire sa réponse finale, ce qui le distingue des modèles Mistral des générations précédentes. Avec 24 milliards de paramètres, il cible la catégorie des LLM accessibles sur un GPU 24 Go en quantification Q4.

La fiche technique officielle est disponible sur HuggingFace — mistralai/Magistral-Small-2506 et dans l'annonce Mistral AI.

Qwen 3 32B

Le Qwen 3 32B est un modèle dense (non-MoE) produit par Alibaba Research, issu de la troisième génération de la famille Qwen. Son architecture dense le rend plus prévisible en consommation VRAM que les variantes MoE de la même famille, comme le Qwen 3 235B-A22B qui active seulement 22 milliards de paramètres à l'inférence malgré ses 235 milliards totaux. Le Qwen 3 32B couvre un spectre large : codage, raisonnement mathématique, traitement multilingue, contexte long.

Documentation officielle sur HuggingFace — Qwen/Qwen3-32B et sur le blog Qwen.

Spécifications techniques et VRAM

Pour les estimations de VRAM, la règle empirique est : paramètres × 0,5 à 0,55 Go en Q4, × 1 Go en Q8, × 2 Go en FP16. Les valeurs ci-dessous sont des estimations issues de cette méthode et de retours communautaires — vérifiez selon votre backend (llama.cpp, llamafile, LM Studio).

Magistral Small 24B

• Paramètres : 24 milliards
• Architecture : dense, décodeur transformer (détails d'architecture à confirmer)
• Q4_K_M : ~13 Go VRAM
• Q5_K_M : ~16 Go VRAM (estimé)
• Q8_0 : ~24 Go VRAM
• FP16 : ~48 Go VRAM
• Contexte : à confirmer selon la variante publiée ; les modèles Mistral récents visent 32 768 à 128 000 tokens

En Q4_K_M, le modèle tient confortablement dans une RTX 4090 (24 Go) avec de la marge pour le KV-cache sur des contextes courts. En Q8, la carte arrive à sa limite ; une RTX 6000 Ada (48 Go) ou une A5000 est préférable pour des sessions longues.

Qwen 3 32B

• Paramètres : 32 milliards
• Architecture : dense, décodeur transformer
• Q4_K_M : ~18 Go VRAM
• Q5_K_M : ~22 Go VRAM (estimé)
• Q8_0 : ~32 Go VRAM
• FP16 : ~64 Go VRAM
• Contexte : 128 000 tokens

Le Qwen 3 32B passe en Q4 sur une RTX 4090, mais avec un contexte long (64 K tokens+), le KV-cache pousse le total au-delà des 24 Go disponibles. Pour un usage confortable avec contexte étendu, une carte 48 Go (RTX 6000 Ada, A40) est recommandée.

Pour aller plus loin sur les calculs VRAM par quantification, consultez le guide VRAM de quelllm.fr.

Vitesse d'inférence

Les chiffres suivants sont des estimations établies à partir de retours communautaires sur llama.cpp et LM Studio. Ils varient selon le matériel, la longueur du prompt, le backend et la quantification exacte utilisée.

Sur RTX 4090 (24 Go, Q4_K_M)

Magistral Small 24B - Génération : ~25–40 tokens/sec (estimé, prompt court) - Prefill : ~1 500–2 500 tokens/sec (estimé)

Qwen 3 32B - Génération : ~18–28 tokens/sec (estimé, prompt court) - Prefill : ~1 000–1 800 tokens/sec (estimé)

Le modèle plus léger (24B) génère sensiblement plus vite sur le même GPU — de l'ordre de 30 à 50 % de tokens par seconde supplémentaires en Q4 (estimé). L'écart s'atténue sur GPU 48 Go ou en configuration batch multi-requêtes.

Sur Apple M3 Max (128 Go RAM unifiée)

• Magistral Small 24B Q4 : ~20–30 tokens/sec (estimé)
• Qwen 3 32B Q4 : ~14–22 tokens/sec (estimé)

Les Mac Apple Silicon permettent de faire tourner les deux modèles confortablement, y compris en Q8 pour le 24B sur 64 Go de RAM.

Licences

Magistral Small 24B Mistral AI a publié ses modèles ouverts sous Apache 2.0 ou licence Modified MIT selon les versions. La licence exacte du Magistral Small 24B est à vérifier sur la fiche HuggingFace officielle avant tout usage commercial ou redistribution. Ne présumez pas de la licence sur la seule base de la famille du modèle.

Qwen 3 32B Publié sous Apache 2.0, ce qui autorise l'usage commercial, la modification et la redistribution sans redevance, sous réserve de conserver les mentions légales. C'est l'un des atouts concrets du Qwen 3 32B par rapport à des modèles avec licences communautaires plus restrictives.

Pour filtrer les modèles du catalogue par type de licence, rendez-vous sur quelllm.fr/catalogue.

Benchmarks et performances comparées

Les chiffres de benchmarks varient selon la version du modèle, le harness d'évaluation et les paramètres de génération. Les valeurs ci-dessous sont issues de rapports publics ou estimées — vérifiez sur les leaderboards officiels comme l'Open LLM Leaderboard HuggingFace avant de baser des décisions de déploiement dessus.

MMLU (connaissance générale)

• Magistral Small 24B : ~70–76 % (à confirmer)
• Qwen 3 32B : ~80–85 % (à confirmer, version instruct)

Le Qwen 3 32B bénéficie de la masse de données d'entraînement Alibaba, particulièrement dense en contenu académique et multilingue, ce qui se reflète sur MMLU.

HumanEval (codage)

• Magistral Small 24B : ~60–72 % (estimé, avec mode raisonnement activé)
• Qwen 3 32B : ~75–85 % (estimé)

En codage pur sur benchmarks standard, Qwen 3 32B garde l'avantage. Le mode raisonnement du Magistral Small peut toutefois compenser sur des problèmes algorithmiques complexes nécessitant plusieurs étapes de décomposition.

AIME (raisonnement mathématique)

C'est sur des benchmarks de raisonnement comme AIME que le Magistral Small 24B cherche à se distinguer. Sa conception orientée chain-of-thought lui permet d'aborder des problèmes de mathématiques compétitives avec une méthodologie structurée plutôt qu'une correspondance de pattern. Les scores précis restent à confirmer sur les leaderboards publics.

Positionnement dans le catalogue quelllm.fr

Pour situer ces deux modèles dans l'écosystème :

• Le Mistral Medium 3.5 128B (128B, ~74 Go Q4) représente l'échelon supérieur dans la gamme Mistral, hors de portée d'un GPU solo grand public.
• Le Mistral Small 4 (119B, ~72 Go Q4) offre une puissance Mistral supérieure mais nécessite lui aussi un cluster ou une carte professionnelle 80 Go.
• Le Qwen 2.5 72B Instruct reste une référence éprouvée dans la famille Qwen pour ceux qui disposent de ~42 Go VRAM en Q4.

Cas d'usage concrets

Quand choisir Magistral Small 24B

• Raisonnement pas-à-pas : analyse de code multi-étapes, débogage, résolution de problèmes logiques ou mathématiques.
• Agent autonome léger : sa capacité de raisonnement structuré en fait un bon moteur pour des pipelines d'agents devant justifier leurs décisions.
• Budget VRAM serré : sur une machine avec 16–24 Go, c'est l'option Mistral la plus accessible intégrant des capacités de raisonnement avancées.
• Vitesse prioritaire : générer rapidement (~30 t/s estimé) avec une qualité de raisonnement supérieure à sa taille.

Quand choisir Qwen 3 32B

• Codage et revue de code : ses scores HumanEval en font un meilleur choix pour l'assistance au développement quotidienne.
• Traitement multilingue : la famille Qwen est nativement forte en chinois, japonais, coréen et dans les langues européennes.
• Contexte long : 128 K tokens natifs pour ingérer des documents entiers ou de longs historiques de conversation.
• Licence Apache 2.0 sans ambiguïté : déploiement commercial direct sans vérification préalable.
• Polyvalence générale : rédaction, résumé, Q&A, analyse de données — le spectre est large.

FAQ

Q : Le Magistral Small 24B tourne-t-il sur une RTX 4090 ?

Oui. En Q4_K_M, il requiert environ 13 Go VRAM — une RTX 4090 (24 Go) le fait tourner avec marge pour le KV-cache sur des contextes courts. En Q8, les 24 Go disponibles sont utilisés au maximum ; des contextes très longs (32 K tokens remplis) peuvent saturer la mémoire. En pratique, Q5_K_M représente un bon compromis qualité/VRAM sur cette carte.

Q : Quelle est la licence du Qwen 3 32B ?

Le Qwen 3 32B est publié sous Apache 2.0, une licence permissive qui autorise l'usage commercial, la modification et la redistribution. Aucune redevance n'est requise pour l'intégrer dans un produit ou service, sous réserve de conserver les mentions légales d'origine. C'est l'une des licences les plus favorables de l'écosystème open-weights.

Q : Magistral Small 24B ou Qwen 3 32B pour du RAG (Retrieval-Augmented Generation) ?

Pour du RAG, le Qwen 3 32B est avantagé par son contexte natif de 128 K tokens et ses performances élevées en compréhension de documents. Le Magistral Small 24B peut produire des réponses mieux structurées et argumentées sur des requêtes complexes grâce à son mode raisonnement. Le choix dépend principalement de la longueur des documents ingérés et de la complexité des questions posées.

Q : Y a-t-il une différence de vitesse significative entre les deux modèles ?

Oui. Avec 8 milliards de paramètres de moins, le Magistral Small 24B est sensiblement plus rapide en génération sur le même GPU — de l'ordre de 30 à 50 % de tokens par seconde supplémentaires en Q4 sur RTX 4090 (estimé). Cette différence s'estompe sur des GPU 80 Go ou en déploiement batch, où la bande passante mémoire n'est plus le facteur limitant principal.

Q : Le Magistral Small 24B supporte-t-il le mode "thinking" ?

Oui, c'est sa caractéristique principale par rapport aux LLM Mistral de génération précédente. Il génère un raisonnement intermédiaire avant la réponse finale. L'activation se fait via le format de prompt ou une option dédiée selon le backend utilisé (llama.cpp, LM Studio, etc.). Les détails d'implémentation sont à vérifier dans la documentation HuggingFace officielle.

Q : Comment comparer ces modèles à d'autres LLM du catalogue quelllm.fr ?

Le catalogue quelllm.fr liste 249 modèles avec leurs specs VRAM, licences et tokens/sec filtrables. Pour une comparaison directe avec un autre modèle de taille similaire, le comparateur intégré permet de mettre les fiches côte à côte selon vos critères (VRAM disponible, licence, usage).

Conclusion

Le Magistral Small 24B et le Qwen 3 32B incarnent deux philosophies pour un gabarit proche : raisonnement structuré d'un côté, polyvalence dense de l'autre. Si votre priorité est la vitesse d'inférence et la qualité de raisonnement pas-à-pas sur un GPU 24 Go, le Magistral Small 24B mérite d'être évalué sérieusement. Si vous privilégiez le codage, le contexte long et une licence Apache 2.0 sans ambiguïté, le Qwen 3 32B est le choix solide. Explorez l'ensemble des modèles filtrés par VRAM et licence sur quelllm.fr/catalogue, ou laissez le configurateur faire le tri selon votre configuration exacte.