Qwen 3.6 27B en local : mémoire par quantification

#Qwen 3.6 27B : la réponse courte

Pour utiliser Qwen 3.6 27B sans débordement sur le processeur, prévoyez une carte de 24 Go de VRAM, ou un Mac avec au moins 32 Go de mémoire unifiée. Un Mac de 24 Go peut convenir à un essai avec un contexte court et peu d'autres applications ouvertes. En dessous, le modèle peut encore se charger, mais une partie du calcul passe sur le processeur.

Commande

ollama run qwen3.6:27b. Le tag existe dans la bibliothèque officielle d'Ollama (relevé du 5 septembre 2026).

Fichier

18 Go chez Ollama (relevé du 29 septembre 2026) ; 16,10 Go sur la fiche LM Studio (relevé du 5 septembre 2026).

Autres quantifications

Environ 19 Go en Q5, 29 Go en Q8 et 54 Go en FP16 selon le catalogue QuelLLM. Ce sont des estimations, pas des tailles de fichiers officielles.

Contexte

Ollama alloue 4 k tokens sous 24 Gio de VRAM, 32 k de 24 à 48 Gio, 256 k à partir de 48 Gio. Toute hausse consomme de la mémoire en plus du fichier.

Réflexe de contrôle

ollama ps : tant que la colonne PROCESSOR n'indique pas 100% GPU, le modèle déborde.

#Ce que vous installez

Qwen 3.6 27B est un modèle dense d'Alibaba, publié en avril 2026 sous licence Apache 2.0. « Dense » signifie que ses 27 milliards de paramètres participent au calcul de chaque token. La fiche Ollama lui attribue les capacités vision, outils et raisonnement (thinking), et un contexte maximal annoncé de 256 k tokens. Les spécifications complètes figurent sur la fiche /modele/qwen36-27b : ce guide ne traite que de la mémoire et de l'installation.

Ce modèle n'est plus le plus récent de sa taille : Qwen 3.8 27B lui a succédé en août 2026. Le 3.6 garde un intérêt si vos prompts sont déjà réglés dessus, ou si un outil que vous utilisez le cite dans sa documentation. Pour une première installation, comparez aussi avec notre guide sur Qwen 3.8 27B, qui a ses propres tags et réglages.

#Mémoire de Qwen 3.6 27B par quantification

La quantification réduit la précision des poids pour réduire leur taille. Plus elle est forte, moins le fichier pèse, avec un risque de perte de qualité. Le tableau sépare volontairement les tailles publiées et les estimations du catalogue, car ces chiffres n'ont pas la même valeur.

La colonne « Taille + 15 à 25 % » applique une règle de prudence, identique à celle de notre guide sur Qwen 3.8 27B. Elle sert à anticiper le cache de contexte et les frais du moteur. C'est un calcul, pas une mesure : la consommation réelle dépend du contexte choisi, du moteur et de ce qui tourne à côté.

Pourquoi 18 Go et 16,10 Go ?

Ollama et LM Studio ne distribuent pas forcément le même paquet. Notre relevé ne permet pas d'attribuer l'écart à une cause précise : retenez le chiffre affiché par l'outil que vous utilisez.

Pourquoi le catalogue indique 16 Go en Q4 ?

C'est une estimation fondée sur le nombre de paramètres. Elle donne un ordre de grandeur et se trouve 2 Go sous le fichier annoncé par Ollama. Pour ce tag, le chiffre d'Ollama prime.

Un point de comparaison

Pour Qwen 3.8 27B, modèle de même taille, Ollama publiait 18 Go en Q4_K_M, 30 Go en Q8 et 56 Go en BF16 (relevé du 18 août 2026). Ces valeurs concernent un autre modèle : elles indiquent une tendance, sans remplacer un relevé du 3.6.

Si plusieurs variantes tiennent dans votre mémoire, commencez par la Q4_K_M : c'est le réglage recommandé sur QuelLLM. Ne montez en gamme que si vos propres prompts montrent un défaut que la quantification explique. Notre guide sur le choix de la quantification détaille cet arbitrage en général.

#La marge à garder pour le contexte

Le poids du fichier n'est que le point de départ. Le moteur réserve aussi de la mémoire pour la fenêtre de contexte, c'est-à-dire la conversation, les documents et le raisonnement du modèle. Le contexte de 256 k tokens annoncé est un maximum, pas ce qui sera réellement alloué.

Moins de 24 Gio de VRAM

Ollama démarre à 4 k tokens. C'est suffisant pour un échange court, pas pour un long document.

De 24 à 48 Gio

32 k tokens par défaut : la zone d'une RTX 4090.

48 Gio et plus

256 k tokens par défaut. Cette allocation prend beaucoup de place : réduisez-la si vous n'en avez pas besoin.

Agents, code, recherche web

Ollama recommande au moins 64 000 tokens pour ces usages. Sur 24 Go, cette valeur n'est pas garantie : testez-la avec ollama ps.

Le risque est double. Une fenêtre trop courte oblige le moteur à laisser de côté une partie de l'entrée, et le modèle répond alors sur un texte incomplet. Une fenêtre trop longue peut faire déborder le modèle sur le processeur. Faute de mesure sur ce modèle, ce guide ne donne pas de chiffre en Go par tranche de tokens : la bonne méthode consiste à augmenter par paliers.

1. 01
   Partez de la valeur par défaut

   Lancez le modèle avec une requête habituelle, puis lisez ollama ps. Notez la mémoire occupée, le contexte et la répartition GPU/CPU.
2. 02
   Montez par paliers

   Passez par exemple de 8 k à 16 k, puis 32 k et 64 k tokens. Rechargez le modèle à chaque changement : le contexte est fixé au chargement.
3. 03
   Arrêtez-vous avant le débordement

   Dès que PROCESSOR affiche un partage entre CPU et GPU, revenez au palier précédent. Gardez un peu de marge si vous envoyez aussi des images, car leur traitement utilise également de la mémoire.

OLLAMA_CONTEXT_LENGTH=32768 ollama serve

curl http://localhost:11434/api/generate -d '{
  "model": "qwen3.6:27b",
  "prompt": "Résume ce texte en trois points : ...",
  "stream": false,
  "options": { "num_ctx": 32768 }
}'

Si Ollama tourne déjà comme service, la variable doit être définie dans la configuration du service, car une commande lancée dans un terminal ne le modifie pas. L'application Ollama propose aussi un curseur de contexte dans ses réglages.

#Votre machine suffit-elle ?

Le tableau de mémoire se traduit assez simplement en matériel. Les repères ci-dessous concernent le tag par défaut de 18 Go. Ils découlent de ce calcul de taille et ne décrivent pas des essais : aucune vitesse n'est annoncée.

RTX 3060 12 Go, RTX 4070 12 Go

Le fichier dépasse la VRAM : le modèle sera en partie sur le processeur. Préférez un modèle plus petit, de taille 14B environ en Q4 (≈ 9 Go).

RTX 4080 16 Go

Le fichier de 18 Go dépasse encore la VRAM, de même que les 16,10 Go de LM Studio une fois le contexte ajouté. L'usage reste possible avec un partage GPU/CPU, sans être confortable.

RTX 4090 24 Go

Le premier palier cohérent : il laisse environ 6 Go au-dessus du fichier pour le contexte et les frais du moteur.

Mac M4 Pro 24 Go

Possible pour un essai : le système et les applications utilisent la même mémoire que le modèle. Gardez un contexte court et fermez les applications lourdes.

Mac 32 à 48 Go

Le choix raisonnable pour un usage quotidien, avec une vraie marge pour le contexte.

Sans carte graphique

Le catalogue QuelLLM estime à 28 Go la mémoire vive nécessaire. Le modèle peut fonctionner, mais il faut s'attendre à une génération bien plus lente qu'en GPU.

Prévoyez aussi de la place sur le disque : au moins la taille du fichier, avec de la marge si vous gardez plusieurs variantes. Pour votre configuration précise, le configurateur de QuelLLM donne une première estimation, à confirmer avec ollama ps.

#Installer Qwen 3.6 27B avec Ollama

Ollama convient si vous voulez un service local accessible par API, sur http://localhost:11434, éventuellement avec Open WebUI comme interface.

1. 01
   Installez ou mettez à jour Ollama

   Sur Linux, utilisez le script officiel ci-dessous. Sur macOS et Windows, téléchargez l'application sur ollama.com. Une version ancienne peut ne pas reconnaître le modèle : la mise à jour est le premier geste en cas d'erreur.
2. 02
   Téléchargez le modèle

   ollama pull qwen3.6:27b récupère le fichier. Si la connexion coupe, relancez la commande.
3. 03
   Contrôlez ce que vous avez reçu

   ollama show qwen3.6:27b affiche notamment la quantification, le contexte maximal et les capacités du paquet. C'est le moyen le plus sûr de savoir à quelle variante correspond le tag par défaut.
4. 04
   Lancez un premier échange

   La première réponse arrive après le chargement des poids en mémoire. Pendant que le modèle est chargé, lisez ollama ps dans un second terminal.

# Linux : installer ou mettre à jour Ollama
curl -fsSL https://ollama.com/install.sh | sh

# Télécharger le modèle
ollama pull qwen3.6:27b

# Vérifier la quantification, le contexte et les capacités
ollama show qwen3.6:27b

# Discuter avec le modèle
ollama run qwen3.6:27b

# Dans un second terminal : mémoire et répartition GPU/CPU
ollama ps

Sur Mac Apple Silicon, la bibliothèque propose aussi qwen3.6:27b-mlx (relevé du 5 septembre 2026), destiné au moteur MLX. Sa taille peut différer : consultez la page des tags avant de choisir.

#Installer avec LM Studio

LM Studio convient si vous préférez une interface graphique, avec un réglage visible du contexte et du nombre de couches envoyées au GPU. Sa fiche officielle porte l'identifiant qwen/qwen3.6-27b, annonce 16,10 Go et confirme l'usage d'outils, la vision et le raisonnement (relevé du 5 septembre 2026).

1. 01
   Cherchez le modèle

   Dans la recherche de modèles, saisissez qwen/qwen3.6-27b. LM Studio liste les variantes disponibles et met en avant celle qu'il juge adaptée à votre matériel.
2. 02
   Choisissez le format

   GGUF sur PC, MLX ou GGUF sur Mac. Comparez la taille affichée avec votre mémoire, en gardant la marge du tableau précédent.
3. 03
   Réglez le chargement

   Avant de charger le modèle, ajustez la longueur de contexte et l'envoi au GPU. Partez d'une valeur modeste, puis augmentez par paliers comme avec Ollama.
4. 04
   Surveillez la mémoire

   Faites un essai avec une requête réelle et regardez la mémoire utilisée. Si le système ralentit, réduisez le contexte avant de changer de quantification.

# Variante GGUF (--mlx sur Mac pour le format MLX)
lms get qwen/qwen3.6-27b --gguf

Vous pourrez ensuite exposer le modèle à d'autres applications grâce au serveur local de LM Studio : notre guide consacré à son API détaille cette étape. Pour choisir entre les deux outils, reportez-vous à notre comparatif Ollama et LM Studio.

#Qwen 3.6 27B ou 35B-A3B : le choix de principe

Les deux modèles appartiennent à la même famille, mais ne sont pas construits de la même manière. Le 27B est dense. Le 35B-A3B est un Mixture-of-Experts (MoE) : il compte 35 milliards de paramètres, dont environ 3 milliards actifs à chaque token. La comparaison qui suit repose sur cette architecture et sur les tailles publiées, sans benchmark.

Mémoire

Avantage au 27B : 16,10 Go contre 20,40 Go sur les fiches LM Studio (relevé du 5 septembre 2026). Un MoE doit garder tous ses experts en mémoire, même si peu d'entre eux travaillent à chaque token.

Calcul par token

Avantage de principe au 35B-A3B : moins de paramètres actifs signifie moins de calcul par token, à condition que tout le modèle tienne en mémoire. L'écart réel dépend de votre machine.

Si vous êtes à la limite de 24 Go

Le 27B laisse plus de place au contexte. Le 35B-A3B en laisse moins, ce qui peut compter sur de longs documents.

Si vous avez 32 Go ou plus

Les deux tiennent. Faites l'essai sur vos propres tâches : le 35B-A3B si la réactivité prime, le 27B si la vision compte (ses capacités sont confirmées par nos relevés).

Licence

Apache 2.0 pour les deux : ce critère ne les départage pas.

#Dépannage

« model not found » au téléchargement

Vérifiez l'orthographe : qwen3.6:27b, avec un point. Si un suffixe de quantification est refusé, c'est peut-être qu'il n'existe pas : consultez la page des tags, puis mettez Ollama à jour si le tag y figure.

Génération très lente

Regardez ollama ps. Un partage CPU/GPU signale un débordement : réduisez le contexte, fermez les applications qui utilisent le GPU ou passez à un modèle plus petit.

Le début du document semble ignoré

Le contexte est sans doute trop court, surtout avec les 4 k tokens par défaut sous 24 Gio. Augmentez num_ctx ou découpez le document.

Le réglage OLLAMA_CONTEXT_LENGTH n'a pas d'effet

La variable doit s'appliquer au serveur, pas au client. Redémarrez le service après l'avoir modifiée, puis rechargez le modèle.

Erreur de mémoire au chargement

Baissez d'abord le contexte. Si l'erreur persiste, vérifiez la mémoire libre et le nombre de modèles chargés : ollama stop qwen3.6:27b libère ce modèle.

Tailles différentes de ce guide

Les paquets peuvent évoluer. Fiez-vous à la page officielle du moment et à ce qu'affiche votre outil, puis appliquez la même marge.

#Pour aller plus loin

Ces pages complètent le guide sans répéter ses chiffres : la fiche du modèle pour les spécifications, et les guides voisins pour les autres modèles et les notions générales.