Llama 4 Scout en local : installation et premiers tests avec Ollama

#Pourquoi installer Llama 4 Scout en local avec Ollama ?

Scout est le seul modèle de la gamme Llama 4 conçu pour tourner sur une seule machine. Meta l'a positionné comme le "workstation model" de la famille : multimodal nativement (texte + images), fenêtre de contexte annoncée à 10 millions de tokens, et architecture MoE (Mixture of Experts) qui n'active qu'une fraction des paramètres à chaque token.

Concrètement, par rapport à un Llama 3.3 70B en dense, Scout offre une meilleure latence (peu de paramètres actifs par token), une mémoire de contexte largement supérieure, et la vision incluse sans modèle séparé. Le prix à payer : un poids disque conséquent (l'ensemble des experts doit rester chargé en VRAM pour que le routing fonctionne).

MoE en deux mots

Un modèle MoE comme Scout contient N "experts" (sous-réseaux spécialisés). À chaque token, un routeur en choisit k (typiquement 1 ou 2). Seuls ces k experts sont calculés. Résultat : la vitesse d'inférence est celle d'un petit modèle, mais la qualité tend vers celle du grand. Les paramètres totaux restent en VRAM — seul le calcul est partiel.

#Scout, Maverick, Behemoth : qui fait quoi

Scout (17B actifs): Le modèle workstation. 16 experts, ~109B paramètres totaux. Multimodal. Contexte 10M tokens. Cible : RTX 4090, M3/M4 Max/Ultra, ou setup multi-GPU 48 Go+.
Maverick (17B actifs): Le modèle serveur. 128 experts, ~400B paramètres totaux. Même nombre d'actifs que Scout mais beaucoup plus de connaissance encodée. Cible : serveur 8x H100 ou cluster. Hors-jeu en local pour la plupart des configurations.
Behemoth (288B actifs): Le modèle frontière. ~2T paramètres totaux. Pas exécutable en local sans datacenter. Surtout utile comme modèle "professeur" pour distiller les deux autres.

→

Lequel choisir ?

Si vous lisez ce guide et que vous installez en local, c'est Scout. Maverick demande au minimum un serveur multi-GPU haut de gamme — à ce niveau-là, les guides DeepSeek V4 Flash ou Qwen3.7 Max sont plus pertinents.

#VRAM réelle : ce que la fiche technique ne dit pas

L'erreur classique avec les modèles MoE consiste à raisonner sur les paramètres actifs. "17B actifs = ça tient sur 12 Go en Q4" : faux. Pour que le routing fonctionne, tous les experts doivent rester en mémoire. Scout en Q4_K_M demande beaucoup plus que ce que ses 17B actifs laisseraient croire.

Q4_K_M (recommandé): ≈ 65 Go de VRAM pour le modèle seul. Ajouter ~4 Go pour un contexte raisonnable (32k tokens). Total ≈ 70 Go.
Q5_K_M: ≈ 78 Go. Gain de qualité marginal sur la plupart des tâches face au Q4_K_M.
Q8_0: ≈ 115 Go. Réservé aux benchmarks de référence.
FP16: ≈ 220 Go. Cloud ou multi-serveur uniquement.

Pas pour un GPU 24 Go

Si vous avez une RTX 4090 ou une 3090 seule, Scout ne tournera pas correctement. Vous pouvez forcer l'offload CPU mais la vitesse s'effondre (< 2 tokens/sec). Pour un GPU 24 Go, regardez plutôt Qwen3-30B-A3B ou Mistral Small 24B. Pour une RTX 5090 32 Go, Llama 3.3 70B Q4 reste plus pertinent que Scout offloaded.

Les configurations qui font tourner Scout confortablement en local :

Mac Studio M3 Ultra / M4 Ultra 96-192 Go: La meilleure plateforme grand public pour Scout. Mémoire unifiée, pas d'offload, ~25-40 tokens/sec selon la quantification.
2x RTX 4090 / 2x 5090: 48 Go ou 64 Go cumulés, suffisant pour Q4_K_M avec contexte étendu. Compter sur llama.cpp ou Ollama avec la variable OLLAMA_NUM_GPU.
Workstation RTX 6000 Ada (48 Go) ou A6000: Tient Scout Q4 confortablement avec marge pour le contexte.

#Prérequis

Ollama 0.6 ou plus récent: Le support de Llama 4 a été ajouté à partir d'Ollama 0.6. Vérifiez avec ollama --version, mettez à jour sinon.
70 Go d'espace disque libre: Le tag Q4_K_M pèse environ 65 Go. Comptez large pour la marge cache.
Bande passante mémoire élevée: Sur Mac : viser ≥ 400 Go/s (M3 Max et au-dessus). Sur PC : DDR5 si offload CPU envisagé.
Une connexion stable: Le téléchargement initial peut durer 1 à 3 heures selon votre lien. ollama pull supporte la reprise en cas d'interruption.

#1. Installer Llama 4 Scout avec Ollama

Si Ollama n'est pas encore installé, suivez d'abord le guide adapté à votre système. Ensuite, le téléchargement de Scout se fait en une commande.

Terminal — pull du modèle

ollama pull llama4:scout

Ce tag pointe par défaut sur la quantification Q4_K_M. Si vous voulez forcer une autre variante :

Variantes disponibles

ollama pull llama4:scout-q5_K_M
ollama pull llama4:scout-q8_0
ollama pull llama4:scout-fp16

Une fois le téléchargement terminé, listez les modèles pour confirmer le poids réel :

Vérification

ollama list

Patience au premier chargement

Charger 65 Go en VRAM prend du temps : entre 30 secondes et 2 minutes selon le SSD. Les chargements suivants sont plus rapides grâce au cache OS.

#2. Premier test : texte et raisonnement

Lancez une session interactive pour valider le bon fonctionnement avant de toucher au reste.

Session interactive

ollama run llama4:scout

À l'apparition du prompt >>>, vérifiez la langue et la qualité du raisonnement avec un test simple :

Prompt de test

>>> Explique en 4 phrases ce qu'est un modèle MoE, puis donne un avantage et un inconvénient.

[Réponse attendue : explication structurée en français, distinction entre paramètres totaux et actifs, mention de la latence comme avantage et de la VRAM comme inconvénient.]

Pendant que la conversation tourne, ouvrez un second terminal pour observer la charge :

Surveiller la charge

ollama ps

La colonne SIZE doit refléter le poids effectif chargé. Sur PROCESSOR, idéalement 100% GPU. Si vous voyez un mix CPU/GPU, c'est que la VRAM ne suffit pas et qu'Ollama fait de l'offload — la vitesse en pâtira sévèrement.

#3. Test vision en français

Scout est multimodal nativement : l'image et le texte passent par le même backbone, contrairement à un Llama 3.2-Vision qui colle un encodeur visuel séparé. Cela donne de meilleurs résultats sur les tâches qui mélangent les deux modalités (OCR contextuel, lecture de schémas, description fine).

Avec l'API REST d'Ollama, on envoie l'image en base64 dans le champ images :

Test vision Python

import base64, requests, json

with open('facture.jpg', 'rb') as f:
    img_b64 = base64.b64encode(f.read()).decode()

response = requests.post(
    'http://localhost:11434/api/generate',
    json={
        'model': 'llama4:scout',
        'prompt': 'Décris cette image en français. Si c\'est un document, extrais les montants et la date.',
        'images': [img_b64],
        'stream': False,
    }
)
print(response.json()['response'])

Sur des cas typiques (capture d'écran d'interface, photo de tableau blanc, scan de PDF), Scout produit une description fine et reste cohérent en français même quand l'image contient du texte anglais. C'est un cran au-dessus de Llama 3.2-Vision sur les détails structurés.

→

Format d'image

JPEG et PNG fonctionnent. Évitez les images trop volumineuses (> 4 Mo) : Ollama les redimensionne mais c'est coûteux. Pré-redimensionnez à 1024px max sur le plus grand côté avant l'envoi.

#4. Le contexte 10M tokens : promesse et réalité

Meta annonce une fenêtre de contexte de 10 millions de tokens pour Scout. En pratique, deux limites s'imposent en local.

Le cache KV explose: À 1M tokens, le cache KV ajoute facilement 30-50 Go à la VRAM utilisée par le modèle. Au-delà, il faut activer la quantization du KV cache (option num_ctx + paramètres expérimentaux) ou se résoudre à du CPU offload du cache.
La qualité décroît bien avant 10M: Les benchmarks indépendants (RULER, NoLiMa) montrent une chute de performance utile autour de 256k-512k tokens, malgré l'entraînement long contexte. Au-delà, c'est techniquement possible mais peu fiable.

Pour exploiter un contexte étendu sans tout faire planter, configurez Ollama via un Modelfile :

Modelfile pour contexte 128k

FROM llama4:scout

PARAMETER num_ctx 131072
PARAMETER num_predict 4096
PARAMETER temperature 0.6

Création de la variante

ollama create llama4-scout-128k -f Modelfile
ollama run llama4-scout-128k

128k est déjà beaucoup

Un contexte de 128k tokens représente déjà environ 250 pages de texte. Pour 95% des cas d'usage local (codebase entière, longs PDF, archives de tickets), c'est largement suffisant et beaucoup plus stable que les configurations 1M+.

#Scout vs Qwen3-30B-A3B : le vrai comparatif

Qwen3-30B-A3B est l'autre MoE qui se discute sérieusement pour un usage local en 2026 : 30B totaux, 3B actifs, contexte 256k natif. La comparaison vaut le détour, car les deux ne jouent pas dans la même catégorie en termes de matériel.

Empreinte VRAM Q4: Scout ≈ 65 Go. Qwen3-30B-A3B ≈ 18 Go. La différence est massive et change complètement le profil de machine cible.
Vitesse de génération: À actifs comparables (17B vs 3B), Qwen3-30B-A3B est plus rapide en tokens/sec — typiquement 2-3x plus rapide sur la même machine, quand les deux tiennent.
Qualité raisonnement: Sur les benchmarks publics MMLU-Pro, GPQA, Scout reste devant Qwen3-30B-A3B. L'écart se réduit beaucoup avec le mode thinking de Qwen3 activé.
Multimodalité: Scout est multimodal natif. Qwen3-30B-A3B ne l'est pas — il faut passer par Qwen2.5-VL en parallèle si vous voulez de la vision dans la même stack.
Contexte long: Scout vise 10M (256k en pratique stable). Qwen3-30B-A3B propose 256k natif, plus prévisible et moins coûteux en cache KV.

→

Verdict pratique

Si vous avez un Mac Studio Ultra, un setup 2x RTX 4090 ou une A6000, prenez Scout pour la vision native et la qualité. Si vous tournez sur une RTX 4090 seule, une 3090 ou un Mac M3 Max 36-64 Go, prenez Qwen3-30B-A3B — c'est rationnel et nettement plus rapide. Scout en offload CPU sur ce type de machine est une fausse bonne idée.

#Dépannage

"Error: model requires more system memory than is available": Votre VRAM + RAM cumulée est insuffisante. Soit passez à une quantification plus agressive (rare en Q4, déjà serré), soit changez de modèle. Pas de magie côté Ollama.
Vitesse < 5 tokens/sec sur GPU 24 Go: Vous êtes en offload CPU. Vérifiez avec ollama ps : la colonne PROCESSOR doit afficher 100% GPU. Si ce n'est pas le cas, Scout n'est pas adapté à votre machine.
Réponses tronquées: Augmentez num_predict (par défaut 128 sur certaines configs). Avec /set parameter num_predict 2048 dans la session, ou via Modelfile.
Crashs au-delà de 64k tokens: Le cache KV sature la VRAM. Réduisez num_ctx, ou activez la quantization KV via OLLAMA_FLASH_ATTENTION=1 + OLLAMA_KV_CACHE_TYPE=q8_0 dans l'environnement.
Image refusée avec "unsupported image format": Convertissez en JPEG ou PNG standard. Les WebP, HEIC, AVIF ne sont pas tous gérés selon la version d'Ollama.

#Pour aller plus loin

Une fois Scout opérationnel, plusieurs directions méritent l'exploration pour exploiter ses spécificités.

Bien choisir sa quantification: Q4_K_M est le sweet spot pour Scout, mais comprendre quand monter en Q5 ou Q8 dépend du cas d'usage — surtout sur les tâches multimodales où la quantization peut dégrader plus que sur du texte pur.
Tirer parti de la vision en local: Le guide vision dédié couvre les patterns de prompt qui marchent vraiment (OCR contextuel, extraction structurée, comparaison d'images) avec Scout et ses concurrents Qwen2.5-VL et Llama 3.2-Vision.
Modelfile pour personnaliser: Au-delà de num_ctx, un Modelfile permet de figer un system prompt, un format de sortie JSON, une température adaptée à votre cas — utile pour ne pas reconfigurer à chaque session.

Ce guide vous a aidé ?

Un retour, une erreur, une précision ? Faites-nous signe, ça améliore le guide pour tout le monde.

Suite logique

Premiers pas · 9 min