#Pourquoi Nemotron plutôt qu'un autre modèle

Nemotron n'est pas un modèle entraîné de zéro. NVIDIA part de bases open-weight solides (Llama, Qwen selon les versions) puis applique sa propre recette de post-entraînement : élagage (pruning) pour réduire la taille, distillation pour récupérer la qualité perdue, et un fine-tuning massif orienté raisonnement, mathématiques, code et appels d'outils. Le résultat vise un point précis : le meilleur ratio qualité/coût de calcul pour des tâches d'agent, pas la conversation généraliste.

L'autre particularité, c'est que NVIDIA optimise ces modèles pour son propre matériel et ses propres pipelines d'inférence. En pratique cela se traduit par des débits solides sur GPU NVIDIA et par une famille pensée comme une gamme cohérente : une petite version pour les cartes grand public, une version moyenne pour les stations de travail, une version géante pour les serveurs. Vous choisissez selon la VRAM disponible sans changer de logique de prompt.

Nemotron, c'est du Llama/Qwen amélioré

Si vous connaissez déjà Llama ou Qwen en local, Nemotron se comporte de façon familière : même format de chat, mêmes quantizations GGUF. La différence tient au post-entraînement NVIDIA, pas à une architecture exotique.

#Nano, Super et Ultra : quelle variante

La gamme Nemotron 3 se décline en trois tailles, chacune pour une catégorie de machine. Le nom indique la cible plus que le nombre exact de paramètres.

Nano (~8-9B): La version pour cartes grand public. Tient à l'aise sur une RTX 3060 12 Go ou tout GPU à partir de 8 Go de VRAM en Q4. C'est le point d'entrée idéal pour tester Nemotron et pour les agents légers.
Super (~49B): La version pour stations de travail et gros GPU. Vise la qualité d'un modèle 70B pour un coût de calcul moindre, grâce à l'élagage NVIDIA. Demande une RTX 4090 24 Go (en Q4 serré) ou mieux, une carte 32-48 Go.
Ultra (~253B): La version serveur, hors de portée d'une machine grand public. Réservée aux stations multi-GPU ou au datacenter. Mentionnée ici pour situer la gamme, pas pour un usage local courant.

Pour un poste local, le choix réel se joue entre Nano et Super. Nano si vous avez une carte 8-16 Go ou si la vitesse prime. Super si vous avez 24 Go ou plus et que vous cherchez la qualité maximale sur du raisonnement ou du code exigeant.

#Prérequis et VRAM par variante

Comme tout modèle en local, la VRAM est le facteur limitant. Voici les repères en quantification Q4_K_M, celle recommandée par défaut car elle offre le meilleur compromis qualité/mémoire. Comptez toujours une marge pour la fenêtre de contexte, qui consomme de la mémoire en plus des poids.

Nemotron Nano (~9B) — Q4: ≈ 6-7 Go de VRAM. Confortable sur RTX 3060 12 Go, RTX 4070 12 Go, ou un Mac Apple Silicon à partir de 16 Go de mémoire unifiée.
Nemotron Super (~49B) — Q4: ≈ 28-30 Go. Ne tient pas sur une seule RTX 4090 24 Go sans offload : prévoyez une carte 32 Go+, deux GPU, ou un Mac M4 Pro/Max avec 48 Go unifiés.
Nemotron Super — Q5/Q8: Q5_K_M grimpe vers 35 Go, Q8_0 dépasse 50 Go. Réservé aux configurations à forte VRAM ou multi-GPU.
Marge contexte: Ajoutez 1 à 4 Go selon la longueur de contexte visée. Un contexte long en raisonnement génère beaucoup de tokens intermédiaires, donc gonfle l'empreinte mémoire.

→

Vérifier ce qui tient vraiment

Après un « ollama run », lancez « ollama ps » dans un autre terminal. La colonne PROCESSOR indique « 100% GPU » si tout est en VRAM, ou un partage « GPU/CPU » si Ollama a dû déborder en RAM — auquel cas la vitesse chute fortement. C'est le signal qu'il faut descendre d'une taille ou d'un cran de quantification.

Côté logiciel, le prérequis est minimal : le daemon Ollama installé, qui écoute par défaut sur http://localhost:11434. Sur GPU NVIDIA, assurez-vous que les pilotes CUDA sont à jour ; Ollama détecte le GPU automatiquement. Une interface comme Open WebUI ou LM Studio par-dessus est un confort, pas une obligation.

#Installer Nemotron via Ollama

L'installation suit exactement le flux Ollama habituel. Si le daemon tourne déjà, une seule commande télécharge et lance le modèle.

01
Vérifier qu'Ollama tourne
Ouvrez un terminal et lancez « ollama --version ». Si la commande répond, le daemon est prêt. Sinon, installez Ollama d'abord (voir le guide d'installation en fin d'article).
02
Télécharger la variante Nano
Pour tester sans risque côté VRAM, commencez par Nano. La commande télécharge les poids puis ouvre une session de chat directement dans le terminal.
03
Passer à Super si votre GPU suit
Une fois à l'aise, et si vous disposez d'assez de VRAM, tirez la variante Super pour gagner en qualité de raisonnement et de code.
04
Lister et gérer les modèles
« ollama list » affiche les modèles installés et leur taille sur disque. « ollama rm <modèle> » libère l'espace d'une variante que vous n'utilisez plus.

Terminal — installation Nemotron

# Vérifier qu'Ollama répond
ollama --version

# Variante Nano (~9B) — cartes grand public
ollama run nemotron-nano

# Variante Super (~49B) — grosse VRAM / multi-GPU
ollama run nemotron-super

# Voir ce qui est installé et vérifier le placement GPU
ollama list
ollama ps

Les tags évoluent

La bibliothèque Ollama met régulièrement à jour les noms et les versions des modèles Nemotron. Avant de lancer une commande, vérifiez le tag exact sur ollama.com/library — le nom du modèle et son numéro de version peuvent différer de l'exemple ci-dessus selon la génération publiée.

Pour appeler Nemotron depuis vos propres scripts, l'API REST d'Ollama est disponible sur le même port. Le champ « model » reprend le tag exact que vous avez tiré.

Terminal — appel API

curl http://localhost:11434/api/generate -d '{
  "model": "nemotron-nano",
  "prompt": "Explique la différence entre RAG et fine-tuning en trois phrases.",
  "stream": false
}'

#Le mode raisonnement contrôlable

La signature des modèles Nemotron, c'est un raisonnement qu'on peut activer ou couper à la demande. NVIDIA a entraîné ces modèles à produire une chaîne de pensée détaillée lorsqu'on le leur demande via le system prompt, et à répondre directement sinon. Concrètement, on bascule entre deux régimes avec une simple instruction système : « detailed thinking on » pour forcer le raisonnement étape par étape, « detailed thinking off » pour une réponse concise et rapide.

Cet interrupteur est utile parce que le raisonnement a un coût. Une chaîne de pensée génère beaucoup de tokens intermédiaires : c'est précieux pour un problème de maths, de logique ou un débogage subtil, mais du gaspillage pour reformuler un e-mail. Avec Nemotron vous décidez, prompt par prompt, si vous payez ce surcoût.

Terminal — activer le raisonnement

# Dans une session ollama run, définir le system prompt :
/set system detailed thinking on

# Puis poser une question de raisonnement
Un train part de A à 60 km/h, un autre de B à 90 km/h... résous étape par étape.

→

Couper le raisonnement pour aller vite

Pour du texte simple, de la reformulation ou de la classification, mettez « detailed thinking off ». Vous gagnez en latence et en tokens sans perte de qualité sur ces tâches où réfléchir à voix haute n'apporte rien.

Ce fonctionnement rapproche Nemotron de modèles comme DeepSeek R1 ou Qwen3 dans leur mode « thinking », mais avec un contrôle plus explicite : le raisonnement n'est pas un mode global du modèle, c'est un réglage que vous pilotez au fil de la conversation.

#Code, agents et tool-calling

NVIDIA optimise surtout Nemotron pour deux usages : le raisonnement et l'agentique. Sur le code, les variantes Super tiennent tête aux bons modèles 32-70B pour générer, expliquer et corriger. Nano reste correct pour de l'assistance ponctuelle mais montre ses limites sur les tâches longues ou les gros refactors — c'est attendu pour un modèle de sa taille.

Le vrai différenciateur est le function calling. Nemotron est entraîné pour produire des appels d'outils fiables et bien formés, ce qui en fait un bon candidat pour construire des agents locaux : un modèle qui décide d'appeler une fonction, lit le résultat et enchaîne. Combiné au mode raisonnement, cela donne des agents capables de planifier avant d'agir plutôt que de foncer.

Raisonnement / maths: Point fort net, surtout en Super avec « detailed thinking on ». La chaîne de pensée réduit les erreurs de calcul et de logique.
Code: Super rivalise avec les 70B sur génération et débogage ; Nano convient à l'assistance légère et à l'autocomplétion.
Agents et outils: Appels d'outils fiables, format JSON respecté — un des meilleurs usages de la famille pour l'automatisation locale.
Français / conversation généraliste: Correct sans être le meilleur de sa catégorie. Nemotron est taillé pour raisonner et agir, moins pour le bavardage multilingue.

#Face à Qwen3 : quand préférer Nemotron

Qwen3 est la référence open-weight à comparer, car les deux familles jouent sur le même terrain : raisonnement, code, tailles multiples, mode thinking. Sur beaucoup de tâches généralistes et en qualité de français, Qwen3 reste devant à taille égale — c'est un modèle plus polyvalent et mieux entraîné sur le multilingue.

Nemotron reprend l'avantage quand votre usage penche vers l'agentique et l'intégration à un écosystème NVIDIA. Si vous construisez un agent avec beaucoup d'appels d'outils, si vous voulez un contrôle explicite du raisonnement prompt par prompt, ou si vous exploitez un parc GPU NVIDIA où les débits d'inférence comptent, Nemotron mérite le test. À l'inverse, pour un assistant conversationnel généraliste en français, Qwen3 est le choix par défaut plus sûr.

Choisir Nemotron si: Agents avec tool-calling intensif, besoin de basculer raisonnement on/off finement, infra 100% NVIDIA, ou recherche du meilleur ratio qualité/calcul sur du raisonnement pur.
Choisir Qwen3 si: Assistant généraliste, priorité au français et au multilingue, polyvalence conversationnelle, ou simplement le modèle le plus éprouvé pour un usage large.
Verdict pratique: Testez les deux à taille comparable (Nano vs Qwen3-8B, Super vs Qwen3-32B) sur VOS prompts réels. L'écart dépend fortement de la tâche, pas d'un classement abstrait.

#Dépannage

« model not found » au pull: Le tag n'existe pas sous ce nom. Vérifiez l'orthographe exacte sur ollama.com/library — les noms Nemotron changent d'une génération à l'autre.
Vitesse effondrée sur Super: Le modèle déborde en RAM faute de VRAM. « ollama ps » montre un partage GPU/CPU. Passez à Nano, à une quantization plus basse (Q4), ou ajoutez du GPU.
Le raisonnement ne s'active pas: Le system prompt n'est pas pris en compte. Dans une session interactive, utilisez « /set system detailed thinking on » ; en API, passez l'instruction dans le champ system, pas dans le prompt utilisateur.
Réponses trop verbeuses: Le mode raisonnement est actif par défaut ou hérité. Basculez sur « detailed thinking off » pour les tâches simples.
« Connection refused »: Le daemon Ollama n'est pas lancé. Vérifiez avec « ollama ps » et que le service écoute bien sur http://localhost:11434.

#Pour aller plus loin

Nemotron s'appuie sur des briques déjà couvertes sur le site. Ces guides prolongent celui-ci :

Qwen 3 en local : test complet et benchmarks réels: Le comparatif indispensable pour situer Nemotron face à sa principale alternative open-weight, avec des chiffres de tokens/sec.
Choisir sa quantification (Q4, Q5, Q8, FP16): Pour arbitrer entre qualité et VRAM sur Nemotron Super, là où chaque cran de quantization change ce qui tient sur votre carte.
Installer Ollama sur Linux: Le prérequis si le daemon n'est pas encore en place : script d'install, service systemd et configuration GPU NVIDIA.

Ce guide vous a aidé ?

Un retour, une erreur, une précision ? Faites-nous signe, ça améliore le guide pour tout le monde.

Suite logique

Tests · 12 min