Débutant 7 minOllama

Ollama c'est quoi et comment ça marche (guide débutant)

C'est quoi Ollama ? C'est l'outil le plus simple pour faire tourner un LLM en local sur votre propre machine — sans cloud, sans abonnement, sans ligne envoyée à OpenAI. Ce guide explique de zéro ce qu'est Ollama, comment il télécharge et exécute les modèles, les trois ou quatre commandes que vous utiliserez 90 % du temps, et le minimum vital pour démarrer.

Par Mohamed Meguedmi·Màj 2026-05-28·Testé sur Windows, macOS, Linux

#C'est quoi Ollama ?

Ollama est un outil open source qui télécharge, stocke et exécute des modèles de langage (LLM) directement sur votre ordinateur. Vous tapez une commande, le modèle se charge en mémoire, et vous discutez avec lui — soit en ligne de commande, soit via une interface graphique que vous branchez par-dessus. Tout se passe localement : aucune donnée n'est envoyée sur Internet une fois le modèle téléchargé.

Concrètement, Ollama joue deux rôles à la fois : c'est un démon (un programme qui tourne en arrière-plan) et une CLI (une commande en ligne) qui parle à ce démon. Le démon écoute sur le port 11434 de votre machine et expose une petite API HTTP — la même que celle d'OpenAI, ou presque. Toutes les interfaces compatibles (Open WebUI, LM Studio en mode client, Continue.dev, etc.) peuvent donc s'y connecter sans modification.

i
En une phrase
Ollama = un démon local qui sait télécharger et exécuter des LLM open-weight, et une CLI pour lui parler. Derrière, c'est llama.cpp packagé proprement. Vous n'aurez ni à compiler, ni à manipuler des fichiers GGUF à la main.

Pourquoi tant de gens y passent ? Parce qu'il fait disparaître toute la friction technique du LLM local : pas de compilation, pas de configuration GPU manuelle, pas de gestion de versions Python. Vous installez, vous tapez ollama run mistral, ça marche. C'est l'équivalent de Docker pour les LLM : on emballe le modèle et son contexte d'exécution dans un format unique.

#Comment ça marche en interne

Quand vous lancez Ollama, trois couches collaborent. Comprendre ces couches change radicalement votre capacité à diagnostiquer un problème.

Le démon (ollama serve)
Un service qui tourne en arrière-plan, écoute sur http://localhost:11434, et gère le chargement/déchargement des modèles en mémoire. Sur Windows et macOS, il démarre automatiquement après installation. Sur Linux, c'est typiquement un service systemd.
Le moteur d'inférence (llama.cpp)
C'est lui qui fait tourner les modèles. Ollama embarque une version précompilée avec le support CUDA (NVIDIA), Metal (Apple Silicon) et CPU. Vous n'avez pas à compiler quoi que ce soit.
La CLI (ollama)
Le programme en ligne de commande que vous appelez. Il ne fait pas grand-chose lui-même : il envoie des requêtes HTTP au démon et affiche les réponses.

Quand vous tapez ollama run llama3.1, voici ce qui se passe vraiment : la CLI demande au démon de charger ce modèle ; si le modèle n'est pas sur le disque, le démon le télécharge depuis le registre d'Ollama (un peu comme Docker Hub) ; il le charge en VRAM si vous avez un GPU compatible, sinon en RAM ; et il ouvre une session de chat interactif. Tout le travail lourd se passe côté démon — la CLI n'est qu'un client.

→
Le port 11434
C'est le port HTTP que tout le monde utilise. Si une appli affirme "se connecter à votre Ollama", elle parle à http://localhost:11434. Si Ollama est lancé et que vous ouvrez cette URL dans un navigateur, vous verrez le message Ollama is running. C'est le test de santé le plus simple.

#Les commandes : run, pull, list

Trois commandes couvrent 90 % de l'usage. Apprenez-les, le reste vous semblera évident.

#ollama run

La commande à connaître en priorité. Elle télécharge le modèle s'il n'est pas présent, le charge en mémoire, puis ouvre une conversation interactive dans le terminal.

Terminal
ollama run llama3.1
# Première fois : télécharge ~4.7 Go puis lance le chat
# Fois suivantes : charge le modèle déjà présent et démarre

Une fois dans la session, vous tapez votre question et vous pressez Entrée. Pour quitter, /bye ou Ctrl+D. Pour basculer en multi-ligne, ouvrez par trois guillemets ("""). Tout ce qui commence par / est une commande interne (/show, /set, /clear, /save, /load).

Vous pouvez aussi passer directement un prompt en argument — utile pour scripter :

Prompt one-shot
ollama run llama3.1 "Résume ce texte en 3 points : [...]"

#ollama pull

Télécharge un modèle sans le lancer. Pratique quand vous voulez préparer plusieurs modèles à l'avance, ou tirer une variante précise (taille, quantization).

Terminal
ollama pull mistral
ollama pull qwen2.5:7b
ollama pull llama3.1:8b-instruct-q5_K_M

Le nom suit le format modele:tag. Sans tag, vous obtenez la version par défaut (généralement la 7B/8B en quantization Q4_K_M). Avec un tag explicite, vous choisissez la taille (3b, 7b, 13b, 70b) et la quantization (q4_K_M, q5_K_M, q8_0, fp16).

i
Quantization, en deux mots
Un modèle "brut" pèse 14 Go pour 7 milliards de paramètres en FP16. La quantization compresse ces nombres sur moins de bits : Q4_K_M (4 bits) divise la taille par ~4 avec une perte de qualité minime. C'est le sweet spot recommandé pour démarrer. Q5_K_M est un peu meilleur en qualité, Q8_0 quasi parfait mais 2x plus lourd, FP16 réservé aux GPU costauds.

#ollama list

Affiche les modèles installés sur votre machine, leur taille sur disque et leur date d'installation.

Terminal
ollama list
# NAME              ID            SIZE    MODIFIED
# llama3.1:latest   42182419e950  4.7 GB  2 days ago
# mistral:latest    f974a74358d6  4.1 GB  1 week ago

#Les autres commandes utiles

ollama ps
Affiche les modèles actuellement chargés en mémoire (et combien de VRAM/RAM ils consomment). Indispensable pour diagnostiquer un "ça rame".
ollama rm <modele>
Supprime un modèle du disque. Utile quand le dossier des modèles commence à peser 50 Go.
ollama show <modele>
Affiche les métadonnées d'un modèle : taille de contexte, quantization, template de prompt, capacités (tools, vision, etc.).
ollama serve
Lance manuellement le démon en avant-plan. Utile sur Linux ou pour diagnostiquer (vous voyez les logs en direct).
ollama create
Crée un modèle personnalisé à partir d'un Modelfile — c'est l'équivalent d'un Dockerfile pour LLM. Sujet plus avancé.

#Où sont stockés les modèles

Les modèles peuvent peser plusieurs gigaoctets. Savoir où ils vivent est essentiel pour faire le ménage, déplacer la bibliothèque sur un autre disque, ou sauvegarder.

Windows
%USERPROFILE%\.ollama\models — typiquement C:\Users\votrenom\.ollama\models
macOS
~/.ollama/models
Linux (install par script officiel)
/usr/share/ollama/.ollama/models — le démon tourne sous l'utilisateur ollama
Linux (install manuelle utilisateur)
~/.ollama/models

À l'intérieur de ce dossier, deux sous-dossiers : blobs (les fichiers binaires des modèles, identifiés par un hash) et manifests (les métadonnées qui décrivent quel blob correspond à quel tag). N'éditez pas ces fichiers à la main — utilisez ollama rm et ollama pull pour gérer.

→
Déplacer les modèles sur un autre disque
Si votre SSD système est petit et que vous avez un disque secondaire plus gros, définissez la variable d'environnement OLLAMA_MODELS pour pointer ailleurs. Exemple : OLLAMA_MODELS=D:\ollama-models sur Windows, ou export OLLAMA_MODELS=/mnt/data/ollama-models sur Linux. Redémarrez le démon pour que la variable soit prise en compte.

#Config minimale pour démarrer

La question "c'est quoi Ollama et est-ce que ma machine peut le faire tourner ?" revient tout le temps. Voici les seuils réels, pas les minimums marketing.

RAM 8 Go, pas de GPU
Limité à des modèles 3B en Q4 (Llama 3.2 3B, Phi-3.5 mini). 5–10 tokens/seconde sur CPU moderne. Utilisable pour tester et apprendre.
RAM 16 Go, pas de GPU
Les modèles 7B/8B passent en Q4 (Mistral 7B, Llama 3.1 8B, Qwen 2.5 7B). Comptez 4–8 tokens/seconde. Lent pour un usage interactif soutenu mais ça marche.
GPU 8 Go de VRAM
Confortable sur les 7B/8B en Q4 (30–50 tokens/s). Limite atteinte sur les 13B.
GPU 12 Go de VRAM (RTX 3060, 4070)
Le sweet spot d'entrée 2026. Tous les 7B/8B fluides, les 14B (Phi-4, Qwen 2.5 14B) en Q4 confortables.
GPU 16 Go (RTX 4080, 5080) ou Mac M-Pro 32 Go unifiés
On monte aux 24B en Q4 (Mistral Small 24B) ou aux 14B en Q5/Q8 pour la qualité.
GPU 24 Go (RTX 3090, 4090) ou Mac M-Max 48 Go+
On touche aux 32B confortables, et aux 70B en Q4 avec un peu de patience.

Côté disque, prévoyez 10 Go par modèle 7B en Q4, 30 Go par modèle 32B. Avoir 50 à 100 Go libres dès le départ évite de devoir faire le ménage trop vite.

!
Le piège du "GPU détecté" mais inutilisé
Sur Windows et Linux, Ollama détecte le GPU automatiquement — sauf si vos drivers NVIDIA sont trop vieux ou si vous avez un GPU AMD sans ROCm correctement installé. Vérifiez avec ollama ps : si la colonne PROCESSOR indique 100% CPU alors que vous avez un GPU, l'accélération matérielle n'est pas active. Sur macOS Apple Silicon, l'accélération Metal est automatique et toujours active.

#Premier modèle conseillé

Quand on découvre Ollama, le réflexe est de tester le plus gros modèle possible "pour voir". C'est une erreur — vous saturez la VRAM, ça swap en RAM, c'est lent, et vous abandonnez. Commencez petit.

  1. 01
    Llama 3.1 8B — le défaut raisonnable
    ollama run llama3.1 télécharge la version Q4_K_M de Llama 3.1 8B (4.7 Go). Bonne qualité générale, support multilingue correct (français inclus), fenêtre de contexte 128k. C'est un excellent baromètre pour évaluer ce que votre machine peut faire.
  2. 02
    Mistral 7B — alternative française
    ollama run mistral pour le modèle de Mistral AI. Un peu plus rapide que Llama 3.1, légèrement moins capable sur les raisonnements complexes, mais d'origine européenne et avec un français très naturel.
  3. 03
    Qwen 2.5 7B — le polyvalent qui monte
    ollama run qwen2.5 pour le modèle d'Alibaba. Très bon en code et en raisonnement, plusieurs tailles disponibles (0.5b à 72b). Beaucoup l'adoptent comme défaut en 2026.
  4. 04
    Llama 3.2 3B — si votre machine est modeste
    ollama run llama3.2:3b pour un modèle qui tient sur 4 Go de RAM. Moins capable mais utilisable pour des tâches simples et pour apprendre la mécanique d'Ollama sans souffrir des temps de chargement.
→
Faites tourner ollama ps pendant un chat
Dans un autre terminal pendant que vous discutez, lancez ollama ps. Vous verrez le modèle chargé, la mémoire utilisée, et la répartition GPU/CPU. C'est le meilleur moyen de comprendre concrètement ce qui se passe.

#Astuces et pièges

Le modèle se décharge après 5 minutes d'inactivité
C'est la valeur par défaut de OLLAMA_KEEP_ALIVE. Si vous voulez le garder en VRAM plus longtemps, définissez OLLAMA_KEEP_ALIVE=2h (ou -1 pour ne jamais décharger). À l'inverse, mettez 0 si vous voulez libérer la VRAM dès la fin d'une requête.
Réponses tronquées au bout de quelques phrases
Le paramètre num_ctx (fenêtre de contexte) par défaut est 4096 tokens, peu importe ce que le modèle supporte. Pour un usage RAG ou des longs documents, créez un Modelfile avec PARAMETER num_ctx 32768 et faites ollama create. Attention, le coût en VRAM augmente vite.
Pas d'autocomplétion shell
Tapez ollama help pour voir toutes les commandes, ollama help <commande> pour les détails de chacune. La doc est dans la CLI.
Connexion refusée depuis une autre machine du réseau
Par défaut Ollama écoute uniquement sur 127.0.0.1. Pour l'exposer sur le LAN, définissez OLLAMA_HOST=0.0.0.0:11434 avant de démarrer le démon. Pensez au firewall.
Un même nom de modèle, plusieurs versions
ollama pull llama3.1:8b et ollama pull llama3.1:8b-instruct-q5_K_M téléchargent deux variantes séparées. Surveillez votre disque avec ollama list.
i
Une interface graphique en 5 minutes
La CLI suffit pour comprendre, mais pour un usage quotidien, branchez Open WebUI (interface web type ChatGPT) ou LM Studio en mode client par-dessus le démon Ollama. Ces outils détectent automatiquement le serveur sur localhost:11434 et exposent tous vos modèles dans une interface propre.

#Pour aller plus loin

Vous avez compris c'est quoi Ollama et son fonctionnement de base. Les directions naturelles ensuite :

L'installer pour de vrai sur votre OS
Le guide Installer Ollama sur Windows (ou macOS, ou Linux) reprend pas à pas l'installation, la vérification du GPU et le premier modèle dans un environnement propre.
Choisir la bonne quantization
Le guide Choisir sa quantification (Q4, Q5, Q8, FP16) compare visuellement les pertes de qualité réelles et vous aide à arbitrer qualité vs VRAM.
Brancher une vraie interface graphique
Le guide Open WebUI avec Ollama installe en 10 minutes une interface ChatGPT-like multi-utilisateurs avec RAG intégré, par-dessus le démon que vous avez maintenant.
Ce guide vous a aidé ?

Un retour, une erreur, une précision ? Faites-nous signe, ça améliore le guide pour tout le monde.