Votre première conversation locale

#Ce que vous saurez faire dans ce tutoriel

Vous allez demander un résumé, faire écrire un courriel, obtenir un petit script, tester une question hors du champ du modèle, puis corriger une réponse qui part dans la mauvaise direction. Ce sont les gestes qui rendent autonome. Le guide suppose qu'Ollama est déjà installé : sinon, commencez par le guide d'installation de votre système. Pour aller plus loin sur la façon de formuler une consigne, le guide sur les bases du prompting prend le relais.

#Choisir un modèle qui tient dans votre machine

Le modèle est un fichier de plusieurs gigaoctets : il doit tenir dans la mémoire vidéo de votre carte, ou dans la mémoire vive d'un Mac ou d'un PC sans carte dédiée. La page de Gemma 4 dans la bibliothèque d'Ollama liste les variantes et leurs tailles de téléchargement. Une variante trop grande pour votre machine fonctionnera, mais lentement, en débordant sur le processeur.

La colonne de droite est notre estimation prudente : ajoutez aux tailles ci-dessus la mémoire du contexte et une marge pour le système. En cas de doute, choisissez la plus petite variante : une réponse rapide d'un petit modèle enseigne plus qu'une réponse très lente d'un grand. Vous pourrez changer de modèle à tout moment.

#Votre première session, pas à pas

Comptez une quinzaine de minutes pour parcourir les huit étapes qui suivent. Elles vont du lancement à la vérification d'une réponse. Chaque étape est indépendante : vous pouvez vous arrêter après la deuxième et revenir plus tard, la seule chose que vous perdez en fermant la session est l'historique de la conversation, que le terminal ne conserve pas.

#1. Lancer le modèle

ollama run gemma4:e2b

La commande ollama run gemma4 figure dans la documentation d'Ollama comme exemple d'exécution d'un modèle. Au premier lancement, le modèle est téléchargé : la durée dépend de sa taille et de votre connexion. Ensuite, une invite apparaît et le modèle attend votre message. Rien ne se passe tant que vous n'écrivez pas.

#2. Parlez-lui en phrases complètes

Première erreur classique : écrire des mots-clés comme dans un moteur de recherche. Un modèle de langage ne cherche pas des documents, il continue un texte. Décrivez donc ce que vous voulez, avec le contexte et le résultat attendu.

# Trop vague
résumer réunion points importants

# Précis
Voici des notes de réunion. Résume-les en 5 puces : d'abord les décisions
prises, puis les actions à faire avec leur responsable.

Notes :
- Alice propose de migrer vers Postgres d'ici juin
- Bob rappelle qu'il faut finir l'audit sécurité avant
- Décision : on migre, mais l'audit passe avant (fin mai)
- Charles s'occupe de l'audit
- Alice s'occupe de la migration

Un schéma qui marche presque toujours : la tâche, les données à traiter, le format attendu. Quatre exercices pour vous entraîner : demander un résumé de notes personnelles, rédiger un courriel d'annulation en trois lignes, demander une fonction Python qui compte les mots d'un fichier, poser une question à laquelle le modèle ne peut pas répondre, comme le contenu d'un document que vous ne lui avez pas donné.

#3. Tester ce que le modèle ne sait pas

Le dernier exercice est le plus instructif. Un modèle ne consulte ni internet ni vos fichiers, sauf outil branché : il ne connaît que son entraînement et le texte de la conversation. Demandez-lui le contenu d'un document imaginaire ou un événement récent, et observez : un bon modèle répond qu'il ne sait pas, un modèle moins fiable invente une réponse plausible. Ce comportement s'appelle une hallucination. La règle qui en découle : plus l'information est précise, récente ou spécifique à vous, plus vous devez la fournir dans le prompt ou la vérifier. Notre guide sur les hallucinations détaille les contre-mesures.

#4. Corriger sans repartir de zéro

Le modèle répond à côté ? Ne tapez pas simplement « non, recommence » : il n'a rien compris de plus. Ajoutez une contrainte précise, qui dit ce qui ne va pas et ce que vous attendez.

Refais, mais en 3 puces maximum et sans jargon technique.
Chaque puce doit tenir sur une ligne.

Longueur

Nombre de puces, de lignes ou de mots.

Ton

Formel, familier, journalistique, pédagogique.

Forme

Liste, tableau, JSON, courriel, code.

Interdits formulés en positif

Préférez « commence directement par la réponse » à « ne dis pas voici ».

#5. Les commandes de session

Dans la session, les lignes qui commencent par une barre oblique ne sont pas envoyées au modèle : elles pilotent Ollama. La commande /? affiche la liste complète.

/set parameter num_ctx 8192

Fixe la taille du contexte pour la session : la FAQ d'Ollama cite cette commande pour changer la fenêtre.

/set system

Définit un message système, un rôle permanent pour la session.

/show info

Affiche les informations du modèle chargé : architecture, taille, longueur de contexte, quantification.

/clear

Efface le contexte de la conversation en cours sans décharger le modèle.

/bye

Ferme la session, ou Ctrl+D.

Une fois la session fermée, le modèle reste en mémoire cinq minutes par défaut, selon la FAQ d'Ollama, ce qui accélère un nouveau lancement. Pour le décharger immédiatement, exécutez ollama stop suivi du nom du modèle ; ollama ps liste ce qui est chargé et montre la part exécutée sur le GPU et sur le CPU.

#6. Tenir une conversation de plusieurs tours

Le modèle ne se souvient que de ce qui est dans la fenêtre de contexte : à chaque tour, l'application lui renvoie tout l'historique. Vous pouvez donc enchaîner des demandes qui s'appuient les unes sur les autres.

Je dois écrire un courriel pour annuler une réservation au restaurant.
Fais-le en 3 lignes, poli mais pas guindé.

[réponse du modèle]

Bien. Refais la même, mais plus chaleureuse, et précise que je
reprogrammerai dans 15 jours.

[réponse du modèle]

Parfait. Traduis-la en anglais.

La limite est la taille du contexte. Selon la documentation d'Ollama, la valeur par défaut est de 4 000 tokens environ sous 24 Gio de VRAM, 32k entre 24 et 48 Gio et 256k au-delà. Quand l'historique dépasse la fenêtre, les échanges les plus anciens sont perdus. Si le modèle « oublie » le début d'une longue session, augmentez la fenêtre avec la commande num_ctx, en gardant à l'esprit que chaque token de contexte consomme de la mémoire.

#7. Demander du code, et le vérifier

Le code est un bon terrain d'essai, parce que le résultat se teste. Donnez le langage, l'entrée, la sortie attendue et une contrainte : « Écris une fonction Python qui prend le chemin d'un fichier texte et renvoie le nombre de mots. Réponds avec le code seul, puis une phrase d'explication. » Copiez le code dans un fichier, exécutez-le sur un cas dont vous connaissez la réponse, et si une erreur apparaît, collez le message d'erreur complet dans la conversation avec la demande de corriger. Ce cycle demande, exécution, correction fonctionne mieux que de réclamer un code parfait du premier coup.

#8. Lire une réponse avec un œil critique

Une réponse fluide n'est pas une réponse exacte. Le modèle produit du texte plausible ; il ne vérifie pas. Prenez l'habitude de contrôler ce qui compte avant de l'utiliser.

Chiffres et dates

Recoupez-les avec une source : ce sont les éléments que les modèles inventent le plus facilement.

Noms, références et citations

Vérifiez qu'ils existent. Un modèle peut fabriquer un titre d'ouvrage ou un article de loi qui sonne juste.

Code

Exécutez-le avant de vous y fier, et relisez ce qu'il fait sur vos fichiers.

Cohérence

Posez la même question de deux façons : si les réponses divergent, méfiez-vous des deux.

Une bonne habitude consiste à fournir vous-même le texte de référence et à demander au modèle de citer le passage qui justifie chaque affirmation. Ainsi, vous vérifiez en quelques secondes, au lieu de tout rechercher.

#Rester dans le terminal ou passer à une interface ?

Commencez par le terminal pour comprendre le principe, puis passez à une interface dès que vous collez de longs textes ou que vous voulez retrouver vos conversations. Les deux se combinent : le modèle téléchargé une fois avec Ollama sert aussi aux interfaces, sans second téléchargement, tant qu'elles utilisent le même serveur local.

#Quand quelque chose cloche

Pour un réglage plus fin de la créativité, la documentation du Modelfile d'Ollama résume l'effet de la température : plus elle est haute, plus le modèle est créatif, plus elle est basse, plus il est cohérent. Le guide sur la température et le top-p détaille les valeurs à essayer.

#Et après cette première conversation ?

Un rôle permanent

Le guide sur les system prompts montre comment donner des règles stables au modèle.

Une interface plus confortable

Open WebUI ou LM Studio ajoutent l'historique, les fichiers joints et une mise en page lisible.

Vos propres documents

Le RAG permet d'interroger vos fichiers sans les coller à chaque fois.

#Pour aller plus loin

• Installer Ollama en 5 minutes
• Les bases du prompting
• Maîtriser les system prompts
• Comprendre la fenêtre de contexte
• Hallucinations : comment les limiter
• Open WebUI avec Ollama : guide complet

• Source : FAQ Ollama
• Source : Ollama, longueur de contexte
• Source : bibliothèque Ollama, Gemma 4
• Source : Ollama, référence du Modelfile