Remplacer ChatGPT par une IA locale : guide de migration (2026)

#Ce que vous gagnez, ce que vous perdez

En local, vos conversations et vos fichiers restent sur votre machine : rien ne transite par un service tiers, et l'assistant fonctionne sans connexion une fois le modèle téléchargé. Il n'y a ni abonnement ni plafond de messages : le coût est celui du matériel et de l'électricité. Vous choisissez aussi le modèle, ses réglages et ses instructions. En contrepartie, vous perdez l'accès automatique aux modèles de pointe les plus grands, qui ne tiennent pas sur un poste de particulier, et une partie de l'intégration clés en main : applications mobiles, voix fluide, agents connectés à vos comptes. Le comparatif chiffré des performances et des coûts se trouve dans notre guide « IA locale vs ChatGPT ».

#Choisir le modèle selon votre mémoire

La règle est de prendre le plus gros modèle qui tient confortablement en Q4 dans votre VRAM ou votre mémoire unifiée, contexte compris. Le catalogue QuelLLM donne, pour chaque modèle, l'empreinte en Q4 des poids seuls : les chiffres ci-dessous en sont tirés. Ajoutez le cache KV et une marge de 20 % ; le guide sur la fenêtre de contexte explique le calcul.

#Retrouver une interface de chat

Open WebUI

L'interface web la plus proche de ChatGPT : historique, prompts système, fichiers joints, recherche web, mémoire et modèles personnalisés. Elle se branche sur Ollama ou sur toute API compatible OpenAI.

LM Studio

Application de bureau qui télécharge les modèles et fournit un chat : la voie la plus rapide pour commencer sans terminal.

Jan

Application de bureau simple, orientée confidentialité, avec chat et gestion de modèles.

Msty

Interface soignée pour Mac, Windows et Linux, avec plusieurs modèles côte à côte.

Pour une première installation, LM Studio ou Jan suffisent. Choisissez Open WebUI si plusieurs personnes doivent l'utiliser, si vous voulez la mémoire, les modèles personnalisés ou l'import de votre historique.

#Importer votre historique ChatGPT

Open WebUI sait lire l'export de ChatGPT sans conversion préalable : la documentation précise que le format ChatGPT est détecté et converti automatiquement. Vos conversations s'ajoutent aux existantes, et chaque importation reçoit un nouvel identifiant : réimporter le même fichier crée des doublons. Faites donc l'import une seule fois, après avoir vérifié le fichier.

1. 01
   Demander l'export à ChatGPT

   Dans ChatGPT, ouvrez Paramètres, Contrôle des données (Data controls), puis Exporter les données (Export data) et Demander l'export. Un e-mail vous envoie un lien de téléchargement ; le libellé exact dépend de la langue de l'interface.
2. 02
   Extraire l'archive

   Décompressez le fichier reçu et repérez conversations.json, qui contient l'historique.
3. 03
   Sauvegarder Open WebUI

   Avant d'importer, exportez vos conversations Open WebUI existantes depuis Réglages, Contrôle des données, Exporter les discussions, pour pouvoir revenir en arrière.
4. 04
   Importer

   Dans Open WebUI : nom d'utilisateur en bas à gauche, Réglages, Contrôle des données, Importer des discussions, puis choisissez conversations.json. Le libellé varie selon la langue.
5. 05
   Contrôler

   Ouvrez quelques anciennes conversations : les messages doivent apparaître dans l'ordre. Le modèle affiché sur une conversation importée ne reflète pas nécessairement le modèle d'origine.

#Installer la pile : Ollama, Open WebUI, un modèle

La procédure suivante suppose Docker installé pour Open WebUI. Sans Docker, LM Studio ou Jan remplacent l'ensemble en une seule application.

1. 01
   Installer Ollama

   Suivez le guide d'installation de votre système. Ollama écoute par défaut sur http://localhost:11434.
2. 02
   Télécharger un modèle

   Choisissez d'après le tableau ci-dessus, par exemple ollama pull suivi du nom du modèle. Vérifiez sa taille avant de le télécharger.
3. 03
   Lancer Open WebUI

   La documentation officielle propose une commande Docker qui monte un volume pour conserver vos données et lui permet d'atteindre Ollama sur la machine hôte.
4. 04
   Régler le contexte

   Ollama utilise 4 000 tokens environ sous 24 Gio de VRAM, ce qui tronque les longs documents. Augmentez-le selon votre mémoire.

docker run -d -p 3000:8080 --add-host=host.docker.internal:host-gateway -v open-webui:/app/backend/data -e WEBUI_SECRET_KEY=your-secret-key --name open-webui --restart always ghcr.io/open-webui/open-webui:main

L'option de volume conserve vos conversations lors des mises à jour, et la clé secrète doit être fixée une fois : sans clé stable, chaque recréation du conteneur déconnecte les utilisateurs, précise la documentation. Remplacez your-secret-key par une valeur générée, par exemple avec openssl rand -hex 32. L'interface répond ensuite sur le port 3000 de votre machine.

#Retrouver vos usages un par un

Discuter, rédiger, traduire

Disponible dès qu'un modèle est chargé. La qualité dépend de la taille du modèle : un 9B suffit pour un courriel, un 27B ou plus pour un texte long et nuancé.

Analyser vos documents

Les bases de connaissances d'Open WebUI, AnythingLLM ou PrivateGPT récupèrent les passages utiles au lieu de tout envoyer au modèle. C'est la bonne méthode dès que vos documents dépassent la fenêtre.

Coder

Des extensions comme Cline ou Continue se branchent sur Ollama. Ollama recommande au moins 64 000 tokens de contexte pour les outils de codage.

Retrouver vos GPTs

Recréez chaque GPT comme un modèle personnalisé : instructions système, outils et connaissances regroupés. Copiez vos instructions depuis ChatGPT.

Rechercher sur le web

Activez la recherche web d'Open WebUI ou branchez SearXNG pour que le modèle cite des sources.

#Quand garder ChatGPT ou une API cloud en secours

Trois situations justifient de ne pas couper complètement : un raisonnement très long sur un problème difficile, une tâche exigeant un contexte de plusieurs centaines de milliers de tokens, ou un usage mobile avec voix continue. Une approche hybride fonctionne bien : le local pour tout ce qui est confidentiel ou répétitif, le cloud pour l'exception, sans jamais y coller de données sensibles. Open WebUI permet de brancher un fournisseur externe à côté d'Ollama et de comparer deux modèles côte à côte, ce qui aide à juger si le local suffit pour votre cas.

#Migrer sans risque : un essai en parallèle d'abord

Ne résiliez rien le premier jour. Le plus sûr est de faire tourner les deux outils côte à côte pendant une ou deux semaines, en posant la même question aux deux dès que le résultat compte. Notez les cas où l'assistant local déçoit : ils indiquent s'il faut un modèle plus gros, une fenêtre plus grande, un meilleur prompt ou, honnêtement, un usage à garder dans le cloud.

1. 01
   Jours 1 et 2 : installer et tester

   Installez la pile, chargez le modèle adapté à votre mémoire et rejouez cinq conversations typiques de votre historique ChatGPT.
2. 02
   Jours 3 à 7 : doubler ChatGPT

   Utilisez le local pour tout ce qui est courant ; recourez à ChatGPT seulement quand la réponse locale ne suffit pas, et notez pourquoi.
3. 03
   Semaine 2 : importer et recréer

   Importez votre historique une fois, recréez vos GPTs les plus utilisés comme modèles personnalisés, activez la recherche web si vous en avez besoin.
4. 04
   Fin de la période : décider

   Comptez les cas où vous avez dû retourner au cloud. Si c'est rare, l'abonnement peut être arrêté ; sinon, gardez-le ou passez à une API facturée à l'usage.

#Les déceptions classiques après la migration

Le contexte tronque vos documents

Ollama démarre à 4 000 tokens environ sur une carte de moins de 24 Gio : un long PDF collé dans le chat est coupé sans avertissement évident. Augmentez la fenêtre, dans la limite de votre mémoire.

Un modèle trop petit ou trop compressé

Un 3B ou un 7B en 2 bits donnera l'impression que le local est médiocre. Montez en taille avant de conclure, et évitez les quantifications sous 4 bits.

Un modèle de raisonnement lent

Certains modèles réfléchissent longuement avant de répondre : la réponse arrive après plusieurs dizaines de secondes. Choisissez un modèle sans raisonnement pour la conversation courante.

Des prompts écrits pour ChatGPT

Un modèle local suit moins bien les consignes vagues. Précisez le rôle, le format et la langue de réponse dans le prompt système.

#Ce qui quitte encore votre machine

Local ne veut pas dire hermétique. La recherche web d'Open WebUI envoie vos requêtes au moteur de recherche configuré ; un modèle dont l'étiquette Ollama se termine par cloud s'exécute sur les serveurs du fournisseur, comme kimi-k3:cloud dans la bibliothèque d'Ollama ; et connecter un fournisseur externe à côté d'Ollama, ce qu'Open WebUI permet, envoie vos messages à ce fournisseur. Pour une confidentialité réelle, désactivez ces options, ou réservez-les à un profil distinct, et vérifiez la liste des modèles installés avant de traiter des documents sensibles.

#Pour aller plus loin

• Installer Ollama en 5 minutes
• Open WebUI avec Ollama : guide complet
• IA locale vs ChatGPT : comparatif
• Comprendre la fenêtre de contexte
• RAG local avec Ollama sans coder
• SearXNG : la recherche web pour un modèle local

• Source : Open WebUI, import et export des conversations
• Source : Open WebUI, fonctionnalités
• Source : Open WebUI, démarrage rapide
• Source : Ollama, longueur de contexte