Les meilleurs modèles d'embeddings FR

#Ce qu'est un modèle d'embedding, et pourquoi le français le complique

Un modèle d'embedding est un réseau de neurones qui convertit un texte (une phrase, un paragraphe, un chunk) en un vecteur de nombres, de 384 à 4 096 dimensions selon les modèles. Deux textes de sens proche donnent des vecteurs proches, que l'on mesure le plus souvent par la similarité cosinus. C'est ce qui permet à un RAG de retrouver un passage sur le « contrat à durée déterminée » quand l'utilisateur écrit « CDD », sans aucun mot en commun. Le même modèle doit encoder les questions et les documents, comme le rappelle la documentation d'Ollama ; changer de modèle oblige donc à réindexer tout le corpus. Pour choisir, trois questions suffisent : le modèle a-t-il été entraîné sur le français, son contexte couvre-t-il vos chunks, sa licence autorise-t-elle votre usage ?

Le français ajoute ses propres difficultés : accents, élisions (« l'employeur »), sigles juridiques, anglicismes techniques mêlés au texte. L'écart entre modèles est net. Dans le benchmark MTEB-French, le score de retrieval va de 0,43 pour all-MiniLM-L12-v2 à 0,65 pour BGE-M3, soit 22 points d'écart sur le même jeu de questions.

#Les cinq critères qui départagent vraiment les modèles

Langues d'entraînement

BGE-M3 et Qwen3-Embedding annoncent plus de 100 langues, multilingual-e5-large 94. Les fiches de nomic-embed-text-v1.5 et de mxbai-embed-large-v1, très téléchargés dans Ollama, sont étiquetées English.

Contexte maximal

512 tokens pour multilingual-e5-large, Solon et mxbai-embed-large ; 2 048 pour EmbeddingGemma ; 8 192 pour BGE-M3 ; 32 000 pour Qwen3-Embedding et Granite R2. Un chunk plus long est tronqué, pas refusé.

Dimensions et stockage

De 384 à 4 096 dimensions, soit 4 octets par dimension et par vecteur en float32 (calcul plus bas).

Licence

MIT pour BGE-M3, multilingual-e5-large et Solon ; Apache 2.0 pour Qwen3-Embedding, Granite R2, nomic et mxbai ; conditions Gemma pour EmbeddingGemma ; CC BY-NC 4.0 (non commercial) pour jina-clip-v2.

Préfixes et instructions

Certains modèles exigent un préfixe devant chaque texte (« query: » et « passage: » pour E5, même en français). L'oublier dégrade le retrieval sans erreur.

#Le classement 2026 pour le français : neuf modèles comparés

Ce classement est éditorial, pas un test maison : il croise couverture du français, benchmarks publiés et disponibilité en local. Les poids viennent de la bibliothèque Ollama quand le modèle y figure, sinon du float32 estimé par l'étude MTEB-French.

BGE-M3 reste le meilleur défaut : son retrieval français est publié, son contexte de 8 192 tokens évite la plupart des découpages forcés, et il fournit aussi les poids lexicaux utiles à une recherche hybride. Qwen3-Embedding est le candidat quand une carte graphique est disponible : sa version 8B était en tête du classement multilingue MTEB à sa sortie, le 5 juin 2025, selon Qwen, mais ses 4 096 dimensions pèsent sur le stockage. EmbeddingGemma vise les machines modestes.

Solon, souvent présenté comme le spécialiste du français juridique et administratif, ne l'emporte sur aucun des trois jeux de retrieval de l'étude MTEB-French : il égale BGE-M3 sur la convention collective Syntec et reste derrière sur les articles de loi (BSARD) et les questions scolaires (Alloprof).

#Ce que disent les benchmarks français, et ce qu'ils ne disent pas

La référence publiée est MTEB-French (Ciancone et al., mai 2024) : 18 jeux de données, 8 catégories de tâches, 51 modèles comparés. Les auteurs concluent que les grands modèles multilingues pré-entraînés sur la similarité de phrases se comportent exceptionnellement bien. Voici le retrieval (NDCG@10) sur trois jeux : articles de loi en français (BSARD), convention collective Syntec, questions scolaires d'Alloprof.

Trois limites empêchent d'en faire un classement définitif. L'étude date de 2024 : elle ne contient ni Qwen3-Embedding (juin 2025), ni EmbeddingGemma (septembre 2025), ni Granite R2, et aucune mesure française comparable de ces modèles n'a été consultée pour cette page. Les corpus (articles de loi, convention collective, questions scolaires) ne ressemblent pas forcément aux vôtres. Enfin, les scores multilingues publiés par les éditeurs sont auto-déclarés et mêlent toutes les langues.

#Quel modèle pour quel cas : tableau de décision

#Embedding d'entreprise sur mesure : modèle ouvert, fine-tuning ou API

« Sur mesure » ne veut pas dire entraîner son propre modèle dès le départ. L'ordre qui évite de gaspiller du temps : un modèle ouvert générique, un chunking soigné, une recherche hybride et un reranker ; puis une mesure du recall sur vos vraies questions ; puis, seulement si les échecs persistent et tiennent au vocabulaire métier (références internes, sigles maison), un fine-tuning.

Philipp Schmid a affiné en juin 2024 le modèle bge-base-en-v1.5 sur 6 300 paires question-passage tirées de documents financiers : le score de retrieval a gagné environ 7,4 % sur son jeu de test, avec un entraînement de trois minutes sur une carte graphique grand public. C'est un cas anglais, sur un seul corpus, avec des paires générées par un LLM : un ordre de grandeur, pas une promesse. BAAI documente aussi l'affinage de BGE-M3.

#Embedding multimodal : chercher dans des images et des pages de documents

Un modèle d'embedding multimodal place texte et images dans le même espace vectoriel. On peut alors retrouver une photo à partir d'une phrase, ou une page de PDF scannée sans passer par l'OCR. Les modèles de la bibliothèque Ollama consultés pour cette page (BGE-M3, Qwen3-Embedding, EmbeddingGemma, nomic-embed-text, mxbai-embed-large) acceptent uniquement du texte : les modèles multimodaux ci-dessous s'utilisent via Hugging Face (Sentence-Transformers ou Transformers).

Un modèle multimodal n'est pas meilleur sur du texte pur. Dans les tableaux publiés par Qwen, Qwen3-VL-Embedding-2B obtient 63,87 sur MTEB multilingue, contre 64,33 pour Qwen3-Embedding-0.6B, un modèle texte plus de trois fois plus petit. Pour des PDF dont le contenu utile est du texte, convertissez-les en texte propre (Docling ou un OCR) et gardez un embedding texte. Réservez le multimodal aux corpus visuels : schémas, plans, captures, diapositives.

#Gérer ses embeddings : préfixes, troncature, stockage et réindexation

Un RAG se dégrade souvent dans ces détails plus que dans le choix du modèle. Premier détail : chaque famille de modèles attend un format d'entrée différent pour les questions et pour les documents.

Avec Ollama, l'exemple officiel de mxbai-embed-large place le préfixe directement dans le texte envoyé : ajoutez-le vous-même dans votre code. Qwen indique que les instructions apportent en général 1 à 5 % de mieux, et recommande de les rédiger en anglais même pour un corpus multilingue.

#Le piège d'Ollama : la troncature silencieuse

Le point d'accès /api/embed d'Ollama a un paramètre truncate dont la valeur par défaut est true : une entrée qui dépasse la fenêtre de contexte du modèle est coupée sans erreur. Avec mxbai-embed-large (512 tokens dans Ollama), un chunk de 700 tokens est indexé sans sa fin, et personne ne le voit. Le contexte d'Ollama peut aussi différer de la fiche d'origine : 2K pour nomic-embed-text, contre 8 192 annoncés par Nomic. Passez truncate à false pendant les tests : une erreur vaut mieux qu'un texte tronqué.

#Dimensions, stockage et limites d'index

Le stockage se calcule simplement : nombre de chunks × dimensions × 4 octets en float32, hors index. Pour un million de chunks, les vecteurs seuls occupent :

Les bases imposent aussi des plafonds. Avec pgvector, un index porte sur des vecteurs de 2 000 dimensions au maximum, ou 4 000 en demi-précision (halfvec) : les 4 096 dimensions de Qwen3-Embedding-8B dépassent même cette limite. La parade est de tronquer les vecteurs, ce que permettent les modèles entraînés en Matryoshka (Qwen3-Embedding, EmbeddingGemma, nomic v1.5), puis de les renormaliser, comme le précise Google pour EmbeddingGemma. L'API /api/embed d'Ollama accepte un paramètre dimensions, à réserver à ces modèles.

#Versionner et réindexer

Métadonnées à conserver

Nom exact du modèle, révision, dimension, gabarit de préfixe, paramètres de chunking, date d'indexation. Sans elles, personne ne sait pourquoi le retrieval a changé.

Changement de modèle

Réencodez tout le corpus dans une nouvelle collection, évaluez-la, puis basculez. Ne mélangez jamais deux modèles dans la même collection.

Normalisation

Ollama renvoie des vecteurs normalisés en L2 : utilisez la même métrique (cosinus ou produit scalaire) partout.

#Utiliser un modèle en pratique et le tester sur vos documents

ollama pull bge-m3

curl http://localhost:11434/api/embed -d '{
  "model": "bge-m3",
  "input": "Le contrat débute le 1er mai."
}'

import numpy as np
import ollama

textes = [
    "Le contrat débute le 1er mai.",
    "Date de début : 01/05.",
    "La voiture est rouge.",
]
vecteurs = np.array(ollama.embed(model="bge-m3", input=textes)["embeddings"])

# Les vecteurs d'Ollama sont normalisés : le produit scalaire vaut le cosinus
print(vecteurs[0] @ vecteurs[1])
print(vecteurs[0] @ vecteurs[2])

Ne retenez que l'ordre des deux scores : le premier doit dépasser nettement le second. Pour comparer sérieusement deux ou trois candidats, la procédure suivante remplace tous les classements publiés.

1. 01
   Constituer un jeu de test réel

   Rassemblez 50 à 100 questions posées par de vrais utilisateurs (support, tickets, questions fréquentes) et notez pour chacune le chunk qui contient la réponse. Des questions inventées par un LLM flattent les résultats.
2. 02
   Encoder avec chaque modèle candidat

   Encodez les chunks puis les questions en respectant le tableau des préfixes, la même longueur de chunk et la même dimension de stockage pour tous les candidats.
3. 03
   Mesurer le recall@5

   Pour chaque question, vérifiez si le bon chunk figure parmi les cinq premiers résultats. Le script ci-dessous fait ce calcul.
4. 04
   Trancher avec un critère de coût

   Gardez le modèle le moins lourd dont le recall@5 reste à un ou deux points du meilleur : un modèle huit fois plus gros se paie en stockage et en temps à chaque réindexation.

import numpy as np
from sentence_transformers import SentenceTransformer

modele = SentenceTransformer("BAAI/bge-m3")

chunks = [...]      # vos chunks (liste de textes)
questions = [...]   # 50 à 100 vraies questions
cible = [...]       # pour chaque question, l'index du bon chunk

C = modele.encode(chunks, normalize_embeddings=True)
Q = modele.encode(questions, normalize_embeddings=True)

top5 = np.argsort(-(Q @ C.T), axis=1)[:, :5]
recall5 = np.mean([cible[i] in top5[i] for i in range(len(questions))])
print(f"recall@5 = {recall5:.0%}")

• Sentence Transformers : les embeddings en local
• Stratégies de chunking : la taille des chunks face au contexte du modèle
• Recherche hybride BM25 + vectoriel
• Ajouter un reranker avant de fine-tuner
• pgvector : limites de dimensions et index
• Ragas : évaluer son RAG avec des chiffres

• Source : fiche officielle de BGE-M3 (BAAI)
• Source : MTEB-French, étude de Ciancone et al. (2024)
• Source : documentation des embeddings d'Ollama
• Source : fiche de Qwen3-Embedding
• Source : fiche d'EmbeddingGemma (Google)