Trois modèles, une machine, des preuves
Pilote du 12 septembre 2026 sur RTX 5070 Ti Laptop : 12 227 MiB relevés, Ollama, contexte 4096, une requête à la fois. Aucune extrapolation à la version desktop, à une RTX 5090 ou à un Mac.
Les anciennes matrices multi-machines ont été retirées faute d’artefacts permettant leur vérification. Ce dossier publie les mesures de ce pilote, avec un échauffement puis cinq répétitions par modèle ; celles de la série AI TOP ATOM ont leur propre section, plus bas.
| Modèle | Quantification | Médiane tok/s | Min–max | Code FR | Documents FR |
|---|---|---|---|---|---|
| qwen3:8b | Q4_K_M | 59.71 | 59.45–59.96 | Réussi | Faits et format réussis |
| hermes3:8b | Q4_0 | 71.97 | 71.79–72.15 | Échec | Faits réussis, clés différentes |
| mistral-nemo:12b | Q4_0 | 47.44 | 47.37–47.56 | Réussi | Faits et format réussis |
Ce que ce test permet de dire
Hermes3 génère plus vite dans ce test, mais sa fonction ne supprime pas correctement les doublons et trie les valeurs. Qwen3 et Mistral Nemo réussissent cet exercice. Un débit ne démontre donc pas la qualité. Une tâche de code et une extraction synthétique ne suffisent pas à classer les modèles pour tous les usages ; la sortie Hermes3 atteint aussi la limite de 256 tokens.
Reproduire et examiner les données
- Protocole, paramètres et limites
- Réponses complètes et placements GPU — JSON brut
- Toutes les répétitions — CSV
- Résultats, identifiants et quantifications
- Matériel, versions et état initial
- Script reproductible
- Dossier complet, entrées et sorties incluses
Traitement du prompt et génération sont séparés dans les données brutes. Le cache du préfixe peut influencer le premier ; le débit affiché concerne seulement la génération. Ce n’est ni une mesure d’énergie ni la latence totale de l’application.
Série AI TOP ATOM (GIGABYTE), octobre 2026
Notre série sur l’AI TOP ATOM (puce NVIDIA GB10, 128 Go), fournie gracieusement par GIGABYTE, compte 7 guides publiés un par semaine depuis le 8 octobre 2026. Chaque guide publie ses données ici : chaque tableau tel qu’il paraît dans le guide, au format CSV (séparateur point-virgule, UTF-8, légende en première ligne), avec la méthode et les empreintes des modèles. Données, infographies et photos de la série : licence CC BY 4.0, réutilisation libre en citant quelllm.fr.
- Méthode de mesure et avenants datés
- Empreintes SHA-256 des 27 fichiers de modèles du guide 1, comparées à Hugging Face
- Guide 1 : quels LLM tournent vraiment sur 128 Go : tableau 1 · tableau 2 · tableau 3 · tableau 4 · tableau 5 · tableau 6
- Guide 2 : AI TOP ATOM et DGX Spark : tableau 1 · tableau 2 · tableau 3 · tableau 4 · tableau 5 · tableau 6
Trois natures de données
« Mesuré par QuelLLM » désigne une expérience liée à ses artefacts. « Mesure externe » doit identifier l’auteur et son protocole. « Estimation » désigne notamment les vitesses heuristiques et budgets mémoire du configurateur ; ces valeurs ne proviennent pas de ce nouveau test.
Méthodologie · Choisir selon ma machine · Installer une IA locale gratuitement