Quel LLM sur RTX 5080 (16 Go) ?

#RTX 5080 pour un LLM local : ce que permettent 16 Go

Pour un LLM local, une RTX 5080 vaut par ses 16 Go de GDDR7 et ses 960 Go/s de bande passante : elle génère vite, mais sa capacité limite les modèles. Selon la bibliothèque Ollama, Qwen3 14B (9,3 Go) et gpt-oss 20B (14 Go) tiennent entièrement en VRAM, alors que Qwen 3.5 27B (17 Go) et Qwen3 30B (19 Go) dépassent la carte. Hardware Corner mesure 64 tokens par seconde sur Qwen3 14B avec 16 000 tokens de contexte, et 105,6 sur gpt-oss 20B avec 128 000 tokens. Elle convient donc très bien aux modèles de 8 à 20 milliards de paramètres, pas à un 27B dense.

Mémoire

16 Go de GDDR7 sur un bus de 256 bits, selon NVIDIA ; 960 Go/s de bande passante à 30 Gbit/s, selon Hardware Corner.

Calcul

10 752 cœurs CUDA et des Tensor Cores de 5e génération, selon NVIDIA.

Consommation

360 W de puissance graphique, 850 W d'alimentation système requise et 88 °C de température maximale, selon NVIDIA.

#Les modèles qui tiennent dans 16 Go

Les poids sont ceux des fichiers de la bibliothèque Ollama, consultés le 29 septembre 2026. La marge est ce qui reste sur 16 Go avant le contexte, le cache et les tampons du moteur.

Le modèle de 14 milliards en Q4 est le plus gros modèle dense confortable : il laisse près de 7 Go pour le contexte. Les modèles de 24 milliards ne laissent qu'un Go et débordent dès que le contexte grandit : la carte convient à un 24B tant que la conversation reste courte, pas pour un agent. Le cas de gpt-oss 20B est à part : selon Ollama, les poids des experts sont quantifiés en MXFP4 sur 4,25 bits par paramètre, ce qui lui permet de tourner sur 16 Go de mémoire, et Hardware Corner le mesure jusqu'à 128k de contexte sur cette carte.

Un RAG local ajoute un modèle d'embeddings : bge-m3 pèse 1,2 Go dans Ollama, soit 7,8 Go au total avec Qwen 3.5 9B et 8,8 Go avec Gemma 4 12B. Il reste plus de 7 Go pour le contexte et la base de fragments injectés. Un agent de code, lui, exige un contexte d'au moins 64 000 tokens selon la documentation d'Ollama : sur 16 Go, il impose de descendre à un modèle de 8 à 14 milliards et de quantifier le cache, plutôt que de viser un 24B.

• Quel LLM pour 16 Go de VRAM : la liste complète, toutes cartes confondues

#Débits mesurés : vitesse et plafond de la bande passante

Les chiffres viennent de Hardware Corner, qui teste sur llama.cpp avec des contextes de 4k à 128k. Ce ne sont pas des mesures de QuelLLM.

La génération est bornée par la bande passante : le plafond théorique vaut environ la bande passante divisée par le poids du modèle. Pour Qwen3 14B (9,3 Go), 960 ÷ 9,3 donne 103 tokens par seconde et la mesure à 4k, 80,6, en atteint 78 %. gpt-oss 20B dépasse son plafond apparent (960 ÷ 14 = 69) avec 172 tokens par seconde, parce qu'un modèle à experts ne lit à chaque token qu'une partie de ses poids : le plafond se calcule sur les poids actifs, pas sur le fichier entier.

Le contexte pèse sur la vitesse. Qwen3 14B passe de 80,6 à 51,9 tokens par seconde entre 4k et 32k (-36 %), tandis que gpt-oss 20B ne perd que 13 % entre les mêmes bornes (172,4 à 149,3). Si vous travaillez sur de longs documents, le choix du modèle compte plus que la carte.

#Contexte et cache KV : le vrai plafond des 16 Go

Ollama règle le contexte par défaut selon la mémoire vidéo : sa documentation indique 4k tokens sous 24 Gio de VRAM, et recommande au moins 64 000 tokens pour les agents, la recherche web et les outils de code. Une RTX 5080 reçoit donc 4k par défaut : un agent lancé avec les réglages par défaut perd son historique vite. Monter le contexte coûte de la VRAM sous forme de cache KV, et il faut le payer sur la marge du tableau ci-dessus.

Le levier principal est la quantification du cache : selon la FAQ d'Ollama, q8_0 utilise environ la moitié de la mémoire du f16, avec une perte de précision très faible, et suppose Flash Attention, qu'Ollama active automatiquement quand la carte et le modèle la gèrent. Sur 16 Go, l'ordre de priorité est simple : choisir un modèle qui laisse au moins 5 à 6 Go de marge, puis quantifier le cache, puis relever le contexte par paliers en contrôlant ollama ps.

• Quantifier le cache KV pour gagner de la VRAM en contexte long

#Installer Ollama sur une RTX 5080

1. 01
   Vérifier le pilote

   Lancez nvidia-smi dans un terminal : le pilote doit être en version 550 ou plus (551.61 sous Windows) et la mémoire totale afficher environ 16 Go.
2. 02
   Installer Ollama

   Installez Ollama depuis son site officiel. L'API locale écoute sur http://localhost:11434.
3. 03
   Lancer un modèle

   Exécutez ollama run qwen3:14b : le téléchargement de 9,3 Go se fait une fois. Pour un modèle plus rapide, essayez ollama run gpt-oss:20b (14 Go).
4. 04
   Contrôler la répartition

   Dans un second terminal, exécutez ollama ps : la colonne Processeur doit afficher 100 % GPU. Une répartition CPU/GPU signifie que le modèle ou le contexte déborde.
5. 05
   Ajuster le contexte

   Fixez le contexte avec OLLAMA_CONTEXT_LENGTH, puis relancez ollama ps. Si la marge manque, définissez OLLAMA_FLASH_ATTENTION à 1 et OLLAMA_KV_CACHE_TYPE à q8_0 au démarrage.

ollama run qwen3:14b
ollama run gpt-oss:20b
ollama ps

# Exemple de la documentation Ollama : contexte de 64 000 tokens
OLLAMA_CONTEXT_LENGTH=64000 ollama serve

• Installer Ollama sur Windows 11 : guide complet

#Blackwell : MXFP4, NVFP4 et limite de puissance

La 5080 accélère matériellement les formats 4 bits flottants : Hardware Corner indique qu'elle gère MXFP4 et NVFP4, et le gain se voit sur gpt-oss 20B, dont les poids sont livrés en MXFP4. NVIDIA décrit NVFP4 comme un format à virgule flottante sur 4 bits introduit avec Blackwell. La prise en charge de NVFP4 par les outils (llama.cpp, Ollama, vLLM) évolue vite : vérifiez la version installée et la fiche du modèle, et gardez Q4_K_M comme valeur sûre.

Flash Attention 3 est réservé à Hopper (H100) d'après le dépôt officiel de Flash Attention : sur une 5080, c'est la version 2 ou l'implémentation d'Ollama et de llama.cpp qui s'applique, et Ollama l'active automatiquement quand elle est disponible. Pour réduire la consommation, nvidia-smi -pl fixe une limite de puissance en watts ; le LLM sollicitant surtout la mémoire, la perte de vitesse est modeste, mais mesurez-la sur votre modèle.

sudo nvidia-smi -pl 300

#5080, 5070 Ti, 4080 Super, 3090 : l'écart mesuré

Ce tableau raconte trois choses. La 5070 Ti, à 16 Go elle aussi, atteint 91 % de la vitesse de la 5080 : sur le débit pur, l'écart est étroit. La 3090, à 81 %, va presque aussi vite avec 24 Go, ce qui change le catalogue de modèles accessibles (Qwen 3.5 27B tient dessus, pas sur la 5080). Enfin la 4090 est 23 % plus rapide et offre aussi 24 Go. Pour un usage LLM pur, la question est donc moins la vitesse que la capacité.

• Quel LLM sur RTX 5090 : 32 Go pour les 27B à 35B avec contexte long

#Verdict : quand la 5080 vaut le choix

La 5080 est une bonne carte de 16 Go dont le défaut, pour les LLM, est de ne pas avoir plus de mémoire que ses voisines moins chères. Avant d'acheter, posez-vous une seule question : quel est le plus gros modèle dense que vous voulez lancer ? Jusqu'à 14 milliards, 16 Go suffisent et la vitesse de la 5080 se ressent ; au-delà, la capacité prime sur la vitesse, et une carte de 24 Go d'occasion offre davantage de modèles pour une vitesse voisine. Pour les prix du jour, consultez notre suivi, qui relève le prix le plus bas de chaque carte deux fois par semaine.

• Prix des cartes graphiques pour l'IA locale (mis à jour deux fois par semaine)

• Source : NVIDIA, spécifications de la RTX 5080
• Source : Hardware Corner, benchmarks LLM sur RTX 5080
• Source : Ollama, page du modèle gpt-oss
• Source : documentation d'Ollama, longueur de contexte
• Source : dépôt officiel de Flash Attention

#Questions fréquentes