Quel LLM sur RTX 2080 / 2080 Super (8 Go) ?

#RTX 2080 et 2080 Super : ce qu'elles font tourner

Sur une RTX 2080 ou une 2080 Super, un modèle de 7 à 9 milliards de paramètres en Q4 tient entièrement en mémoire vidéo et s'exécute vite. Selon le catalogue QuelLLM, Granite 4.2 8B demande 4,6 Go en Q4 et Qwen 3.5 9B 6 Go, ce qui laisse de la marge pour un contexte de quelques milliers de tokens. Gemma 4 12B (7 Go en Q4) touche le plafond des 8 Go et déborde dès que la conversation s'allonge. Aucune de ces deux cartes ne figure au tableau public de performances de llama.cpp ; on peut néanmoins les situer, car elles partagent le même bus de 256 bits que la 2070 Super, mesurée à 88 tokens par seconde sur un modèle de 7 milliards en Q4_0. La 2080 Super, dont la mémoire est plus rapide, devrait faire légèrement mieux. En résumé : rapide, mais limitée par ses 8 Go.

RTX 2080

Septembre 2018, 2 944 cœurs CUDA, 8 Go de GDDR6, bus 256 bits, soit 448 Go/s à 14 Gbit/s.

RTX 2080 Super

Juillet 2019, 3 072 cœurs CUDA, 8 Go de GDDR6 à 15,5 Gbit/s, soit 496 Go/s, environ 11 % de plus que la 2080.

Pour un LLM

La génération dépend surtout de la bande passante : la Super gagne un peu, la capacité ne change pas.

#Modèles compatibles : ce qui tient dans 8 Go

Le raisonnement est le même pour tous les modèles : poids, plus cache de contexte, plus une marge d'environ un gigaoctet pour le pilote et l'écran. Si votre écran est branché sur cette carte, une partie de la mémoire lui est déjà réservée. Sur 8 Go, viser des poids de 6 Go au maximum est une règle sûre. Pour un contexte plus long, la quantification du cache K/V est l'outil qui rapporte le plus.

#Vérifier qu'un modèle tient vraiment dans la carte

Beaucoup de pertes de vitesse viennent d'un modèle qui ne tient pas entièrement en VRAM : Ollama en répartit alors une partie sur le processeur, et le débit chute sans message d'erreur. La documentation d'Ollama donne le moyen de le voir : la commande ollama ps affiche, dans la colonne Processor, la mémoire où le modèle a été chargé. La mention 100% GPU signifie que le modèle est entièrement dans la carte, tandis qu'un ratio comme 48%/52% CPU/GPU indique un chargement réparti entre la RAM et la VRAM.

1. 01
   Charger le modèle

   Lancez le modèle avec ollama run suivi de son nom, puis envoyez un premier prompt.
2. 02
   Lire la répartition

   Dans un autre terminal, tapez ollama ps. Notez la colonne Processor et la taille annoncée.
3. 03
   Corriger si nécessaire

   Si le modèle n'est pas à 100 % sur le GPU, réduisez le contexte, choisissez une quantification plus légère ou passez à un modèle plus petit. Quantifier le cache K/V aide aussi ; la documentation précise que cela demande Flash Attention.

ollama ps

• Quantifier le KV cache : gagner de la VRAM (long contexte)
• Dépanner Ollama : GPU non détecté, lenteurs, erreurs mémoire

#Vitesse : ce qui est mesuré, ce qui est estimé

Le tableau collaboratif de llama.cpp (Llama 2 7B en Q4_0, fichier de 3,56 GiB) contient la 2070 Super, la 2080 Ti, la 3060 12 Go et la 4060 Ti de 8 Go, mais ni la 2080 ni la 2080 Super. Le tableau précise que les résultats varient selon le pilote, le système et la carte, même à puce identique. Voici ce qui est mesuré, puis ce qu'il est raisonnable d'en déduire.

L'estimation de la ligne 2080 suit une règle simple : à 448 Go/s la 2080 doit produire un débit très proche de la 2070 Super, et à 496 Go/s la 2080 Super peut gagner jusqu'à 10 % en plus, soit un ordre de grandeur de 95 tokens par seconde. C'est une projection, pas une mesure : ne la citez pas comme un résultat.

Le tableau apporte une leçon utile pour qui hésite à remplacer sa carte : la RTX 4060 Ti de 8 Go, pourtant plus récente, génère moins vite (63,9 tokens par seconde) que la 2070 Super, parce que son bus de 128 bits limite la bande passante. En génération de texte, une génération de GPU plus récente n'est pas synonyme de vitesse supérieure. Ce qu'elle apporte, c'est surtout l'efficacité énergétique et les fonctions récentes, pas la capacité de mémoire.

#2080 Super ou RTX 3060 12 Go : la capacité l'emporte

La 3060 12 Go génère moins vite que la 2070 Super (75,6 contre 88,1 tokens par seconde sur le test), mais elle offre 4 Go de plus. C'est ce qui compte pour l'IA locale : sur 12 Go, Gemma 4 12B (7 Go en Q4) tient avec de la marge de contexte, ce que refusent les cartes de 8 Go. Une 2080 Super ne rattrape pas ce handicap par sa vitesse, puisque le gain de vitesse vers 95 tokens par seconde ne change rien au fait qu'un 12B ne tienne pas.

La conclusion dépend donc de votre cible. Pour un assistant de 8 ou 9 milliards de paramètres, votre 2080 suffit et le passage à une 3060 12 Go n'apporte rien en vitesse. Pour viser un 12B ou de longs contextes, le changement se justifie. Les prix d'occasion changent chaque semaine : consultez le suivi plutôt que de vous fier à un chiffre figé.

• Prix des cartes graphiques pour l'IA locale (suivi hebdomadaire)
• Quel LLM sur RTX 3060 12 Go ?
• Quel LLM sur RTX 2080 Ti (11 Go) ?

#Contexte long sur 8 Go : le cache K/V décide

Sur une carte de 8 Go, ce n'est pas le modèle qui pose problème, c'est le cache de contexte. Chaque token de la conversation ajoute des données en mémoire, et un 8B en Q4 qui tenait à vide peut déborder quand vous collez un long document. Deux leviers existent dans Ollama. Flash Attention, que le logiciel active automatiquement quand la carte le permet, réduit la mémoire nécessaire quand le contexte grandit. Une fois activée, elle autorise la quantification du cache K/V, dont le format q8_0 utilise environ la moitié de la mémoire du format par défaut, selon la documentation. Le format q4_0 en économise davantage mais dégrade la précision de façon plus visible aux grands contextes.

OLLAMA_FLASH_ATTENTION=1 OLLAMA_KV_CACHE_TYPE=q8_0 ollama serve

Ce réglage est global : il s'applique à tous les modèles servis par l'instance, ce qui est pratique sur une machine dédiée mais à garder en tête si vous en changez souvent. La bonne pratique est de mesurer avant de régler : chargez votre modèle, remplissez un contexte représentatif de votre usage, puis contrôlez avec ollama ps que le modèle reste à 100 % sur le GPU. Si c'est le cas, vous avez de la marge ; sinon, quantifiez le cache ou réduisez le contexte.

#Quand 8 Go ne suffisent plus : les paliers suivants

La lecture de ce tableau est simple : chaque saut de mémoire ouvre une catégorie de modèles, alors que la vitesse pure ne change presque rien à l'expérience au-delà de 30 ou 40 tokens par seconde. Si vous hésitez à investir, demandez-vous d'abord quel modèle vous voulez faire tourner, puis prenez la carte qui a la mémoire correspondante. Un modèle de 27 milliards sur 16 Go est déjà à la limite ; si c'est votre cible, regardez plutôt vers 24 Go.

• Quel LLM pour 12 Go de VRAM ?
• Quel LLM pour 16 Go de VRAM ?

#Pilotes et support en 2026

La RTX 2080 et la 2080 Ti font partie des cartes à capacité de calcul 7.5 listées par Ollama, qui exige un pilote 550 ou plus récent. Cela couvre les versions d'Ollama actuelles ; si l'installation échoue, le premier réflexe est de vérifier la version du pilote avec nvidia-smi. Il n'y a donc aucune raison de craindre un blocage logiciel pour installer Ollama ou llama.cpp sur ces cartes. Le seul point de vigilance est la version de pilote : mettez-le à jour avant de chercher une panne ailleurs.

#Verdict 2026

Gardez-la si

Elle est déjà dans votre PC et vous visez des modèles de 7 à 9 milliards en Q4. Vitesse largement suffisante, coût nul.

N'achetez pas pour l'IA

Sauf prix bas et garantie claire. À prix proche, une carte de 12 Go apporte davantage que quelques tokens par seconde en plus.

Passez à autre chose si

Vous voulez un 12B, un 14B ou plus, ou un contexte de plus de dix mille tokens sur un 8B. Il faut alors 12 à 16 Go.

#Questions fréquentes

• Source : tableau de performances llama.cpp sur CUDA
• Source : cartes NVIDIA prises en charge par Ollama
• Source : FAQ Ollama (ollama ps, cache K/V)
• Source : caractéristiques des GeForce série 20