Quel LLM sur RTX 3080 / 3080 Ti (10-12 Go) ?

#RTX 3080 et 3080 Ti pour un LLM local : les trois variantes

Une RTX 3080 ou une 3080 Ti à 12 Go fait tourner confortablement un modèle de 12 milliards de paramètres en Q4 ou un modèle de 9 milliards en Q8 ; la version à 10 Go se limite aux modèles de 7 à 9 milliards en Q4. Selon le catalogue QuelLLM, Gemma 4 12B pèse 7 Go en Q4 et 9 Go en Q5 ; Qwen 3.5 9B pèse 6 Go en Q4 et 10 Go en Q8, ce qui demande au moins 12 Go dès qu'on ajoute du contexte. Côté vitesse, ces cartes comptent parmi les plus rapides des générations précédentes : la 3080 10 Go génère 139,7 tokens par seconde sur un modèle de 7 milliards en Q4_0 selon le tableau public de llama.cpp, soit près du double de la RTX 3060 12 Go (75,6). Le choix d'une RTX 3080 pour un LLM se joue donc sur la mémoire, jamais sur la vitesse.

RTX 3080 10 Go

Septembre 2020, 8 704 cœurs CUDA, 10 Go de GDDR6X sur bus de 320 bits, soit 760 Go/s. Puissance de carte de 320 W.

RTX 3080 12 Go

Janvier 2022, 8 960 cœurs, 12 Go de GDDR6X sur bus de 384 bits, soit 912 Go/s, 350 W. Environ 20 % de bande passante en plus.

RTX 3080 Ti

Juin 2021, 10 240 cœurs, 12 Go de GDDR6X sur bus de 384 bits comme la 3080 12 Go, donc une bande passante attendue identique, 350 W.

Le calcul du plafond aide à comprendre : la génération de texte lit les poids à chaque token, donc la bande passante fixe la vitesse maximale. Les 3080 12 Go et Ti gagnent 20 % de bande passante sur la 10 Go, mais la 3080 Ti ajoute surtout des cœurs de calcul, qui accélèrent la lecture du prompt plus que la génération.

#3080 10 Go, 12 Go ou 3080 Ti : que choisir

Pour l'IA locale, la 3080 Ti et la 3080 12 Go sont interchangeables : mêmes 12 Go, même bus, et une vitesse de génération très proche. L'estimation pour ces deux cartes est une borne haute qui applique à 912 Go/s le rendement mesuré de la 10 Go : en pratique, la 3090, dont le bus est aussi de 384 bits, mesure 158,2 tokens par seconde. Prenez donc la moins chère des deux, sans vous laisser guider par le nombre de cœurs. La 10 Go, elle, est un cran en dessous par la capacité : ses 10 Go la ferment au Q8 des modèles de 9 milliards.

#Modèles compatibles selon la mémoire

Deux points de ce tableau méritent l'attention. D'abord, la 3080 10 Go passe le Gemma 4 12B en Q4 (7 Go) malgré ce qu'on pourrait croire : il reste 3 Go pour le contexte, ce qui suffit pour des conversations moyennes. Ensuite, le fossé de 12 à 16 Go est net : un modèle de la classe 20 milliards en Q4, comme gpt-oss 20B, pèse 13 Go et ne tient sur aucune des trois cartes. Si c'est votre cible, il vous faut une carte de 16 Go ou plus, et le guide sur les 12 Go de VRAM détaille ce que l'on peut faire avec 12 Go précisément.

• Quel LLM pour 12 Go de VRAM ?
• Quel LLM pour 16 Go de VRAM ?

#Installation, alimentation et réglages

Les RTX 3080 et 3080 Ti font partie des cartes à capacité de calcul 8.6 listées par Ollama, qui demande un pilote 550 ou plus récent. Point de vigilance propre à ces cartes : la fiche NVIDIA annonce 350 W pour la carte, 320 W pour la 10 Go, et conseille une alimentation système de 750 W. Vérifiez votre alimentation avant d'installer la carte, et branchez ses connecteurs sur des câbles distincts.

1. 01
   Vérifier l'alimentation

   Contrôlez qu'elle atteint 750 W et qu'elle dispose des connecteurs demandés par votre modèle de carte.
2. 02
   Installer le pilote et Ollama

   Installez un pilote 550 ou plus récent, puis Ollama, et lancez un modèle de votre choix.
3. 03
   Régler la mémoire

   Sur la version 10 Go, démarrez le serveur avec OLLAMA_FLASH_ATTENTION=1 et OLLAMA_KV_CACHE_TYPE=q8_0 : la documentation précise que le cache K/V peut être quantifié quand Flash Attention est activée.
4. 04
   Contrôler

   Avec nvidia-smi, surveillez la mémoire et la température en charge : ces cartes chauffent plus que les modèles récents.

OLLAMA_FLASH_ATTENTION=1 OLLAMA_KV_CACHE_TYPE=q8_0 ollama serve

• Comment installer Ollama
• Quantifier le KV cache : gagner de la VRAM (long contexte)

#Vitesse : la mesure publique et ses extrapolations

Le tableau collaboratif de llama.cpp, qui mesure Llama 2 7B en Q4_0 (fichier de 3,56 GiB, soit 3,82 Go), donne pour la RTX 3080 10 Go 139,65 tokens par seconde en génération et 5 014 en lecture de prompt. Avec Flash Attention, la génération reste à 139,95 mais la lecture passe à 5 570 tokens par seconde, soit environ 11 % de mieux. La bande passante de 760 Go/s permettrait en théorie près de 199 tokens par seconde : la mesure atteint 70 % de ce plafond. Le débit dépend aussi du pilote, du système et du fabricant de la carte, même à puce identique.

Par règle de trois sur la taille des fichiers, la 3080 10 Go donnerait au mieux environ 89 tokens par seconde sur Qwen 3.5 9B en Q4 (6 Go) et environ 76 sur Gemma 4 12B en Q4 (7 Go). Ce sont des bornes hautes théoriques, pas des mesures. Sur une 3080 12 Go, le Q8 de Qwen 3.5 9B (10 Go) resterait en dessous de 65 tokens par seconde en théorie, ce qui est confortable. Dans tous les cas, ces cartes dépassent largement la vitesse de lecture ; la limite est la capacité, pas la vitesse.

La lecture du prompt est le second atout de ces cartes. À 5 014 tokens par seconde, la 3080 10 Go lit un document de 10 000 tokens en environ deux secondes, et à 5 570 avec Flash Attention en un peu moins, deux calculs théoriques qui supposent un débit constant. C'est environ deux fois plus vite qu'une 3060 12 Go (2 138 tokens par seconde). Cette lecture du prompt pèse encore davantage lorsque plusieurs personnes se partagent la même machine, chaque requête devant d'abord relire son propre contexte avant de générer la moindre réponse, et c'est là que l'écart avec une carte plus modeste se creuse. Pour du RAG sur des documents volumineux ou un assistant de code qui relit de gros fichiers à chaque requête, c'est un gain de confort réel, bien plus visible que l'écart de génération, déjà largement au-dessus du rythme de lecture.

#Acheter en 2026 : où se situent ces cartes

Face à une carte neuve de 16 Go, l'argument d'une RTX 3080 d'occasion est la vitesse à prix modéré, mais la mémoire lui manque. La 3090 mesure 158,2 tokens par seconde avec 24 Go, ce qui en fait le point d'appui de l'occasion pour qui vise des modèles de 20 à 30 milliards. Les prix des cartes d'occasion varient chaque semaine : le suivi du site relève le plus bas de chaque carte et le prix du Go de VRAM, ce qui vaut mieux qu'un chiffre écrit ici.

• Prix des cartes graphiques pour l'IA locale (suivi hebdomadaire)
• Quel LLM sur RTX 3090 / 3090 Ti (24 Go) ?
• Quel LLM sur RTX 4070 Ti Super (16 Go) ?

#Verdict 2026

3080 12 Go ou 3080 Ti d'occasion

Très bon choix si le prix reste nettement inférieur à celui d'une carte neuve de 12 à 16 Go : 12 Go, vitesse élevée, et un Q8 de 9B ou un 12B en Q4 avec de la marge.

3080 10 Go

Utile pour les modèles de 8 à 12 milliards en Q4. Sans le Q8 des 9B ni marge de contexte, une 3060 12 Go peut convenir mieux si vous cherchez de la capacité plutôt que de la vitesse.

À l'achat

Vérifiez l'alimentation, la mention 10 ou 12 Go et l'état des ventilateurs, ces cartes ont chauffé et ont plusieurs années d'usage.

#Questions fréquentes

• Source : tableau de performances llama.cpp sur CUDA
• Source : fiche NVIDIA des RTX 3080 et 3080 Ti
• Source : cartes NVIDIA prises en charge par Ollama
• Source : FAQ Ollama (Flash Attention, cache K/V)