Quel LLM sur GTX 1080 Ti (11 Go) ?

#La GTX 1080 Ti en 2026 : ce qu'elle a, ce qu'elle n'a pas

La GTX 1080 Ti est une carte Pascal (puce GP102) de 3 584 cœurs CUDA, 11 Go de GDDR5X et 484 Go/s de bande passante, avec une enveloppe de 250 W. Sur le banc public de llama.cpp, elle produit 62,49 tokens/s en génération et 1 084,41 tokens/s en lecture du prompt sur un Llama 2 7B en Q4_0. Ces résultats la placent au niveau d'une RTX 2060 Super pour la génération, avec 3 Go de plus : c'est cette capacité, plus que la vitesse, qui justifie encore de s'y intéresser.

Le tableau contient déjà l'information la plus importante : le FP16 vaut environ 1/64 du FP32 sur cette carte. Le paragraphe suivant explique pourquoi cela ne pénalise pas autant qu'on le croit.

#Les limites de Pascal, ce qui compte et ce qui ne compte pas

Trois limites sont réelles. La première est l'absence de Tensor Cores, les unités de calcul matriciel apparues avec Volta et Turing : elles accélèrent la lecture du prompt et l'entraînement, pas la génération, qui dépend de la mémoire. La deuxième est le FP16, au débit ridiculement bas sur Pascal grand public (environ 166 GFLOPS contre 10 609 en FP32) : les moteurs comme llama.cpp contournent le problème en calculant les modèles quantifiés en entiers. La troisième est la fin du support logiciel, traitée plus bas.

Deux affirmations souvent répétées sont fausses. Le FP16 n'est pas simplement deux fois plus lent, il est soixante fois plus lent. Et Flash Attention n'est pas réservée aux Tensor Cores : le banc llama.cpp exécute la 1080 Ti avec Flash Attention activée, à 1 138,14 tokens/s en lecture du prompt et 61,38 tokens/s en génération, contre 1 084,41 et 62,49 sans. Le gain est faible sur le débit, mais la fonction est disponible et réduit la mémoire du contexte.

#Ce que 11 Go permettent : la table de décision

Le repère du site place un 8B en Q4 autour de 5 Go, un 14B autour de 9 Go, hors cache KV. Sur 11 Go, un 12B laisse 4 Go de marge et un 14B seulement 2 Go. Le tableau applique le rendement observé sur le banc (49 % du plafond théorique de 484 Go/s, soit 62,49 tokens/s pour 3,82 Go de poids) aux modèles courants : ce sont des projections, pas des mesures.

La zone la plus intéressante est le 12B : c'est le modèle le plus gros qui reste à l'aise, avec un contexte de plusieurs milliers de tokens. Sur une carte de 8 Go, ce même modèle laisse à peine 1 Go et impose de réduire drastiquement le contexte. Au-delà, un 14B en Q4 passe mais sans marge, et un modèle de 30 milliards de paramètres ne rentre pas.

#Ce que disent les benchmarks publics

QuelLLM ne teste pas cette carte. Le banc de la discussion « Performance of llama.cpp on Nvidia CUDA » compare toutes les cartes sur le même modèle, ce qui permet de situer la 1080 Ti face à ses voisines.

Trois lectures se dégagent. En génération, la 1080 Ti égale la RTX 2060 Super et reste 17 % derrière une RTX 3060 de 12 Go. En lecture du prompt, l'écart se creuse : la RTX 3060 la double presque, la RTX 2080 Ti, de même capacité, la devance de 2,7 fois. Enfin, la Tesla P40, une carte Pascal de 24 Go, atteint 54,74 tokens/s : elle montre que la capacité de 24 Go est atteignable sur cette architecture, avec un débit inférieur à celui de la 1080 Ti.

#Profiter des 11 Go : quantifier moins fort

Un avantage propre aux 11 Go est de pouvoir monter en qualité plutôt qu'en taille. Le catalogue QuelLLM donne pour un Granite 4.2 8B : 4,6 Go en Q4, 6 Go en Q5 et 9 Go en Q8. Sur 8 Go, seul le Q4 laisse de la marge. Sur 11 Go, le Q5 (6 Go) reste très confortable, et le Q8 (9 Go) passe avec un contexte court.

Le compromis est net : chaque palier de quantification réduit les erreurs du modèle mais ralentit la génération, puisque davantage de poids sont relus pour chaque token. Pour du chat courant, le Q5 est un bon point d'équilibre ; le Q8 se justifie pour la précision (extraction, code) quand le débit importe peu. Le guide de la quantification détaille la différence de qualité.

• Choisir sa quantification (Q4, Q5, Q8, FP16)

#Deux cartes pour 22 Go : possible, mais à vérifier

Le banc llama.cpp signale, dans ses consignes, que les contributeurs disposant de plusieurs GPU doivent forcer un seul GPU avec -sm none -mg, sauf si le modèle est trop gros pour la VRAM : le moteur répartit donc bien un modèle sur plusieurs cartes. Deux GTX 1080 Ti offriraient 22 Go pour les poids, de quoi héberger un modèle de 32 milliards de paramètres en Q4 (19 à 20 Go d'après le repère du site), sans marge de contexte.

La répartition n'additionne pas les vitesses : les couches se partagent entre cartes et transitent par le bus PCIe, ce qui limite le gain. Ce montage exige aussi un boîtier, une alimentation et une carte mère adaptés, et double l'exposition à la fin de support de Pascal. Pour un projet à 24 Go, comparez d'abord le coût d'une carte unique plus récente.

#Installer et vérifier en quatre étapes

1. 01
   Contrôler le pilote

   Lancez nvidia-smi. Pour les cartes de compute capability 5.0 à 6.2, dont la GTX 1080 Ti, la documentation d'Ollama exige un pilote 570 ou plus récent.
2. 02
   Installer Ollama

   Suivez le guide d'installation de votre système. Ollama reconnaît la carte comme GTX 1080 Ti (compute capability 6.1) dans sa liste officielle.
3. 03
   Choisir un modèle adapté

   Commencez par un 8B en Q4 pour valider la chaîne, puis testez un 12B avec un contexte de 4 096 tokens.
4. 04
   Vérifier le placement

   Lancez ollama ps : la colonne PROCESSOR doit indiquer 100 % GPU. Sinon, réduisez le contexte ou le modèle.

Si un chargement échoue, ne cherchez pas de variable de contournement exotique : Ollama active Flash Attention automatiquement quand le moteur et la carte la prennent en charge, et la variable documentée est OLLAMA_FLASH_ATTENTION (1 pour forcer, 0 pour désactiver). Le guide de dépannage détaille les erreurs courantes.

• Installer Ollama pas à pas
• Dépanner Ollama : GPU non détecté, lenteurs

#Fin de vie de Pascal : ce qu'il faut planifier

Les notes de version de CUDA 13 indiquent que Maxwell, Pascal et Volta ne sont plus pris en charge. Wikipédia rapporte que NVIDIA a cessé en décembre 2025 le support Game Ready de ces architectures, avec des mises à jour de sécurité jusqu'en octobre 2028. Aujourd'hui, la GTX 1080 Ti fonctionne avec Ollama et un pilote 570 ou plus récent : le risque est que les futurs moteurs d'inférence ne ciblent plus que CUDA 13. Notez vos versions de pilote et d'Ollama avant toute mise à jour.

#Verdict : garder, oui ; acheter, à condition

Pour comparer les options actuelles sans lister de prix qui changent chaque semaine, les pages du site donnent les modèles adaptés à chaque capacité de mémoire et renvoient vers la page des prix des cartes.

• Quel LLM sur RTX 3060 12 Go
• Quel LLM sur RTX 2080 Ti (11 Go)
• Quels modèles pour 12 Go de VRAM, toutes cartes
• Comparer les prix des GPU pour l'IA

• Source : benchmark public llama.cpp sur CUDA
• Source : documentation Ollama, matériel NVIDIA pris en charge
• Source : GeForce 10 series, caractéristiques
• Source : notes de version du CUDA Toolkit