Quel LLM sur RTX 4070 Ti Super (16 Go) ?

#RTX 4070 Ti Super pour un LLM local : ce que 16 Go permettent

Une RTX 4070 Ti Super fait tourner sans difficulté les modèles de 4B à 24B en Q4. Elle dispose de 16 Go de GDDR6X sur un bus de 256 bits, soit 672 Go/s, et de 8 448 cœurs CUDA d'après NVIDIA. Cette combinaison la place au-dessus de toutes les cartes de 8 et 12 Go : Gemma 4 12B tient avec une grande marge pour le contexte, gpt-oss 20B et Mistral Small 24B, chacun de 14 Go, entrent en VRAM avec environ 2 Go de marge, et un modèle de 5 à 8 Go tourne près du plafond de sa bande passante. Ce qui ne tient pas, c'est le palier suivant : Qwen 3.5 27B pèse 17 Go et dépasse la carte. La 4070 Ti Super n'est donc pas une carte pour les modèles de 30B, mais une des plus équilibrées pour tout ce qui se situe en dessous.

Architecture

Ada Lovelace, puce AD103, la même que la RTX 4080 mais avec moins d'unités actives.

Mémoire

16 Go de GDDR6X, bus de 256 bits, bande passante de 672 Go/s d'après Wikipedia.

Calcul

8 448 cœurs CUDA d'après la page produit NVIDIA, Tensor Cores de 4e génération.

Puissance

285 W de puissance graphique totale ; NVIDIA indique 700 W d'alimentation minimale pour l'ensemble du PC.

#4070, 4070 Super, 4070 Ti, 4070 Ti Super : laquelle pour le LLM

Les quatre cartes portent le même nom de gamme mais ne se valent pas pour le LLM. Trois d'entre elles sont limitées à 12 Go de VRAM ; seule la Ti Super passe à 16 Go et à un bus de 256 bits. Pour l'IA locale, cette différence pèse plus que la puissance de calcul brute : elle décide des modèles que la carte accepte.

La RTX 4070 Ti affiche 504 Go/s d'après Wikipedia, contre 672 Go/s pour la Ti Super. Si votre recherche portait sur une RTX 4070 classique, la page dédiée traite la variante de 12 Go. Un point commun à toutes : les modèles de 12B tiennent, ceux de 14 Go et plus demandent 16 Go.

• Quel LLM sur RTX 4070, 4070 Super et 4070 Ti (12 Go)

#Quels modèles tiennent dans 16 Go

Les modèles de 14 et 15 Go laissent peu de place au cache de contexte : Ollama utilise par défaut 4 096 tokens, ce qui passe, mais 16 000 tokens exigent de quantifier le cache K/V. Devstral Small 2, un modèle de code, est à la limite : à 15 Go, il ne reste presque rien pour le contexte. Pour du code, Mistral Small 24B ou un modèle plus petit avec un contexte plus long est un meilleur choix sur 16 Go.

#Ce qui reste hors de portée des 16 Go

Trois familles de modèles dépassent la carte. Les 27B à 35B en Q4 : Qwen 3.5 27B pèse 17 Go et Qwen 3.5 35B 24 Go d'après Ollama, Gemma 4 26B de 16 à 19 Go. Les 70B, dont les poids seuls se situent autour de 40 Go selon le repère du site. Et les modèles à long contexte poussés à leur maximum : un modèle de 8 Go avec 256 000 tokens de contexte annoncé ne tiendra jamais avec un cache complet. Pour ces cas, passez à 24 Go de VRAM, à un Mac à mémoire unifiée ou à une machine dédiée : la page consacrée au matériel compare ces options.

• Quel PC pour une IA locale

#Installer et contrôler le placement en VRAM

1. 01
   Pilote

   Ollama exige un pilote NVIDIA 550 ou plus récent pour les cartes GeForce récentes. Vérifiez votre version avec nvidia-smi.
2. 02
   Installation

   Installez Ollama pour votre système, sans installation séparée de CUDA.
3. 03
   Premier test

   Lancez ollama run mistral-small pour un premier modèle qui exploite les 16 Go, puis ollama ps.
4. 04
   Contrôle

   La colonne PROCESSOR doit afficher 100 % GPU ; sinon réduisez le contexte.

export OLLAMA_FLASH_ATTENTION=1
export OLLAMA_KV_CACHE_TYPE=q8_0
export OLLAMA_CONTEXT_LENGTH=16384
ollama serve

Le cache K/V en q8_0 utilise environ la moitié de la mémoire du f16, valeur par défaut, et exige Flash Attention. C'est ce réglage qui permet à un modèle de 14 Go de servir un contexte de 16 000 tokens sur 16 Go.

#Quelle vitesse attendre : plafonds et relevés tiers

Aucun débit n'est présenté ici comme une mesure maison. Le plafond de génération est la bande passante divisée par la taille des poids. Un relevé tiers public (LLaMA 3 8B en Q4_K_M sous llama.cpp, mai 2024) observe 106 tokens/s sur une RTX 4080 de 716,8 Go/s, soit environ 68 % de son plafond, et 75 % sur une RTX 4070 Ti. La bande passante de la 4070 Ti Super est proche de celle de la 4080, donc son ordre de grandeur aussi. Le tableau applique 70 % au plafond.

gpt-oss 20B est un modèle à experts : il ne lit qu'une partie de ses poids par token, son débit dépasse donc celui d'un modèle dense de 14 Go. Aucune valeur sourcée n'est reprise ici. Retenez surtout que la carte passe de rapide sur un 8B à correcte sur un 24B.

#4070 Ti Super face à la 4080 Super et à la 5070 Ti

Les trois cartes offrent 16 Go : la capacité est identique, donc la liste des modèles aussi. Seule la vitesse de génération change, proportionnellement à la bande passante. La 4080 Super gagne environ 10 % ; la 5070 Ti, environ un tiers. Sur le marché de l'occasion, l'écart de prix compte davantage que ces écarts de débit : consultez le suivi des prix pour comparer. Une 4070 Ti Super d'occasion à bon prix reste un excellent choix ; une 5070 Ti neuve se justifie par la garantie et la vitesse.

• Quel LLM sur RTX 4080 et 4080 Super
• Quel LLM sur RTX 5070 Ti
• Prix des cartes graphiques pour l'IA locale

#Usages qui profitent des 16 Go

Les 16 Go changent surtout ce que l'on peut faire tourner en même temps. Un RAG local combine un modèle de génération, un modèle d'embeddings et un contexte assez long pour contenir les extraits retrouvés : avec Gemma 4 12B (7,7 à 8 Go) et un petit modèle d'embeddings, l'ensemble tient avec plusieurs gigaoctets de marge. Un assistant de code se contente d'un modèle de 8B à 12B et d'un contexte de 16 000 tokens, sans aucune contrainte. Un modèle de 14 Go comme Mistral Small 24B occupe presque toute la carte : il devient un choix exclusif, pas un modèle parmi d'autres.

Un point piège pour un usage partagé : dans Ollama, plusieurs requêtes en parallèle sur le même modèle augmentent d'autant la taille du contexte réservé. Servir trois collègues avec un modèle de 14 Go peut donc faire déborder la carte, alors qu'un seul utilisateur passe sans difficulté. Sur 16 Go, limitez le parallélisme ou choisissez un modèle plus léger pour un usage à plusieurs.

#Acheter une 4070 Ti Super d'occasion : ce qu'il faut vérifier

La carte est sortie en janvier 2024 : la plupart des exemplaires d'occasion ont moins de trois ans, mais rien ne garantit leur usage passé. Les prix évoluent chaque semaine : consultez le suivi des prix plutôt qu'un chiffre figé dans ce guide. Avant d'acheter, vérifiez que nvidia-smi affiche bien 16 Go de mémoire, lancez un modèle de 14 Go et surveillez la température pendant une génération longue, et écoutez les ventilateurs. Demandez la facture et la garantie restante du fabricant : elles se transmettent souvent avec la carte.

#Verdict 2026

Gardez-la si

Vos modèles tiennent dans 16 Go. Rien ne justifie de la remplacer avant d'avoir besoin de 24 Go.

Achetez-la d'occasion si

Le prix est nettement inférieur à celui d'une 5070 Ti neuve. Vérifiez la garantie restante, la température et le bruit des ventilateurs.

Visez 24 Go si

Vous voulez Qwen 3.5 27B ou plus : aucun réglage ne fera entrer 17 Go dans 16 Go avec du contexte, et une carte de 24 Go évite de recommencer l'achat.

• Source : caractéristiques officielles NVIDIA (famille RTX 4070)
• Source : FAQ officielle d'Ollama (Flash Attention, cache K/V)
• Source : taille de Mistral Small dans la bibliothèque Ollama

#Questions fréquentes