Quel LLM sur RTX 3060 8 Go ?

#RTX 3060 8 Go : ce qu'elle change par rapport à la 12 Go

La RTX 3060 8 Go fait tourner les modèles de 7 à 9 milliards de paramètres en Q4 : Granite 4.2 8B demande 4,6 Go et Qwen 3.5 9B 6 Go selon le catalogue QuelLLM. Gemma 4 12B (7 Go en Q4) n'y tient pas confortablement. Sa différence avec la 3060 12 Go est double : 4 Go de moins, et un bus de 128 bits au lieu de 192. Selon la presse spécialisée qui a relevé la fiche à sa sortie, le bus étroit ramène la bande passante à 240 Go/s, soit 33 % de moins que les 360 Go/s de la 12 Go. Pour l'IA locale, cela compte : la génération de texte dépend surtout de la bande passante mémoire. Aucune mesure publique n'existe pour la 8 Go, mais on peut estimer qu'elle génère environ 50 tokens par seconde sur un modèle de 7 milliards en Q4_0, contre 75,6 mesurés sur la 12 Go.

Puce

La même GA106 que la 3060 12 Go et la même puissance de carte de 170 W.

Mémoire

8 Go de GDDR6 sur un bus de 128 bits, soit 240 Go/s, contre 12 Go, 192 bits et 360 Go/s.

Conséquence

Autant de cœurs de calcul, mais une capacité et une bande passante réduites : c'est la mémoire, pas le calcul, qui limite l'IA locale.

#Modèles compatibles avec 8 Go

La capacité est identique à celle d'une 3070 ou d'une 3060 Ti, deux cartes de 8 Go plus rapides. Les mêmes règles s'appliquent : viser 6 Go de poids au maximum, garder un gigaoctet pour le pilote et le contexte, et vérifier que le modèle est entièrement dans la carte. Pour cela, la commande ollama ps affiche 100% GPU quand tout est chargé dans la carte. Si un pourcentage de CPU apparaît, le modèle déborde et la vitesse s'effondre.

• Quel LLM pour 8 Go de VRAM ? (toutes cartes)
• Choisir sa quantification (Q4, Q5, Q8, FP16)

#Vitesse : pourquoi le bus mémoire domine

Le tableau collaboratif de llama.cpp (Llama 2 7B en Q4_0, fichier de 3,56 GiB) ne contient pas la 3060 8 Go, mais il permet de comprendre ce que le bus mémoire change. Il donne 75,6 tokens par seconde pour la 3060 12 Go (bus de 192 bits), 92,2 pour la 3060 Ti de 8 Go (256 bits) et 63,9 pour une RTX 4060 Ti de 8 Go dont le bus n'est que de 128 bits. À capacité égale, l'ordre suit la largeur du bus, à quelques nuances près : une carte plus récente à bus étroit peut se retrouver derrière une plus ancienne à bus large.

L'estimation de la dernière ligne applique à 240 Go/s le rendement mesuré de la 12 Go, qui atteint environ 80 % de ce que permet sa bande passante. C'est une projection, à présenter comme telle. Par règle de trois sur la taille des fichiers, cela donne à peu près 40 tokens par seconde pour Granite 4.2 8B (4,6 Go) et une trentaine pour Qwen 3.5 9B (6 Go), des bornes hautes théoriques. Ce débit reste lisible en discussion, mais il place la 8 Go environ un tiers sous la 12 Go et plus de 40 % sous la 3060 Ti.

#Pièges à éviter

Deux cartes sous un seul nom

NVIDIA liste la RTX 3060 avec 12 Go ou 8 Go, et un bus de 192 ou 128 bits. Le nom seul ne dit rien : exigez la capacité dans l'annonce.

Vérification à l'installation

Lancez nvidia-smi : la 12 Go expose environ 12 287 MiB selon les relevés de llama.cpp, la 8 Go environ 7 800 MiB comme sa voisine la 3060 Ti.

Prix aligné sur la 12 Go

Certains vendeurs affichent le même prix pour les deux versions. Comparez avec le suivi hebdomadaire du site plutôt qu'avec un prix figé.

Attente irréaliste sur les 12B

Gemma 4 12B et les modèles de cette taille ne tiennent pas avec du contexte ; le plafond est de 9B en Q4.

nvidia-smi --query-gpu=name,memory.total --format=csv

Le second contrôle vaut aussi pour un PC récupéré : la description du fabricant ou le nom de la carte dans Windows ne permettent pas toujours de distinguer les versions, alors que la mémoire totale renvoyée par nvidia-smi ne trompe pas.

#Le calcul derrière l'estimation

Le principe est simple : pour produire un token, la carte relit l'essentiel des poids du modèle. Le nombre maximal de tokens par seconde est donc de l'ordre de la bande passante divisée par la taille du fichier. Le fichier de test pèse 3,56 GiB, soit environ 3,82 Go. Pour la 3060 12 Go, 360 Go/s divisés par 3,82 donnent un plafond de 94 tokens par seconde, et la mesure publiée en atteint 80 %. Pour la 8 Go, 240 Go/s donnent un plafond d'environ 63 tokens par seconde ; en appliquant le même rendement, on obtient une cinquantaine.

Cette méthode a une limite : le rendement varie d'une carte à l'autre, comme le montrent d'autres cartes du même tableau dont le rapport mesure sur plafond va de 67 % à 85 %. Retenez donc une fourchette et non un chiffre précis. Notez aussi que les résultats publiés dépendent du pilote, du système et du fabricant de la carte, même à puce identique, et mesurez sur votre propre matériel si la vitesse conditionne un achat.

#Ce que cela donne à l'usage

Traduisez le débit en temps d'attente. À environ 40 tokens par seconde, une réponse de 500 tokens, soit une page d'explication, prend une douzaine de secondes ; sur une 3060 12 Go, la même réponse en demanderait environ huit, toujours en estimation théorique. Pour une discussion, la différence est supportable : le texte s'affiche plus vite que vous ne le lisez. Elle devient pesante dans deux cas : les agents qui enchaînent de nombreux appels au modèle, et le traitement par lots de nombreux documents, où l'écart s'additionne.

La capacité de 8 Go pose une limite plus franche que la vitesse. Elle impose de choisir entre un contexte long et un modèle plus gros, alors qu'une carte de 12 Go laisse les deux. Si votre usage se résume à poser des questions courtes à un 8B, la 8 Go convient. Si vous voulez brancher le modèle à vos documents, mieux vaut viser plus de mémoire.

1. 01
   Contrôler l'annonce

   Repérez la mention 8 GB ou 12 GB dans le titre, la description ou les photos de la boîte. Sans précision, demandez-la au vendeur.
2. 02
   Demander une capture

   Exigez une capture de nvidia-smi ou de l'outil GPU-Z montrant la mémoire totale et la largeur du bus.
3. 03
   Tester au retrait

   Sur place, lancez nvidia-smi : environ 12 287 MiB pour la 12 Go, autour de 7 800 MiB pour la 8 Go.
4. 04
   Faire tourner un modèle

   Chargez un 8B en Q4 avec Ollama et vérifiez avec ollama ps qu'il est à 100 % sur le GPU avant de conclure l'achat.

#Contexte : tirer parti de 8 Go

Sur 8 Go, le cache de contexte est la vraie limite. La documentation d'Ollama indique que le cache K/V peut être quantifié quand Flash Attention est activée : réglez OLLAMA_FLASH_ATTENTION=1 puis OLLAMA_KV_CACHE_TYPE=q8_0 avant de lancer le serveur. Avec un bus de 128 bits, la carte est déjà à la peine pour la vitesse ; il est donc préférable de ne pas y ajouter un contexte démesuré. Un contexte de quelques milliers de tokens avec un 8B en Q4 est un bon compromis.

OLLAMA_FLASH_ATTENTION=1 OLLAMA_KV_CACHE_TYPE=q8_0 ollama serve

• Quantifier le KV cache : gagner de la VRAM (long contexte)
• Comprendre la fenêtre de contexte

#Que prendre à la place

Le choix dépend de votre besoin : pour de la capacité, la 3060 12 Go ; pour de la vitesse sur des modèles de 8 milliards, la 3060 Ti. Les prix d'occasion changent chaque semaine : le suivi du site relève le prix le plus bas des cartes pour l'IA locale.

• Prix des cartes graphiques pour l'IA locale (suivi hebdomadaire)
• Quel LLM sur RTX 3060 12 Go ?
• Quel LLM sur RTX 3060 Ti (8 Go) ?

#Verdict 2026

Gardez-la si

Elle est déjà dans votre PC et vous visez un 8 ou 9B en Q4 pour du chat ou de l'aide au code, sans exigence de vitesse.

N'achetez pas pour l'IA

Une 3060 12 Go apporte davantage, pour un budget souvent proche. Ne payez la 8 Go que nettement en dessous.

Vérifiez toujours la version

Exigez la mention de la mémoire dans l'annonce et contrôlez avec nvidia-smi à la réception.

#Questions fréquentes

• Source : tableau de performances llama.cpp sur CUDA
• Source : fiche NVIDIA de la RTX 3060
• Source : Tom's Hardware, RTX 3060 8 Go
• Source : FAQ Ollama (ollama ps, cache K/V)