Config PC IA : budget 32 GB VRAM

#Ce que 32 Go de VRAM permettent vraiment

Avec 32 Go de VRAM, on charge confortablement un modèle dense de 32 milliards de paramètres en Q4 (environ 19 à 20 Go de poids) avec plusieurs milliers de tokens de contexte, ou un modèle à experts de 30 milliards comme Qwen3-Coder 30B-A3B, que la bibliothèque Ollama annonce à 19 Go. On ne charge pas un modèle de 30 milliards de paramètres en Q8 : il pèse environ 32 Go, soit autant que la carte entière, sans place pour le contexte ni pour la mémoire réservée par le pilote. Un 70B en Q4, à environ 40 Go, ne tient pas non plus. Les 32 Go se gagnent avec une seule carte de 32 Go ou avec deux cartes de 24 Go, deux voies aux compromis très différents.

Le Q8 pèse environ un octet par paramètre : c'est la raison pour laquelle un modèle de 30 milliards ne tient pas dans 32 Go. Comme la carte ne peut pas donner toute sa mémoire au modèle, il faut viser un poids inférieur d'au moins 3 à 4 Go à la VRAM pour garder de la place au cache KV. Le calculateur VRAM du site fait ce calcul pour un modèle et un contexte donnés.

#Le GPU : trois voies pour atteindre 24 à 48 Go

#Voie A : une carte de 32 Go

La RTX 5090 embarque 32 Go de GDDR7 sur une interface de 512 bits, selon NVIDIA. Sa puissance graphique totale atteint 575 W et NVIDIA indique 1 000 W pour la puissance requise du système. Elle s'alimente par quatre câbles PCIe 8 broches via l'adaptateur fourni, ou par un câble PCIe Gen 5 de 600 W. Un seul GPU évite toute configuration multi-cartes : c'est la voie la plus simple, et celle qui donne la meilleure vitesse par modèle, car la mémoire n'est pas répartie entre cartes.

#Voie B : deux cartes de 24 Go

La RTX 3090 offre 24 Go de GDDR6X ; NVIDIA indique une puissance de carte de 350 W et une puissance système requise de 750 W pour une seule carte. Deux cartes donnent 48 Go répartis, avec 700 W pour les seules cartes. Dans llama.cpp, l'option de répartition est --split-mode : par défaut le mode layer découpe les couches entre les GPU, et --tensor-split fixe la proportion confiée à chaque carte. Le mode tensor y est décrit comme expérimental. La répartition n'accélère pas la génération comme le ferait une carte unique plus rapide : elle sert d'abord à faire tenir un modèle plus gros.

#Voie C : une seule carte de 24 Go, budget serré

Une RTX 3090 ou 4090 d'occasion, avec 24 Go, couvre déjà le modèle de 30 milliards à experts en Q4 et un dense de 27 à 32 milliards avec un contexte court. C'est la voie pour un budget plafonné autour de quelques milliers d'euros : les tarifs bougent chaque semaine, donc le suivi /prix-gpu-ia est la seule référence fiable. La marge se réduit vite avec le contexte : un cache KV de plusieurs gigaoctets se paie sur les 4 à 5 Go restants.

#Le contexte : ce que la VRAM laisse au cache KV

Le poids du modèle ne dit pas tout : chaque token de contexte ajoute une entrée au cache KV, stockée elle aussi en VRAM. La fiche de Qwen3-Coder-30B-A3B indique 48 couches et une attention groupée avec 32 têtes de requête pour 4 têtes KV. Cette structure divise par huit la taille du cache KV par rapport à un modèle qui aurait autant de têtes KV que de têtes de requête, ce qui explique qu'un tel modèle supporte des contextes très longs sur une carte de 24 ou 32 Go. Tous les modèles ne sont pas aussi économes : plus un modèle a de têtes KV, plus son cache grossit vite avec le contexte.

La règle pratique reste la même : partez du poids du modèle, ajoutez 3 à 4 Go de marge, puis regardez ce qu'il reste pour le contexte visé. Si la marge manque, quantifiez le cache KV plutôt que de réduire la quantification du modèle : le guide dédié explique le compromis.

• Quantifier le cache KV pour gagner de la VRAM

#CPU, RAM et carte mère : ne pas gaspiller le budget

Pendant la génération sur GPU, le processeur travaille peu : il charge les modèles, tokenise, prépare le contexte et fait tourner le système. Un processeur de milieu de gamme suffit, et l'argent est mieux placé dans la VRAM. La carte mère compte davantage : pour deux cartes de 24 Go, il faut deux emplacements PCIe x16 physiquement espacés et assez de place pour des cartes épaisses (NVIDIA décrit la RTX 3090 Founders Edition comme une carte de trois emplacements). Le nombre de lignes PCIe par emplacement influence peu la génération, une fois le modèle chargé.

Côté mémoire système, 32 Go est un plancher pour un PC équipé d'une carte de 32 Go ; 64 Go est plus confortable si vous gardez un IDE, un navigateur et un conteneur ouverts pendant que le modèle tourne, ou si vous déchargez une partie du modèle sur le processeur. Ce dernier cas rend la vitesse dépendante de la RAM : voir le guide du LLM sans GPU. Une requête fréquente, « LLM 32 Go RAM », désigne souvent cette situation : avec 32 Go de RAM et sans carte graphique, les modèles de 7 à 14 milliards de paramètres en Q4 restent utilisables, un 32B en Q4 (environ 19 à 20 Go) tient mais génère lentement.

#Alimentation : le poste à ne pas économiser

NVIDIA indique 1 000 W de puissance système requise pour une RTX 5090 et 750 W pour une RTX 3090. Pour deux RTX 3090, le calcul est simple : 2 × 350 W de cartes, plus environ 250 W pour le processeur, la carte mère, les disques et les ventilateurs, donne environ 950 W en charge, avec des pics au-dessus. Une alimentation de 1 200 W ou plus laisse une marge saine ; c'est un conseil de ce guide, pas une spécification d'Apple ou de NVIDIA. Vérifiez aussi le nombre de connecteurs PCIe 8 broches : une RTX 5090 en réclame quatre via l'adaptateur, ou un câble PCIe Gen 5 de 600 W.

#Stockage : la vitesse de chargement, pas la capacité

Un modèle de 20 à 40 Go se charge à chaque changement de modèle. Calcul avec des hypothèses à adapter : à 200 Mo/s, la vitesse typique d'un disque dur, 40 Go demandent environ 200 secondes ; à 3,5 Go/s, la vitesse d'un SSD NVMe, environ 12 secondes. Un SSD NVMe de 2 To suffit pour une dizaine de modèles et un index de RAG ; un second disque sert aux sauvegardes. Le gain d'un SSD PCIe 5.0 sur la génération est nul : elle se passe en VRAM.

#Boîtier et refroidissement

Une carte de 575 W dégage autant de chaleur qu'un petit radiateur : le boîtier doit évacuer l'air chaud plus vite qu'il n'entre, avec une entrée d'air frontale et des ventilateurs à l'arrière et en haut. Deux cartes épaisses côte à côte se réchauffent mutuellement : laissez un emplacement libre entre elles, ou choisissez des modèles plus fins. Le guide sur les thermiques en inférence détaille les températures à surveiller et les courbes de ventilateur.

• Quel LLM pour 32 Go de VRAM
• Quel LLM pour 24 Go de VRAM
• Quel LLM sur RTX 5090
• Quel LLM sur RTX 3090 et 3090 Ti
• LLM multi-GPU avec llama.cpp
• Prix des cartes graphiques pour l'IA locale

#Valider sa configuration avant l'achat

1. 01
   Partir du modèle, pas de la carte

   Choisissez le modèle et la quantification visés, ajoutez 3 à 4 Go pour le cache KV et le pilote : le total donne la VRAM minimale. Le calculateur VRAM du site fait ce calcul.
2. 02
   Choisir la voie GPU

   Une carte de 32 Go pour la simplicité, deux cartes de 24 Go si le budget prime et si le boîtier et la carte mère le permettent, une seule carte de 24 Go pour un budget serré.
3. 03
   Dimensionner l'alimentation

   Prenez au moins la puissance système que NVIDIA indique pour la carte, et ajoutez de la marge pour deux cartes. Comptez les connecteurs PCIe.
4. 04
   Vérifier le boîtier

   Longueur, épaisseur et circulation d'air pour chaque carte. Deux cartes épaisses exigent un boîtier large et une carte mère à emplacements espacés.
5. 05
   Après assemblage, contrôler la charge

   La commande nvidia-smi affiche la VRAM utilisée et la puissance de chaque carte ; ollama ps montre si le modèle tourne entièrement sur le GPU.

nvidia-smi
ollama ps

• Source : NVIDIA, fiche de la GeForce RTX 5090
• Source : NVIDIA, fiche de la GeForce RTX 3090 et 3090 Ti
• Source : fiche Hugging Face de Qwen3-Coder-30B-A3B
• Source : bibliothèque Ollama, Qwen3-Coder

#Questions fréquentes