Question 1

RTX 3080 10 Go ou 12 Go pour LLM ?

Accepted Answer

12 Go, impérativement. Les 2 Go supplémentaires ouvrent Phi-4 14B Q4 (sweet spot 2026). La 10 Go est limitée aux 7B-8B — usage sous-dimensionné pour cette puissance de calcul.

Question 2

RTX 3080 Ti ou RTX 3090 pour LLM ?

Accepted Answer

3090 si 24B+ prévu (24 Go vs 12 Go). 3080 Ti si budget serré ≤ 600 € et usage max 14B. À perf pure 7B-14B, quasi équivalentes.

Question 3

La RTX 3080 12 Go peut-elle tourner Mistral Small 24B ?

Accepted Answer

Non confortablement. Q4 = 14 Go → débordement 2 Go en RAM, chute à ~15 tok/s. En IQ3_M (11 Go), tight. Pour 24B correct, 16 Go mini.

Question 4

Combien de tokens/sec pour Mistral 7B sur RTX 3080 10 Go ?

Accepted Answer

62-70 tok/s en Q4_K_M. Moins rapide qu'une 3080 12 Go (-15 %) à cause de la bande passante plus faible.

Question 5

Peut-on faire du fine-tuning sur RTX 3080 12 Go ?

Accepted Answer

QLoRA 7B-8B : confortable. QLoRA 14B : tight (11 Go utilisables), batch 1. LoRA classique 7B : jouable. Au-delà : 24 Go requis (3090/4090).

Question 6

Alim 650 W suffit pour RTX 3080 Ti ?

Accepted Answer

TDP 350 W GPU + 150 W CPU + 40 W système = 540 W nominal. Une 650 W ATX 2.0 qualité tient juste. 750 W ou 850 W plus confortable (pics transitoires Ampere élevés).

Question 7

La RTX 3080 12 Go vaut-elle la peine vs une RTX 5070 neuve ?

Accepted Answer

Si prix ≤ 450 € occasion, oui : même 12 Go, perfs LLM équivalentes, économie 300 €. Au-delà, une 5070 neuve (~750 €) offre FP4, garantie, +30 % vitesse.