Question 1

RTX 3060 Ti ou RTX 3060 12 Go pour LLM ?

Accepted Answer

3060 12 Go pour LLM, malgré sa vitesse inférieure. 4 Go de plus = accès aux 14B (Phi-4, Qwen 14B). La 3060 Ti reste bloquée à Mistral 7B.

Question 2

La RTX 3060 Ti peut-elle tourner Phi-4 14B ?

Accepted Answer

Non confortablement. Q4 (8,5 Go) déborde. Q3 (6,5 Go) passe mais qualité dégradée.

Question 3

Combien de tokens/sec pour Mistral 7B sur RTX 3060 Ti ?

Accepted Answer

50-60 tok/s en Q4_K_M. Correcte. Plus rapide qu'une 3060 12 Go (40 t/s) mais moins polyvalente à cause des 8 Go.

Question 4

La RTX 3060 Ti est-elle meilleure que la RTX 4060 ?

Accepted Answer

Équivalente en vitesse LLM (50 vs 42 tok/s), même VRAM (8 Go). La 4060 consomme moins (115 vs 200 W). Prix 2026 : 260 € (3060 Ti) vs 310 € (4060). 3060 Ti occasion meilleur rapport.

Question 5

Alim 500 W suffit pour RTX 3060 Ti ?

Accepted Answer

TDP 200 W GPU + 100 W CPU + 40 W système = 340 W. Une 500 W qualité suffit.

Question 6

Peut-on faire du QLoRA sur RTX 3060 Ti ?

Accepted Answer

Sur 3B-4B : oui confortable. Sur 7B : batch 1, contexte 2048 max. Limite des 8 Go très vite atteinte.