Question 1

Peut-on faire tourner un LLM sur GTX 1660 ?

Accepted Answer

Oui, Mistral 7B Q4 à 10-18 tok/s selon variante (1660, Super ou Ti). Suffisant pour découvrir le LLM local.

Question 2

Quelle GTX 16 pour LLM ?

Accepted Answer

GTX 1660 Super — meilleur rapport bande passante / prix. La 1660 Ti est légèrement plus rapide mais 20 € plus chère en occasion.

Question 3

La GTX 1650 4 Go peut-elle faire tourner Mistral 7B ?

Accepted Answer

Non confortablement. Q4 (4,4 Go) déborde avec contexte. Restez sur Llama 3.2 3B Q5 (2 Go) ou plus petit.

Question 4

GTX 1660 Super ou RTX 3050 pour LLM ?

Accepted Answer

RTX 3050 si budget neuf 180 € : Tensor Cores, 8 Go VRAM (vs 6), support 2028+. GTX 1660 Super occasion 130 € : correct pour budget serré, 3-5 ans d'usage restant.

Question 5

Les GTX 16 supportent-elles Flash Attention ?

Accepted Answer

Non — pas de Tensor Cores. llama.cpp utilise le fallback CUDA standard. Performances correctes mais pas optimales.