Oui, Ollama supporte CUDA jusqu'à Pascal. Drivers NVIDIA 535+ encore maintenus. Fonctionne — juste lentement.

Question 1

La GTX 1060 6 Go peut-elle faire tourner Mistral 7B ?

Accepted Answer

Oui tout juste, en Q4_K_M à 10-12 tok/s. Lent mais fonctionnel. Préférez Llama 3.2 3B Q8 (18 tok/s) pour une meilleure expérience.

Question 2

GTX 1060 3 Go ou 6 Go pour LLM ?

Accepted Answer

6 Go impérativement. La 3 Go ne peut tenir aucun modèle utile (Mistral 7B Q4 = 4,4 Go > 3 Go). La 3 Go est inutilisable pour LLM.

Question 3

Combien de tokens/sec Mistral 7B sur GTX 1060 ?

Accepted Answer

8-12 tokens/seconde. C'est 4-5× plus lent qu'une RTX 3060 12 Go. Utilisable pour chat patient, pas pour usage productif.

Question 4

Peut-on tourner Llama 3.1 8B sur GTX 1060 ?

Accepted Answer

Théoriquement oui (Q4 = 4,9 Go < 6 Go) mais à 7-9 tok/s, frustrant. Restez sur Mistral 7B ou Llama 3.2 3B.

Question 5

La GTX 1060 est-elle encore supportée par Ollama en 2026 ?

Accepted Answer

Oui, Ollama supporte CUDA jusqu'à Pascal. Drivers NVIDIA 535+ encore maintenus. Fonctionne — juste lentement.