Question 1

MBP M2 Pro 16 Go est-il suffisant pour l'IA locale ?

Accepted Answer

Oui, pour Mistral 7B, Llama 3.1 8B et Qwen 7B en Q5 à 35-40 tok/s. Pour un usage plus ambitieux (14B, 24B), visez 32 Go.

Question 2

Différence entre M2 Max 30-core et 38-core GPU ?

Accepted Answer

Environ 15-20 % de vitesse en plus pour le 38-core sur des 32B+. Négligeable sur 7B (limité par la bande passante commune). Si votre usage vise les gros modèles, optez pour le 38-core.

Question 3

Peut-on faire tourner deux LLM en parallèle sur MBP M2 Max 64 Go ?

Accepted Answer

Oui : par exemple Mistral 7B (5 Go) + Phi-4 14B (10 Go) + contexte = 20 Go. Reste 40 Go pour le système et les apps. Ollama gère très bien le multi-modèle.

Question 4

Quel modèle pour du français sur MBP M2 Max 64 Go ?

Accepted Answer

Mistral Small 24B Q5 (excellente maîtrise FR, 20 tok/s) ou Llama 3.3 70B Q4 (meilleure qualité mais 10 tok/s). Sur 32 Go, restez sur Mistral Small 24B.

Question 5

Le MBP M2 Max chauffe-t-il plus que le M1 Max ?

Accepted Answer

Légèrement — efficience énergétique moins bonne que M1. Mais les ventilateurs actifs absorbent la différence. Conso soutenue : ~50 W sur 70B vs ~45 W sur M1 Max.

Question 6

Faut-il installer MLX à côté d'Ollama sur M2 Max ?

Accepted Answer

Seulement si vous voulez fine-tuner un LoRA en local ou utiliser des modèles MLX-community non disponibles en GGUF. Pour 95 % des usages, Ollama seul suffit.