Question 1

MBP M1 Pro 16 Go ou M1 Max 32 Go pour l'IA locale ?

Accepted Answer

Le M1 Max 32 Go pour un gain réel : double bande passante (400 vs 200 Go/s) = double vitesse sur 13B+, et 20 Go utilisables en plus. En revanche, pour ne tourner que des 7B-8B, le M1 Pro 16 Go suffit largement.

Question 2

Peut-on faire tourner un 70B sur MBP M1 Max 32 Go ?

Accepted Answer

Non, pas en Q4 (trop gros). En Q3 très compressé (~30 Go), techniquement oui mais à ~4 tok/s et avec une qualité fortement dégradée. En pratique, 64 Go est le minimum pour un 70B exploitable.

Question 3

Le MBP M1 Pro est-il meilleur qu'un PC RTX 3060 pour les LLM ?

Accepted Answer

Pour Mistral 7B Q4 : vitesse comparable (30-40 tok/s). Avantage Mac : 16 Go utilisables vs 12 Go VRAM, silence, pas de drivers. Avantage PC : écosystème CUDA, fine-tuning plus simple.

Question 4

Les ventilateurs tournent fort en inférence LLM ?

Accepted Answer

Audible sur un 70B en chat continu (RPM ~4000, équivalent à un MacBook Pro Intel 2019 en compilation). Calme sur 7B-14B (RPM ~2500). Bien moins bruyant qu'un laptop PC gamer à la même charge GPU.

Question 5

Faut-il l'écran 16" ou 14" pour les LLM ?

Accepted Answer

Aucun impact sur les performances. Le 16" a une meilleure dissipation thermique (châssis plus grand) donc soutient la charge un peu plus longtemps. 14" si la portabilité prime, 16" si les sessions longues prévalent.

Question 6

Ollama ou MLX sur MBP M1 Max ?

Accepted Answer

Ollama reste la base pour 95 % des usages (simple, robuste, API OpenAI). MLX est intéressant pour fine-tuner un 7B en local ou pour des modèles MLX-native qui profitent du M1 Max. Les deux coexistent sans conflit.