Q: Faut-il 96 ou 128 Go de RAM sur M4 Max ?

96 Go couvre 95 % des usages (70B Q5 confortable). 128 Go ajoute : 70B Q6 (qualité quasi-FP16), Qwen 123B Q4, marge de contexte 32k+. +600 € Apple. Si vous travaillez régulièrement sur 70B+, le 128 Go se justifie.

Q: Le MBP M4 Max peut-il faire du fine-tuning ?

Oui, via MLX, pour LoRA et QLoRA jusqu'à 14B en FP16 avec 96 Go. Plus gros que ça devient lent. Full fine-tuning d'un 70B n'est pas praticable — prévoyez un service cloud ponctuel pour ça.

Q: Autonomie batterie pendant une inférence Llama 70B ?

MBP 16" M4 Max : environ 1h45 en chat continu, 1h en batch. MBP 14" : 1h15 / 45 min (batterie plus petite). Pour des sessions longues, branchez.

Q: Ollama, LM Studio, MLX ou llama.cpp : quel choix sur M4 Max ?

Ollama pour 90 % des usages (simple, robuste). LM Studio pour explorer les modèles avec UI. MLX pour les 5-10 % de perf en plus sur gros modèles ou pour du fine-tuning. llama.cpp maison pour accéder aux dernières features (spéculatif decoding, flash attention avancé) avant qu'Ollama les intègre.

Question 1

Le MacBook Pro M4 Max est-il meilleur qu'une RTX 4090 pour les LLM ?

Accepted Answer

Pour 7B-34B qui rentrent en 24 Go VRAM, la 4090 est plus rapide (bande passante 1 To/s). Au-delà, le MBP M4 Max gagne : 70B Q4 à 17 tok/s sur M4 Max contre impossible nativement sur 4090 seule (24 Go VRAM insuffisants). Le Mac gagne sur RAM, la 4090 sur vitesse pure.

Question 2

M4 Pro 48 Go ou M4 Max 48 Go ?

Accepted Answer

Le M4 Max sans hésiter si la différence de prix est < 800 €. +50 % de bande passante (410 vs 273 Go/s), même RAM. Sur Phi-4 14B : 28 tok/s (Pro) vs 34 tok/s (Max). Pour 70B, seul le Max est capable.

Question 3

Faut-il 96 ou 128 Go de RAM sur M4 Max ?

Accepted Answer

96 Go couvre 95 % des usages (70B Q5 confortable). 128 Go ajoute : 70B Q6 (qualité quasi-FP16), Qwen 123B Q4, marge de contexte 32k+. +600 € Apple. Si vous travaillez régulièrement sur 70B+, le 128 Go se justifie.

Question 4

Le MBP M4 Max peut-il faire du fine-tuning ?

Accepted Answer

Oui, via MLX, pour LoRA et QLoRA jusqu'à 14B en FP16 avec 96 Go. Plus gros que ça devient lent. Full fine-tuning d'un 70B n'est pas praticable — prévoyez un service cloud ponctuel pour ça.

Question 5

Autonomie batterie pendant une inférence Llama 70B ?

Accepted Answer

MBP 16" M4 Max : environ 1h45 en chat continu, 1h en batch. MBP 14" : 1h15 / 45 min (batterie plus petite). Pour des sessions longues, branchez.

Question 6

Ollama, LM Studio, MLX ou llama.cpp : quel choix sur M4 Max ?

Accepted Answer

Ollama pour 90 % des usages (simple, robuste). LM Studio pour explorer les modèles avec UI. MLX pour les 5-10 % de perf en plus sur gros modèles ou pour du fine-tuning. llama.cpp maison pour accéder aux dernières features (spéculatif decoding, flash attention avancé) avant qu'Ollama les intègre.