Quel LLM sur MacBook Air M2 (8 / 16 / 24 Go) ?

#MacBook Air M2 : bande passante de 100 Go/s et jusqu'à 24 Go

Le MacBook Air M2 change deux choses par rapport au M1 qui comptent pour un LLM : la bande passante monte à 100 Go/s, et la mémoire peut atteindre 24 Go. Apple annonce 100 Go/s pour le M2, soit 50 % de plus que le M1 ; c'est le chiffre officiel, et non un gain de 47 % comme on le lit parfois. La vitesse maximale de génération progresse donc d'environ un tiers à un demi selon le modèle, et la classe de modèles accessibles monte d'un cran.

Puce

Apple M2 : CPU à 8 cœurs (4 performance, 4 efficacité), GPU à 8 cœurs, ou 10 cœurs en configuration supérieure, Neural Engine à 16 cœurs, selon la fiche technique d'Apple.

Mémoire

Selon la fiche Apple, les MacBook Air M2 se déclinent en 8 Go (configurable à 16 ou 24 Go) et en 16 Go (configurable à 24 Go). La mémoire est soudée : le choix se fait à l'achat.

Bande passante

100 Go/s, selon Apple, soit 50 % de plus que le M1.

Refroidissement

Aucun ventilateur : Apple décrit le MacBook Air M2 comme un design silencieux sans ventilateur. Le silence se paie en charge soutenue, voir la section thermique.

Batterie

52,6 Wh ; Apple annonce jusqu'à 15 heures de navigation web sans fil. Un LLM qui charge le GPU consomme beaucoup plus qu'une page web.

#8, 16 ou 24 Go : ce que chaque palier permet

Un modèle ne peut pas occuper toute la mémoire : macOS, le navigateur et vos applications en gardent une part. Comptez de l'ordre de 4 à 5 Go de marge sur 8 Go, de 10 à 11 Go sur 16 Go et de 16 à 18 Go sur 24 Go pour le modèle et son contexte. Ce sont des estimations prudentes, à recouper avec la pression mémoire du Moniteur d'activité. Le poids d'un modèle suit les repères du site : 3B environ 2 Go, 7-8B environ 5 Go, 14B environ 9 Go, 32B environ 19 à 20 Go en Q4.

Le palier de 24 Go est celui qui change la nature de la machine : il ouvre les modèles de 24 milliards de paramètres en Q4 (environ 14 Go de poids), ce qu'aucun Air M1 ne permet. Il est en revanche rare : la mémoire n'étant pas extensible, la plupart des Air M2 en circulation ont 8 ou 16 Go. Vérifiez dans le menu Pomme, « À propos de ce Mac », ce que contient réellement la machine avant de choisir un modèle.

#La vitesse maximale que le M2 peut atteindre

La génération lit les poids actifs à chaque token : la vitesse maximale est la bande passante divisée par le poids en gigaoctets. Le tableau suivant applique la formule au M2 (100 Go/s) et au M1 (environ 68 Go/s). Ce sont des plafonds calculés, jamais des mesures : la vitesse réelle est plus basse et dépend du moteur, de la quantification et de la longueur du contexte. Ils permettent de vérifier qu'un chiffre annoncé ailleurs est physiquement possible.

Deux lectures s'imposent. D'abord, un 8B en Q4 sur M2 se situe sous 20 tokens par seconde en théorie : un débit affiché de 25 ou 28 tokens par seconde pour ce modèle sur cette puce ne peut pas venir de la génération classique. Ensuite, un 24B plafonne autour de 7 tokens par seconde : il est utilisable pour une réponse posée, pas pour un échange rapide. Pour des mesures réelles, regardez /benchmarks et les benchmarks de tiers en vérifiant puce, quantification et moteur.

#Installer un modèle et vérifier le GPU

1. 01
   Installer Ollama

   Téléchargez-le sur ollama.com ou avec Homebrew. Le guide d'installation macOS du site détaille les options de démarrage.
2. 02
   Choisir le modèle selon la mémoire

   4B sur 8 Go, 8-9B sur 16 Go, 12-14B ou un 24B en Q4 sur 24 Go. Lancez-le avec ollama run suivi du nom du modèle.
3. 03
   Vérifier le GPU

   Dans un autre terminal, ollama ps affiche la répartition CPU/GPU dans la colonne PROCESSOR. Tout sur le GPU est l'état attendu.
4. 04
   Ajuster le contexte

   Ollama fixe le contexte par défaut à 4 000 tokens sous 24 Gio de mémoire. Montez-le progressivement plutôt que d'un coup : le cache KV occupe de la mémoire à chaque token.

brew install --cask ollama
ollama run qwen3.5:9b
ollama ps

Les modèles s'installent dans ~/.ollama/models. Sur un Air M2 doté d'un SSD de 256 Go, quelques modèles de 5 à 15 Go suffisent à remplir l'espace libre : supprimez ceux que vous n'utilisez plus avec ollama rm.

Un repère utile pour choisir : partez du plus petit modèle qui répond correctement à votre tâche, puis montez d'une taille seulement si les réponses restent insuffisantes. Sur une machine à bande passante limitée, chaque milliard de paramètres supplémentaire se paie en vitesse. Testez deux candidats sur cinq de vos propres requêtes réelles avant de trancher : cela coûte dix minutes et évite de télécharger un modèle trop lourd.

#Le 24 Go et le RAG : ce que le palier permet vraiment

Un assistant sur vos documents exige trois briques : un modèle d'embedding qui indexe, un modèle de génération qui répond, et éventuellement un reranker qui trie les passages. Sur 8 Go, l'ensemble est serré. Sur 16 Go, un embedder léger et un 8-9B cohabitent avec un contexte court. Sur 24 Go, vous pouvez ajouter un reranker et laisser un contexte de plusieurs milliers de tokens sans écrire sur le SSD. C'est l'usage où le palier supérieur prend tout son sens.

Avant indexation

Vérifiez que le modèle d'embedding tient avec le modèle de génération : les deux restent chargés pendant la requête.

Pendant la requête

Injectez quelques passages bien choisis plutôt qu'un document entier : le contexte pèse en mémoire et en temps de calcul.

Après

Si la pression mémoire passe au jaune, réduisez le nombre de passages ou passez à un modèle plus petit.

#Quantification et cache KV sur M2

Sur une machine limitée par la bande passante, Q4_K_M reste le réglage par défaut : le modèle est plus petit, donc plus rapide à lire. Q5_K_M se justifie quand la mémoire le permet et que la qualité prime. Q8_0 double presque le poids et divise à peu près par deux le plafond de vitesse. Pour le cache KV, Ollama utilise l'attention flash automatiquement quand le moteur et le matériel le permettent ; la variable OLLAMA_KV_CACHE_TYPE quantifie le cache, avec f16 par défaut. Elle rend les contextes longs plus abordables sur 16 Go, au prix d'une légère perte de précision.

• Choisir sa quantification (Q4, Q5, Q8, FP16)
• Quantifier le KV cache pour gagner de la mémoire

#Autonomie, silence et chauffe

Le Air M2 n'a pas de ventilateur : il reste silencieux, ce qui convient à un bureau calme ou à un assistant laissé tourner la nuit. Le châssis évacue la chaleur passivement, donc une charge de plusieurs dizaines de minutes fait baisser la fréquence de la puce. Cette page ne donne ni durée ni température de seuil : aucune source primaire ne les fixe et elles varient avec la pièce. Sur batterie, l'autonomie fond beaucoup plus vite qu'en navigation, car le GPU travaille en continu ; pour une longue session, branchez le secteur.

Traitements longs

Branchez le secteur, surélevez la machine et évitez les applications qui chargent le processeur en parallèle.

Mode économie d'énergie

macOS le propose dans les réglages de batterie. Il bride les performances : réservez-le aux déplacements où l'autonomie prime sur la vitesse.

Charge continue

Pour un serveur local qui répond toute la journée, un Mac mini, qui a un ventilateur, est plus adapté qu'un Air.

#Rester sur M2 ou passer à un M3, un M4 ?

Le M3 conserve la même bande passante de 100 Go/s et le même plafond de 24 Go sur l'Air, d'après les fiches d'Apple : pour un LLM, passer de M2 à M3 n'apporte presque rien de mesurable côté génération. Le M4 fait passer la bande passante à 120 Go/s et la mémoire à 32 Go, ce qui change à la fois la vitesse maximale et la classe de modèles.

Gardez votre M2 16 ou 24 Go

Il couvre 8-9B et 12-14B sans effort ; le M4 n'améliore la vitesse maximale que d'environ 20 %.

Changez si vous avez 8 Go

Le gain porte sur la classe de modèle, pas sur la vitesse : un Air à 16 Go minimum permet de passer du 4B au 8-9B.

Changez si vous voulez plus de 24 Go

Seul le M4 propose 32 Go sur l'Air ; au-delà, regardez le MacBook Pro M4 Pro ou Max.

• MacBook Air M1 : les limites à 8 et 16 Go
• MacBook Air M3 : mêmes 100 Go/s
• MacBook Air M4 : 32 Go et 120 Go/s
• Installer Ollama sur macOS
• MacBook Pro M4 Pro et Max, jusqu'à 128 Go
• Calculateur VRAM du site

• Source : fiche technique Apple du MacBook Air M2
• Source : Apple, annonce de la puce M2
• Source : fiche technique Apple du MacBook Air M4
• Source : documentation Ollama, contexte

#Questions fréquentes