#Ce qu'est le DGX Spark

Le DGX Spark est un ordinateur compact bâti autour du superchip NVIDIA GB10 Grace Blackwell. Il combine sur une même puce un GPU Blackwell et un CPU ARM Grace (20 cœurs), reliés à un pool unique de 128 Go de mémoire LPDDR5X partagée entre les deux. C'est cette architecture à mémoire unifiée — la même philosophie que l'Apple Silicon — qui fait tout l'intérêt de la machine pour l'IA locale.

Là où une carte graphique classique isole sa VRAM (24 ou 32 Go maximum sur le grand public), le DGX Spark laisse le GPU adresser directement les 128 Go. Concrètement, la contrainte qui bloque tout le monde sur GPU — « le modèle rentre-t-il dans la VRAM ? » — disparaît presque. Le facteur limitant devient la bande passante mémoire, pas la capacité.

Puce: NVIDIA GB10 Grace Blackwell (GPU Blackwell + CPU ARM 20 cœurs)
Mémoire: 128 Go LPDDR5X unifiée, partagée CPU/GPU
Bande passante: ~273 Go/s (LPDDR5X), le vrai goulot d'étranglement
Réseau: ConnectX (200 GbE) pour chaîner deux Spark et viser de très gros modèles
Format: Mini-PC de bureau, ~150 W, silencieux comparé à une tour multi-GPU

Ce n'est pas un remplaçant de datacenter

Le DGX Spark vise le prototypage, le fine-tuning léger et l'inférence locale de gros modèles — pas l'entraînement à grande échelle ni le service haute charge. NVIDIA le positionne comme une station de développement IA personnelle.

#128 Go unifiés : ce que ça débloque

Pour situer, voici la VRAM approximative nécessaire à un modèle en quantification Q4_K_M, la plus courante pour l'inférence locale : un 7B tient dans ~5 Go, un 14B dans ~9 Go, un 32B dans ~19 Go, un 70B dans ~40 Go. Sur une RTX 5090 et ses 32 Go, un 70B Q4 ne rentre donc pas entièrement : il faut décharger une partie sur le CPU, ce qui écroule la vitesse.

Avec 128 Go unifiés, le DGX Spark charge sans transpirer un 70B en Q4, Q5 ou même Q8, garde de la marge pour un contexte long (32k tokens et plus), et laisse la porte ouverte aux modèles de 100B+ paramètres en quantification agressive. C'est la classe de modèles qui, jusqu'ici, imposait soit un Mac Studio haut de gamme, soit un rig multi-GPU coûteux et énergivore.

70B Q4 (~40 Go): Confortable, avec large marge pour le contexte
70B Q8 (~75 Go): Possible — qualité quasi FP16 sur un gros modèle
MoE type 120B en Q4: Rentre en mémoire ; la bande passante dicte la vitesse
Plusieurs modèles chargés: Un 32B + un 14B en parallèle pour du routage ou du multi-agent

→

La mémoire n'est pas la vitesse

Charger un modèle et le faire tourner vite sont deux choses différentes. Les 128 Go garantissent que le modèle rentre ; ce sont les ~273 Go/s de bande passante qui déterminent les tokens/sec. Sur les très gros modèles, attendez-vous à une inférence fluide pour lire, pas à des rafales de génération.

#Quels modèles il fait tourner

La force du DGX Spark, c'est la tranche 30B–120B, exactement là où les GPU grand public calent par manque de VRAM. Voici les usages typiques par famille de modèles.

Llama 3.x 70B: Q4 à Q8 selon le besoin de qualité ; le cas d'usage phare de la machine
Qwen 2.5 / 3 32B et 72B: Excellents en raisonnement et code, tout entiers en mémoire
Mistral Large / 123B: En Q4 agressif, jouable pour de la rédaction longue
DeepSeek et MoE: Les architectures Mixture-of-Experts profitent bien de la grande mémoire
Modèles multimodaux: Vision + texte gourmands en mémoire tiennent sans jonglage

Pour les petits modèles (7B–14B), le DGX Spark fonctionne évidemment, mais c'est du gâchis : une RTX 4070 ou un Mac mini M4 les fait tourner plus vite pour bien moins cher. La machine ne se justifie que si vous visez régulièrement les gros modèles.

#Perfs réelles en inférence

Deux chiffres comptent en inférence locale : la vitesse de génération (tokens/sec, ce qui défile à l'écran) et le temps de préremplissage (le délai avant le premier token, qui dépend de la longueur du prompt). La bande passante mémoire pilote surtout la génération.

Sur le DGX Spark, un 70B en Q4 génère typiquement dans l'ordre de la dizaine de tokens/sec — assez pour un usage assistant confortable où vous lisez au fil de l'eau, moins pour des workloads batch à haut débit. Les modèles plus petits (14B–32B) montent nettement plus haut. Ce profil est cohérent avec une bande passante de ~273 Go/s : c'est le mur qui sépare le DGX Spark des cartes GDDR7 bien plus rapides sur ce point.

Ne comparez pas des tokens/sec hors contexte

Un chiffre de tokens/sec n'a de sens qu'avec le modèle exact, la quantization, la taille du contexte et le moteur d'inférence. Les valeurs ci-dessus sont des ordres de grandeur pour se repérer, pas des garanties. Mesurez sur votre propre charge avant de trancher un achat.

#DGX Spark vs RTX 5090

C'est le comparatif le plus parlant, et il oppose deux philosophies. La RTX 5090 offre 32 Go de VRAM GDDR7 à ~1792 Go/s de bande passante : environ six à sept fois plus rapide que le DGX Spark en mémoire. Sur tout ce qui rentre dans ses 32 Go, la 5090 pulvérise le Spark en tokens/sec.

Mais la 5090 se heurte à un mur net : au-delà de ~32 Go, elle doit décharger sur le CPU et s'effondre. Un 70B Q4 (~40 Go) ne tient pas entièrement dedans. Le DGX Spark, lui, avale ce même 70B sans broncher — plus lentement, mais en une seule pièce. Le choix se résume à une question : votre travail tient-il sous 32 Go ?

Vous restez ≤ 32 Go (jusqu'à ~32B Q4): RTX 5090 : bien plus rapide, et polyvalente (jeu, rendu, CUDA)
Vous visez 70B et au-delà: DGX Spark : le modèle rentre là où la 5090 abandonne
Consommation / bruit: DGX Spark : ~150 W et silencieux, contre une tour 5090 chaude et bruyante
Écosystème CUDA complet: Les deux ; le Spark ajoute le stack DGX/NVIDIA de bout en bout

#DGX Spark vs Mac Studio

Le vrai rival du DGX Spark n'est pas une carte graphique, c'est le Mac Studio. Les deux partagent la même idée — mémoire unifiée massive dans un boîtier compact et sobre — et visent le même public : les développeurs qui veulent de gros modèles en local sans monter un rig.

Le Mac Studio (M-Ultra) monte jusqu'à 512 Go de mémoire unifiée avec une bande passante souvent supérieure sur les configurations haut de gamme, ce qui le rend redoutable sur les très gros modèles. Son atout : macOS, Metal et un écosystème mûr (Ollama, LM Studio, MLX). L'atout du DGX Spark : CUDA natif. Si votre pipeline dépend de bibliothèques CUDA, de TensorRT ou d'outils NVIDIA, le Spark parle nativement la même langue que vos serveurs de production.

Capacité mémoire max: Mac Studio jusqu'à 512 Go ; DGX Spark 128 Go (extensible en chaînant 2 unités)
Écosystème logiciel: Mac : Metal/MLX mûr ; Spark : CUDA natif, continuité avec les serveurs NVIDIA
Portabilité du code IA: Le Spark rejoue sans friction du code écrit pour du GPU NVIDIA cloud/datacenter
Usage bureautique: Le Mac Studio est un poste de travail complet ; le Spark est une station IA dédiée

Le critère qui tranche souvent

Si vous prototypez du code destiné à tourner sur des GPU NVIDIA en production, le DGX Spark supprime les surprises de portage. Si vous voulez surtout de l'inférence locale confortable et une machine polyvalente, le Mac Studio est plus souple. Le reste est une affaire de bande passante et de budget.

#Installer Ollama dessus

Le DGX Spark tourne sous une base Linux (DGX OS, dérivée d'Ubuntu) avec la stack CUDA préinstallée. Ollama y fonctionne comme sur n'importe quelle machine Linux NVIDIA : le daemon détecte le GPU et sert les modèles sur son port habituel.

01
Installer Ollama
Script officiel en une commande. Il configure le service systemd et détecte automatiquement le GPU Blackwell via CUDA.
02
Vérifier la détection GPU
Confirmez que le GPU est bien vu avant de lancer un gros modèle, sinon l'inférence tomberait sur le CPU.
03
Tirer un gros modèle
Téléchargez un 70B en Q4 pour exploiter la mémoire — c'est précisément le cas d'usage de la machine.
04
Lancer et brancher une interface
Le daemon écoute par défaut sur http://localhost:11434 ; pointez Open WebUI ou LM Studio dessus.

Terminal — installation

# Installer Ollama (Linux / DGX OS)
curl -fsSL https://ollama.com/install.sh | sh

# Vérifier que le GPU Blackwell est détecté
nvidia-smi

# Tirer et lancer un 70B en Q4 (exploite la mémoire unifiée)
ollama run llama3.3:70b

Le daemon Ollama expose une API compatible sur le port 11434. Pour exploiter la mémoire, privilégiez des modèles que les GPU classiques ne peuvent pas charger seuls, et augmentez la fenêtre de contexte puisque vous en avez la place.

Terminal — contexte étendu

# Servir un 70B avec un contexte large depuis un Modelfile
cat > Modelfile <<'EOF'
FROM llama3.3:70b
PARAMETER num_ctx 32768
EOF

ollama create llama70b-32k -f Modelfile
ollama run llama70b-32k

→

Chaîner deux Spark

Le port réseau ConnectX 200 GbE permet de relier deux DGX Spark pour cumuler la mémoire et viser des modèles au-delà de 128 Go. C'est le chemin d'upgrade prévu par NVIDIA si un seul boîtier ne suffit plus.

#Pour qui ce format a du sens

Le DGX Spark n'est pas une machine grand public. Son intérêt se concentre sur des profils précis pour qui la contrainte de VRAM est le vrai problème quotidien.

Développeurs IA sous CUDA: Prototyper localement du code destiné aux GPU NVIDIA de production, sans surprise de portage
Chercheurs et équipes R&D: Fine-tuning léger et inférence de gros modèles sans réserver du temps GPU cloud
Power users du 70B+: Ceux qui butent en permanence sur les 24–32 Go d'une carte grand public
Bureaux sensibles au bruit/conso: Une station silencieuse et sobre plutôt qu'un rig multi-GPU

À l'inverse, si vous jouez, si vous tournez surtout des modèles ≤ 32B, ou si votre budget est serré, une RTX 5090 (ou même une 4070/4080) ou un Mac mini M4 offrira un bien meilleur rapport perf/prix. Le DGX Spark se justifie quand le besoin de mémoire massive prime sur le débit brut.

Le piège du chiffre magique

« 128 Go » impressionne, mais ne les louez pas pour faire tourner un 8B. Achetez cette machine pour ce qu'elle débloque vraiment — la tranche 70B–120B en local — ou vous paierez cher une capacité que vous n'utiliserez jamais.

#Pour aller plus loin

Le DGX Spark s'apprécie mieux en le comparant aux alternatives déjà couvertes sur le site. Ces guides prolongent la réflexion :

Quel LLM sur RTX 5090 (32 Go) ?: Le comparatif détaillé de la carte grand public la plus rapide, pour arbitrer débit contre capacité.
Quel LLM sur Mac Studio ?: L'autre grande machine à mémoire unifiée, jusqu'à 512 Go — le vrai rival du DGX Spark.
Choisir son GPU pour l'IA locale: Pour cadrer votre besoin de VRAM avant de dépenser, et voir où se situe chaque option.

Ce guide vous a aidé ?

Un retour, une erreur, une précision ? Faites-nous signe, ça améliore le guide pour tout le monde.

Suite logique

Matériel · 12 min