Combien coûte un serveur GPU pour LLM ? Achat, location, API

#Les 3 options et leurs profils de coût

Avant de parler chiffres, il faut comprendre que le coût d'un serveur GPU pour LLM se décline en trois modèles économiques très différents. Le bon choix ne dépend pas seulement de votre budget, mais surtout de votre volume d'usage et de la sensibilité de vos données.

Achat (CAPEX)

Vous investissez une somme importante en une fois pour posséder la machine. Coût marginal ensuite quasi nul (électricité). Rentable si vous tournez beaucoup et longtemps.

Location (OPEX mensuel)

Un serveur GPU dédié ou une VM chez un hébergeur, facturé au mois ou à l'heure. Pas d'investissement, mais une facture récurrente tant que la machine tourne.

API cloud (OPEX au token)

Vous ne gérez aucune machine, vous payez à la consommation (par million de tokens). Zéro coût fixe, mais le prix grimpe linéairement avec l'usage.

#Acheter une machine dédiée

L'achat est le modèle du self-host classique : une machine chez vous ou dans votre local technique, que vous amortissez sur 2 à 4 ans. Le coût se concentre sur le GPU, qui pèse souvent plus de la moitié du budget total de la machine.

GPU d'entrée — RTX 3060 12 Go

Environ 300 € d'occasion. Fait tourner des modèles 7B–14B en Q4 confortablement. Le ticket d'entrée pour un LLM local sérieux.

GPU polyvalent — RTX 4070 / 4080 16 Go

700 à 1 200 €. Modèles 14B fluides, 32B en Q4 avec un peu de marge (19 Go de VRAM sur la 4080… juste à la limite).

GPU haut de gamme — RTX 4090 24 Go

1 600 à 2 000 €. Fait tourner un 32B Q4 (≈19 Go) très à l'aise et un 70B en quantization agressive. La référence station de travail.

Mémoire unifiée — Mac Studio / M4 Pro 48–128 Go

2 000 à 6 000 €. La VRAM unifiée permet de charger des modèles 70B, voire davantage, sans multi-GPU. Silencieux et sobre en électricité.

À cela s'ajoute le reste de la machine : carte mère, CPU, 32 à 64 Go de RAM, alimentation costaude (750 W+ pour une 4090), boîtier ventilé. Comptez 500 à 900 € pour un socle PC correct autour du GPU. Un poste de travail GPU complet capable de faire tourner des 32B se situe donc entre 2 500 et 3 500 € tout compris.

#Louer un serveur GPU chez un hébergeur

La location évite l'investissement initial et le problème de l'obsolescence. Deux sous-catégories : le serveur GPU dédié mensuel (vous réservez la machine en continu) et le GPU à l'heure façon cloud (vous payez uniquement les heures d'inférence).

GPU dédié mensuel — hébergeur FR

Chez OVHcloud ou Scaleway, un serveur avec GPU dédié se loue de quelques centaines à plus de mille euros par mois selon la carte (L4, L40S, H100). Données hébergées en France, argument souveraineté et RGPD.

GPU à l'heure — cloud spot

Sur des plateformes type RunPod, Vast.ai, Lambda, un GPU se loue de 0,20 à 3 €/h selon la carte. Idéal pour du batch ponctuel ou du fine-tuning, pas pour du 24/7.

VM GPU cloud généraliste

AWS, GCP, Azure facturent l'instance GPU à l'heure, souvent plus cher que les spécialistes, mais avec l'écosystème et le SLA d'un grand cloud.

Règle simple : pour une charge intermittente (quelques heures par jour, du batch, de l'expérimentation), la location horaire gagne. Pour un service qui doit répondre en continu, le GPU dédié mensuel ou l'achat prennent le dessus dès le deuxième ou troisième mois.

#Passer par une API cloud

L'API est l'option sans serveur : vous n'achetez ni ne louez de GPU, vous payez au token consommé. C'est le point de départ le plus rationnel quand le volume est faible ou imprévisible, car le coût fixe est nul.

Modèle de facturation

Prix par million de tokens en entrée et en sortie. Les tokens de sortie coûtent généralement plus cher que ceux d'entrée.

Avantage

Zéro maintenance, zéro obsolescence, accès immédiat à des modèles 100B+ impossibles à faire tourner sur un poste de travail.

Inconvénient de coût

Le prix grimpe linéairement avec l'usage. Un pipeline qui traite 100 000 documents par jour transforme une API « pas chère » en facture à quatre chiffres mensuels.

Inconvénient de confidentialité

Vos prompts quittent votre infrastructure. Rédhibitoire pour données sensibles (santé, juridique, code propriétaire) sans contrat et cloud dédié adapté.

#Le seuil de rentabilité self-host vs API

C'est le calcul central. Un GPU acheté est un coût fixe ; une API est un coût variable. Il existe donc un volume de tokens à partir duquel posséder son serveur revient moins cher que payer à l'usage. En dessous de ce seuil, l'API gagne ; au-dessus, le self-host s'amortit.

L'intuition : une RTX 4090 à 1 800 € amortie sur 3 ans revient à environ 50 €/mois de matériel, plus l'électricité. Si votre usage API dépasse ce montant chaque mois, l'achat devient rentable — souvent dès quelques millions de tokens quotidiens sur un usage récurrent. Pour un usage occasionnel de quelques requêtes par jour, l'API reste imbattable.

Faible volume, données non sensibles

API. Le coût fixe d'un serveur ne se justifie pas pour quelques milliers de tokens par jour.

Volume élevé et récurrent

Achat. Le GPU s'amortit en quelques mois et le coût marginal par requête tombe à quasi zéro.

Données sensibles, quel que soit le volume

Self-host (achat ou location FR). La confidentialité tranche avant même le calcul de coût.

Pic ponctuel ou fine-tuning

Location horaire. On paie la puissance uniquement pendant l'opération.

#Config type par budget

Voici trois profils de machines self-host correspondant à trois niveaux de budget et d'ambition. Les fourchettes de prix sont des ordres de grandeur 2026, matériel complet compris.

1. 01
   Poste de travail GPU — 2 500 à 3 500 €

   Une RTX 4090 24 Go (ou une RTX 3090 d'occasion pour diviser le prix par deux) dans un PC avec 64 Go de RAM. Fait tourner un 32B Q4 (≈19 Go de VRAM) très à l'aise et un 70B en quantization agressive. La référence pour un développeur ou une petite équipe.
2. 02
   Serveur GPU dédié — 4 000 à 8 000 € ou location mensuelle

   Une carte pro (L40S 48 Go, ou 2× RTX 4090 en tensor-split) dans un châssis rack, pensé pour tourner 24/7 et servir plusieurs utilisateurs via Open WebUI. Achetable ou louable chez un hébergeur français si vous ne voulez pas gérer le matériel.
3. 03
   Mini-PC à mémoire unifiée — 700 à 6 000 €

   Un Mac mini M4 (à partir de ~700 €) pour un serveur d'inférence silencieux et sobre, ou un Mac Studio M4 Ultra jusqu'à 512 Go de mémoire unifiée pour faire tourner des 70B–123B sans multi-GPU. Consommation électrique dérisoire face à un GPU NVIDIA.

#Les coûts cachés à ne pas oublier

Le prix d'achat n'est que la partie visible. Trois postes récurrents sont systématiquement sous-estimés dans le budget d'un serveur GPU pour LLM.

Électricité

Une RTX 4090 tire jusqu'à 450 W en charge. En inférence quasi continue, cela représente plusieurs dizaines d'euros par mois selon le tarif du kWh. Un Mac à mémoire unifiée consomme une fraction de cela — un vrai argument pour du 24/7.

Maintenance et disponibilité

Un serveur qui doit répondre en permanence demande de la supervision, des mises à jour, une gestion des pannes. C'est du temps humain, invisible sur la facture mais bien réel.

Obsolescence

Un GPU perd de la valeur et les modèles évoluent vite. Amortir sur 3 ans est raisonnable, mais un modèle 14B de 2026 dépassant un 70B de 2024, la course matérielle n'est pas toujours nécessaire — parfois un modèle plus récent et plus petit suffit.

Refroidissement et bruit

Un GPU haut de gamme chauffe et fait du bruit. En local pro, prévoir la ventilation du local ; en poste de travail, le confort acoustique compte.

#Pour aller plus loin

Trois guides connexes pour affiner votre décision : le guide de choix du GPU détaille les arbitrages VRAM/budget/performance carte par carte ; le calculateur de coût chiffre précisément votre seuil de rentabilité self-host vs API ; et le guide config PC 32 Go VRAM liste les composants concrets d'une machine capable de faire tourner des 32B.

Choisir son GPU pour l'IA locale

Le guide d'achat 2026 : RTX 4070 vs 4090 vs Mac M-Max, arbitrages VRAM et budget.

Calculateur de coût LLM

Chiffrez votre seuil de bascule self-host vs API à partir de votre volume de tokens.

Config PC IA : budget 32 GB VRAM

La sélection de composants pour monter une machine capable de faire tourner des modèles 32B en local.