Table des Matières
Mesurez la consommation énergétique de l'IA on-premise à trois niveaux : les GPU, via les compteurs de puissance et d'énergie de NVIDIA ; le serveur entier, via son contrôleur de gestion ou une PDU mesurée ; et l'installation, en multipliant par le PUE du site. Divisez ensuite par le travail utile, par exemple les questions traitées, sur une journée complète, heures creuses comprises.
Points clés
- La puissance nominale d'un GPU est un plafond, pas sa consommation. Le benchmark ML.ENERGY a constaté que les estimations fondées sur la puissance nominale sont « presque toujours une surestimation », jusqu'à 4,1 fois dans le pire cas (Chung et al., 2025).
- Les relevés de puissance GPU ont des trous : sur les cartes A100 et H100, nvidia-smi n'échantillonne qu'environ 25 % du temps d'exécution (Yang et al., 2023). Vérifiez vos relevés une fois avec un compteur externe.
- Le GPU n'est pas toute la facture. Ajoutez processeurs, mémoire et ventilateurs au niveau du serveur, puis la climatisation et les pertes électriques via le PUE, dont la moyenne était de 1,54 dans l'enquête 2025 de l'Uptime Institute (Uptime Institute).
- Rapportez l'énergie à une unité de travail utile, par exemple les wattheures par question, mesurée sur une journée entière. Les heures à vide peuvent peser lourd dans le total.
- La taille de lot, le choix du modèle et les réglages d'horloge modifient l'énergie par réponse. Mesurez avant et après chaque changement.
Pourquoi mesurer l'énergie d'un système d'IA on-premise ?
Quand l'IA tourne sur vos propres serveurs, l'électricité, la climatisation et l'alimentation de secours sont à votre charge. Trois raisons pratiques de mesurer :
- La capacité. Les salles serveurs, les onduleurs et, sur les sites isolés, les groupes électrogènes ont des limites fixes. Il faut des valeurs réelles de pointe et de moyenne avant d'ajouter un second serveur GPU.
- Le coût. Dans notre comparaison des coûts sur trois ans, l'électricité représentait environ 2 % du total pour un serveur à deux GPU, avec une hypothèse prudente de 1,5 kW en continu. Une valeur mesurée remplace cette hypothèse.
- Le reporting. Les équipes énergie et développement durable demandent de plus en plus à la DSI la consommation par système. Un chiffre mesuré en kWh se défend mieux qu'une estimation tirée de la plaque signalétique.
Pour la vue d'ensemble du déploiement, voir notre guide de l'IA souveraine on-premise.
Pourquoi la puissance nominale du GPU est-elle le mauvais chiffre ?
La puissance maximale indiquée sur la fiche technique d'un GPU (souvent appelée TDP) est ce que la carte peut consommer au plus. C'est le bon chiffre pour dimensionner les circuits, les alimentations et les onduleurs, qui doivent tenir la pointe. C'est le mauvais chiffre pour la comptabilité énergétique.
Les auteurs du benchmark ML.ENERGY ont mesuré l'énergie d'inférence de 40 architectures de modèles. Ils ont constaté que les estimations fondées sur le TDP sont « presque toujours une surestimation », car un GPU consomme rarement sa puissance maximale en continu, avec un pire cas de 4,1 fois sur des GPU H100 (Chung et al., 2025).
Les modèles de langage creusent l'écart. Générer du texte token par token est limité surtout par la bande passante mémoire, comme l'explique notre guide de dimensionnement GPU. Sur un NVIDIA H200, une étude de 2026 a constaté que pendant cette phase de génération le GPU consomme bien moins que son plafond de puissance, si bien que le plafond ne s'active jamais (Ma et al., 2026).
Où mesurer la puissance d'un serveur GPU ?
Chaque niveau couvre une plus grande partie du système et en dit moins sur une charge de travail donnée.
| Niveau | Où la relever | Ce qui est couvert | Points de vigilance |
|---|---|---|---|
| GPU | nvidia-smi, ou NVIDIA DCGM avec dcgm-exporter pour Prometheus | La carte graphique seule | Trous d'échantillonnage ; ignore processeurs, mémoire, ventilateurs |
| Processeur | Compteurs d'énergie Linux powercap (Intel RAPL) | Boîtiers CPU, séparés en core et uncore | Le compteur a une plage maximale et repart à zéro ; propre au constructeur |
| Serveur | Contrôleur de gestion (BMC) via IPMI ou Redfish | Serveur entier, au niveau des alimentations | Résolution et précision variables selon le constructeur |
| Baie | PDU mesurée ou pince ampèremétrique sur l'arrivée | Tout ce qui est branché | Aucune répartition par charge de travail |
| Installation | Énergie informatique multipliée par le PUE | Ajoute la climatisation et les pertes de distribution | Le PUE varie selon la saison et la salle |
GPU. nvidia-smi fournit power.draw.average, la puissance moyenne de toute la carte sur la dernière seconde, sur les GPU Ampere (sauf GA100) et plus récents, et power.draw.instant pour la dernière mesure (NVIDIA). Une commande comme nvidia-smi --query-gpu=index,power.draw.average --format=csv,noheader -l 1 l'enregistre chaque seconde. DCGM expose aussi un compteur de la consommation d'énergie totale du GPU en millijoules depuis le dernier rechargement du pilote (NVIDIA DCGM). La différence entre deux lectures de ce compteur donne l'énergie consommée pendant un essai.
Processeur. Sous Linux, le framework powercap expose energy_uj, un compteur d'énergie en microjoules, pour chaque boîtier de processeur Intel et ses parties core et uncore (noyau Linux).
Serveur. La plupart des serveurs en baie remontent leur puissance totale par leur contrôleur de gestion. Avec ipmitool, dcmi power reading récupère les relevés liés à la puissance du système (manuel d'ipmitool). Les contrôleurs compatibles Redfish peuvent publier la puissance en watts et l'énergie en kWh dans la ressource standard EnvironmentMetrics (DMTF Redfish).
Installation. L'Uptime Institute définit le PUE comme la puissance totale de l'installation divisée par la puissance consommée par les équipements informatiques (Uptime Institute).
Quelle est la précision des relevés de puissance GPU ?
Moindre que ce que supposent la plupart des équipes. Yang, Adamek et Armour ont testé plus de 70 GPU de toutes les architectures NVIDIA depuis Fermi. Sur les cartes A100 et H100, nvidia-smi n'échantillonne que 25 % du temps d'exécution pour la puissance, de sorte que le GPU peut consommer une puissance très différente pendant les 75 % restants sans que cela soit vu. Il peut en résulter de fortes surestimations ou sous-estimations de l'énergie. L'application des bonnes pratiques qu'ils proposent a réduit l'erreur par rapport à un wattmètre externe de 35 % en moyenne, et jusqu'à 65 % dans certains essais (Yang et al., 2023).
Conséquences pratiques :
- Faites durer chaque essai plusieurs minutes, pas quelques secondes.
- Enregistrez des valeurs moyennées ou le compteur d'énergie cumulé plutôt que des relevés instantanés ponctuels.
- Une fois par modèle de serveur, comparez les valeurs GPU et BMC à une pince ampèremétrique ou à une PDU mesurée sur la même charge.
Comment réaliser un essai énergétique, étape par étape ?
- Fixer le périmètre. Décidez si vous rapportez l'énergie du GPU, du serveur ou de l'installation, et indiquez-le dans chaque rapport.
- Relever la consommation à vide. Serveur allumé, modèle chargé, aucune requête, pendant au moins 30 minutes. C'est ce que coûte le serveur quand il attend.
- Rejouer une charge réaliste. Utilisez de vraies questions de votre jeu de test, avec la concurrence attendue en pointe. Notre guide pour évaluer un LLM sur vos documents explique comment constituer ce jeu.
- Enregistrer puissance et travail sur la même horloge. Collectez les relevés GPU, CPU et BMC en parallèle des compteurs du moteur de service. vLLM expose les compteurs
vllm:prompt_tokensetvllm:generation_tokensainsi quevllm:num_requests_runningsur son point d'accès/metrics(vLLM). La bibliothèque open source Zeus, utilisée par le benchmark ML.ENERGY, permet aussi de mesurer l'énergie depuis du code Python. - Calculer l'énergie. Utilisez les différences de compteurs, ou la puissance moyenne multipliée par la durée, séparément pour les périodes à vide et en charge.
- Normaliser. Divisez par le nombre de questions traitées et par milliers de tokens générés.
- Passer à l'échelle de l'installation. Multipliez par le PUE de votre salle.
- Recommencer après chaque changement de modèle, de précision, de réglages de lots ou de version logicielle, et conservez les résultats avec les tests de qualité des réponses.
Comment passer des watts à l'énergie par question et aux dinars ?
Un exemple chiffré pour l'assistant documentaire de 300 utilisateurs de notre comparaison de coûts, avec 20 questions par utilisateur et par jour ouvré. Les valeurs de puissance sont des hypothèses d'illustration, pas des mesures.
| Poste | Valeur | Base |
|---|---|---|
| Puissance à vide, 14 heures par jour | 0,5 kW | Hypothèse ; à mesurer au BMC |
| Puissance moyenne en heures ouvrées, 10 heures par jour | 1,3 kW | Hypothèse ; à mesurer au BMC |
| Énergie informatique par jour | 7,0 + 13,0 = 20,0 kWh | Calcul |
| Énergie de l'installation par jour avec un PUE de 1,54 | 30,8 kWh | Calcul |
| Questions par jour | 6 000 | 300 utilisateurs × 20 questions |
| Énergie informatique par question | environ 3,3 Wh | 20 000 Wh ÷ 6 000 |
| Énergie de l'installation par question | environ 5,1 Wh | 30 800 Wh ÷ 6 000 |
| Part du fonctionnement à vide dans l'énergie informatique | 35 % | 7,0 ÷ 20,0 |
Pour convertir en coût, la grille tarifaire de la CREG pour la haute tension type A donne un prix en poste unique (tarif 44) de 375,62 centimes le kWh, hors taxes. À ce tarif, 30,8 kWh coûtent environ 116 DA par jour, soit environ 42 200 DA par an pour 11 242 kWh. La grille renvoie à une décision de la CREG du 29 décembre 2015 : vérifiez le tarif sur votre facture Sonelgaz actuelle.
Deux enseignements en découlent. D'abord, dans cet exemple, un tiers de l'énergie est consommé à attendre : l'énergie par question baisse donc quand l'usage augmente, et un serveur peu utilisé paraît cher par question. Ensuite, l'horaire compte sur un tarif horo-saisonnier : au tarif 42 de la même grille, le prix en heures de pointe, de 17 h à 21 h, est de 872,02 centimes le kWh contre 180,64 centimes le reste de la journée. Les traitements par lots comme la réindexation des documents peuvent être programmés hors pointe.
Qu'est-ce qui fait varier l'énergie par réponse ?
La taille de lot. Les moteurs de service traitent plusieurs requêtes ensemble, ce qui répartit le coût de chaque passe sur davantage de réponses. Dans les mesures ML.ENERGY sur GPU H100, l'énergie par génération de Qwen 3 32B a été divisée par environ 5,8 quand la taille de lot maximale est passée de 4 à 64. Les modèles de raisonnement, qui produisent de longues sorties, ne peuvent pas tourner avec des lots aussi grands, ce qui limite ce gain (Chung et al., 2025). Le même article indique que ses recommandations d'optimisation automatiques ont parfois permis d'économiser plus de 40 % d'énergie sans changer ce que calcule le modèle.
Le modèle et la tâche. Luccioni, Jernite et Strubell ont mesuré l'énergie de 1 000 inférences sur un GPU A100 pour de nombreux modèles et tâches. La génération de texte consommait en moyenne environ 0,047 kWh, contre 0,002 kWh pour la classification de texte, et les modèles génératifs polyvalents étaient « plus coûteux de plusieurs ordres de grandeur » que les modèles spécialisés pour plusieurs tâches (Luccioni et al., 2024). Si une tâche ne demande qu'une étiquette, un classifieur ou un petit modèle de langage peut s'en charger pour une fraction de l'énergie.
Plafonds de puissance et fréquences d'horloge. Avec LLaMA 65B sur quatre GPU A100, abaisser le plafond de puissance de 250 W à 175 W a allongé le temps d'inférence de 6,7 % en moyenne et réduit l'énergie totale de 23,21 % ; un plafond de 150 W a allongé le temps de 19,49 % (Samsi et al., 2023). Sur un H200, une étude plus récente a jugé le plafonnement de puissance inefficace pendant la génération de texte et indique que le verrouillage de la fréquence d'horloge du GPU a récupéré jusqu'à 32 % de l'énergie de génération avec une perte de débit minime (Ma et al., 2026). Ces deux résultats portent sur des matériels et des réglages différents : testez toute limite sur votre propre serveur et vérifiez les temps de réponse.
Le temps à vide. Regrouper les charges légères sur un même serveur, ou mettre en veille les environnements de test en dehors des heures ouvrées, réduit la part du fonctionnement à vide vue dans l'exemple ci-dessus.
Que faut-il rapporter, et à qui ?
| Destinataire | Indicateur | Pourquoi |
|---|---|---|
| Services généraux et infrastructure informatique | kW de pointe par serveur et par baie | Comparaison avec la capacité de la salle, de l'onduleur et du groupe électrogène |
| Responsable énergie | kWh par mois au niveau de l'installation | S'intègre à la comptabilité énergétique du site |
| Responsable produit | Wh par question et pour 1 000 tokens générés | Comparaison des modèles et des réglages |
| Direction | Coût annuel en DA | Situe l'énergie à côté du matériel et du personnel |
Précisez toujours les conditions : modèle, précision, réglages de lots, limites de puissance ou d'horloge, versions logicielles et périmètre de mesure. Pour le bilan carbone, appliquez le facteur d'émission du réseau que votre entreprise utilise déjà pour le reste de son électricité.
Ce que nous avons constaté chez KABAS AI
DALILE tourne sur les serveurs du client : l'alimentation électrique, la climatisation et le secours de la salle serveurs font donc partie de la préparation de chaque déploiement. Les chiffres de cet article proviennent des sources publiques citées ou sont des hypothèses signalées comme telles ; ce ne sont pas des mesures réalisées sur des sites clients.
Le conseil pratique est de mesurer pendant le pilote, sur le serveur réel, avant de commander du matériel supplémentaire : une consommation à vide, une pointe réaliste et l'énergie par question, enregistrées avec les tests de qualité des réponses pour qu'un changement de modèle soit jugé sur les deux. Demandez aussi aux soumissionnaires leurs valeurs de puissance et de refroidissement, comme le suggère notre checklist d'achat d'IA on-premise, et pour les sites alimentés par groupe électrogène, voir l'IA sur les sites isolés. Notre équipe conseil peut mettre en place cette mesure avec vos équipes informatique et services généraux.
Sources
- Chung et al., The ML.ENERGY Benchmark: Toward Automated Inference Energy Measurement and Optimization, arXiv 2505.06371, 2025
- Yang, Adamek et Armour, Part-time Power Measurements: nvidia-smi's Lack of Attention, arXiv 2312.02741, 2023
- Uptime Institute Global Data Center Survey 2025 (PDF)
- NVIDIA : documentation de nvidia-smi
- NVIDIA DCGM : identifiants de champs
- NVIDIA dcgm-exporter sur GitHub
- Documentation du noyau Linux : framework powercap
- Page de manuel d'ipmitool
- Schéma DMTF Redfish EnvironmentMetrics
- vLLM : métriques de production
- Zeus sur GitHub (ML.ENERGY)
- Luccioni, Jernite et Strubell, Power Hungry Processing: Watts Driving the Cost of AI Deployment?, ACM FAccT 2024 (arXiv 2311.16863)
- Samsi et al., From Words to Watts: Benchmarking the Energy Costs of Large Language Model Inference, arXiv 2310.03003, 2023
- Ma et al., The Illusion of Power Capping in LLM Decode, arXiv 2605.11999, 2026
- CREG : tarification de l'électricité haute tension type A (PDF)
Questions fréquentes
Combien d'électricité consomme un serveur LLM on-premise ?
Il n'y a pas de chiffre unique : cela dépend des GPU, du modèle, de la charge et du nombre d'heures où le serveur tourne à vide. La puissance nominale des GPU est un plafond, utile pour dimensionner les circuits et l'alimentation de secours, mais la consommation mesurée est généralement plus faible. Mesurez votre propre serveur sur une journée complète, nuits et week-ends compris.
nvidia-smi est-il assez précis pour mesurer l'énergie d'un GPU ?
C'est un bon point de départ, pas un instrument de référence. Une étude de 2023 portant sur plus de 70 GPU a montré que sur les cartes A100 et H100, seuls 25 % environ du temps d'exécution sont échantillonnés pour la puissance, ce qui peut surestimer ou sous-estimer l'énergie. Faites des essais de plusieurs minutes, enregistrez des valeurs moyennées ou le compteur d'énergie cumulé, et comparez une fois le résultat à un compteur externe.
Qu'est-ce que le PUE et quelle valeur retenir ?
Le PUE (Power Usage Effectiveness) est la puissance totale de l'installation divisée par celle des équipements informatiques ; il ajoute donc la climatisation et les pertes de distribution électrique à la consommation propre du serveur. Retenez la valeur mesurée par vos services généraux pour la salle où se trouve le serveur. À défaut, la moyenne pondérée de l'enquête 2025 de l'Uptime Institute était de 1,54, mais une petite salle serveurs peut s'en écarter fortement.
Un modèle plus petit consomme-t-il moins d'énergie par réponse ?
En général oui, mais mesurez-le sur votre propre charge. Dans une étude portant sur 1 000 inférences par tâche, la génération de texte consommait en moyenne environ 0,047 kWh contre environ 0,002 kWh pour la classification de texte, et les modèles spécialisés étaient bien moins coûteux que les modèles génératifs polyvalents. Refaites le même essai énergétique avec chaque modèle candidat et comparez les wattheures par question.
Faut-il lancer les traitements IA par lots la nuit pour économiser ?
Si votre site est sur un tarif horo-saisonnier, cela peut aider. Selon la grille haute tension de la CREG, le prix en heures de pointe, de 17 h à 21 h, au tarif 42 est de 872,02 centimes le kWh contre 180,64 centimes hors pointe. Des traitements comme la réindexation des documents peuvent souvent attendre les heures creuses. Vérifiez le tarif applicable à votre site sur votre facture Sonelgaz.
L'électricité pèse-t-elle lourd dans le coût de l'IA on-premise ?
Généralement non. Dans notre modèle de coût sur trois ans pour un serveur à deux GPU, l'électricité au tarif officiel haute tension représentait environ 2 % du total, loin derrière le matériel et le personnel. La capacité électrique et frigorifique de la salle serveurs, l'onduleur et le groupe électrogène sont plus souvent la vraie contrainte.



