L’intelligence artificielle met en évidence une limite dans la façon dont les entreprises ont traditionnellement abordé les coûts d’infrastructure : le coût réel d’une charge de travail d’IA ne peut pas être évalué uniquement en fonction des dépenses de calcul.
Une entreprise peut réduire ses coûts liés aux GPU et améliorer leur taux d’utilisation tout en dépensant davantage pour du stockage haute performance, du réseautage, le déplacement des données, la réplication ou la reprise après sinistre. Lorsque ces coûts sont répartis entre différents budgets, l’infrastructure peut sembler optimisée alors que le coût global de la charge de travail continue d’augmenter.
Le FinOps évolue déjà pour tenir compte de cette réalité. Selon les recherches 2026 de la FinOps Foundation, 98 % des professionnels du FinOps gèrent désormais les dépenses liées à l’IA, comparativement à 31 % deux ans auparavant. Par ailleurs, 57 % gèrent les coûts liés au nuage privé et 48 % les dépenses associées aux centres de données.
La discipline évolue donc au-delà de la simple optimisation des factures infonuagiques pour englober une gestion plus large de la valeur des investissements technologiques.
Pour les DSI, cela signifie que l’infrastructure d’IA nécessite un modèle de coûts qui suit la charge de travail dans son ensemble — calcul, stockage, réseau, déplacement des données et résilience — plutôt que de traiter chaque ressource comme une dépense distincte.
Le coût de l’IA commence avant même le GPU
Le GPU est peut-être la dépense la plus visible de l’infrastructure d’IA, mais il ne représente qu’une partie de l’équation économique.
Avant même d’atteindre l’accélérateur, les données d’entraînement doivent être recueillies, traitées et stockées. Les points de contrôle, les résultats intermédiaires et les données associées aux modèles génèrent ensuite des besoins de stockage supplémentaires pendant et après l’entraînement.
Une fois l’IA mise en production, d’autres coûts s’ajoutent : calcul persistant, réseautage, surveillance et protection des données. Dans les environnements hybrides, les transferts entre les nuages et les centres de données peuvent également générer des dépenses supplémentaires.
Les recherches de la FinOps Foundation indiquent que 97 % des organisations investissent dans plusieurs composantes de leur infrastructure pour soutenir l’IA, ce qui illustre à quel point les dépenses liées à l’IA dépassent rapidement le seul volet du calcul.
Dans ce contexte, l’analyse économique à l’échelle de la charge de travail devient plus pertinente qu’une simple facture d’infrastructure.
L’unité de mesure pourrait être le coût d’un cycle d’entraînement, d’un million de requêtes d’inférence ou encore d’un processus d’affaires complet. Une fois cette unité établie, l’organisation peut déterminer beaucoup plus précisément quels choix d’infrastructure améliorent réellement l’efficacité.
L’utilisation des GPU ne raconte pas toute l’histoire
Un taux élevé d’utilisation des GPU est souhaitable, mais il ne signifie pas automatiquement qu’un environnement d’IA est économiquement efficace.
Les GPU peuvent passer du temps à attendre les données, la disponibilité des ressources, la capacité réseau ou les performances du stockage. À l’inverse, une charge de travail dont la demande varie fortement peut laisser des accélérateurs coûteux inutilisés, même lorsque l’architecture sous-jacente est adéquate.
C’est pourquoi le taux d’utilisation doit être analysé en tenant compte de l’ensemble de l’infrastructure qui soutient les GPU.
Si les accélérateurs attendent parce que les données ne peuvent pas leur être fournies suffisamment rapidement, ajouter davantage de GPU ne fera qu’augmenter la capacité sous-utilisée.
Si la demande varie fortement, une capacité infonuagique élastique peut être plus économique que le maintien permanent d’une vaste grappe d’accélérateurs.
La décision financière ne devrait donc pas simplement porter sur le coût horaire d’un GPU.
La véritable question est plutôt de savoir quelle quantité de travail d’IA productif ce GPU permet de réaliser par rapport à l’investissement total dans l’infrastructure qui le soutient.
Le stockage et le déplacement des données peuvent transformer l’équation économique
Le stockage et le réseautage deviennent particulièrement importants lorsque les charges de travail d’IA fonctionnent dans plusieurs environnements.
De grands ensembles de données peuvent circuler entre du stockage objet et des systèmes haute performance. Les points de contrôle peuvent devoir être répliqués, tandis que les architectures hybrides peuvent nécessiter des transferts réguliers entre l’infrastructure sur place et les nuages publics.
Les frais de sortie de données du nuage peuvent rendre un environnement de calcul qui semblait initialement économique beaucoup plus coûteux lorsque de grands volumes de données quittent régulièrement une région ou un fournisseur.
De la même façon, un stockage moins coûteux peut perdre son avantage économique si les données d’IA fréquemment utilisées doivent constamment être transférées vers des environnements plus performants avant de pouvoir être exploitées.
La localité des données devient donc une décision financière autant qu’architecturale.
L’emplacement le plus économique pour les ressources de calcul peut dépendre de l’endroit où les données résident déjà, de leur fréquence d’utilisation et du volume de données qui doit être déplacé.
Open Storage Solutions a mis en évidence cette même évolution dans ses travaux sur les infrastructures natives pour l’IA, où le stockage, le calcul et le réseautage sont considérés comme des composantes interconnectées d’une même plateforme d’IA plutôt que comme des couches d’infrastructure indépendantes.
La résilience doit faire partie du coût total de possession de l’IA
À mesure que l’IA s’intègre aux systèmes de production, la résilience ajoute une autre dimension aux coûts que les mesures traditionnelles d’utilisation peuvent représenter de manière inadéquate.
Les ensembles de données répliqués, le stockage protégé, la capacité de sauvegarde et les infrastructures secondaires peuvent sembler sous-utilisés pendant les opérations normales. Pourtant, ces ressources existent précisément pour répondre aux exigences de récupération et de disponibilité.
Pour un DSI, la véritable question n’est donc pas de savoir si cette capacité est constamment utilisée.
Il faut plutôt déterminer si le coût nécessaire pour la maintenir est justifié par la valeur d’affaires et le niveau de risque associés à la charge de travail d’IA.
Cette question devient particulièrement importante dans les environnements hybrides, où une charge de travail moins coûteuse à exécuter dans un environnement donné peut finalement être plus coûteuse à protéger ou à récupérer dans ce même environnement.
Le rendement des investissements dans l’infrastructure d’IA doit donc prendre en compte à la fois les coûts d’exploitation normaux et les capacités de résilience nécessaires pour maintenir la charge de travail viable lorsque les conditions changent.
Du FinOps à une vision économique complète de l’infrastructure d’IA
L’évolution du FinOps mène finalement vers une responsabilité beaucoup plus large : comprendre la valeur générée par l’ensemble de la pile technologique plutôt que d’optimiser séparément chaque facture d’infrastructure.
Dans le contexte de l’IA, cela signifie relier l’économie des GPU au coût total de possession du stockage, le taux d’utilisation au débit des données, les tarifs infonuagiques aux frais de sortie de données, le placement des charges de travail aux coûts de déplacement ainsi que la réplication et la reprise après sinistre aux risques d’affaires.
L’objectif n’est pas de rendre chaque composante aussi peu coûteuse que possible.
Il s’agit plutôt de déterminer si l’ensemble de l’infrastructure permet d’atteindre le résultat attendu de l’IA à un coût économiquement viable.
Pour Open Storage Solutions, c’est précisément à ce niveau que le stockage devient une composante de la décision d’investissement en IA.
La façon dont les données sont stockées, consultées, déplacées, répliquées et récupérées influence directement la valeur qu’une organisation retire de ses investissements en ressources de calcul.
La question que se posent les DSI devrait donc évoluer.
Plutôt que de demander :
« Combien coûte ce GPU? »
il devient plus pertinent de demander :
« Combien coûte réellement l’exécution de cette charge de travail d’IA, de bout en bout? »
Ce changement de perspective offre aux dirigeants technologiques une base beaucoup plus claire pour déterminer où les charges de travail devraient être exécutées, comment l’infrastructure devrait être optimisée et où des investissements supplémentaires peuvent véritablement améliorer les performances de l’IA et la valeur créée pour l’entreprise.
Add your first comment to this post