Lorsque l’infrastructure d’IA devient coûteuse, le premier réflexe est souvent d’examiner la facture des GPU. Pourtant, dans de nombreux environnements de production, la question la plus importante est de savoir ce que ces GPU attendent.
Prenons l’exemple de Synthesia, une plateforme de communication vidéo par IA destinée aux entreprises, qui s’appuie sur des ressources de calcul à grande échelle pour développer des modèles texte-vidéo toujours plus réalistes. À mesure que ses charges de travail d’IA se développaient sur AWS, l’entreprise s’est heurtée à un problème qui n’avait pas grand-chose à voir avec la puissance brute de ses GPU. Des processus de stockage et de gestion des données hérités créaient des goulets d’étranglement, entraînant une faible utilisation des GPU et ralentissant l’entraînement des modèles. Synthesia a finalement adopté une plateforme de données conçue pour maintenir les données d’entraînement à disposition du calcul, tout en réduisant les déplacements manuels de données et en simplifiant la migration entre les régions AWS.
La performance de l’IA ne dépend donc pas uniquement de la capacité de calcul. Elle dépend de l’efficacité avec laquelle les données parviennent à ce calcul, de la fréquence à laquelle elles doivent être déplacées, de l’endroit où elles sont stockées et du coût de fonctionnement de l’ensemble du pipeline. C’est là que la gravité des données devient plus qu’un concept d’architecture : elle devient une décision économique.
Le GPU n’est productif que si les données suivent le rythme
Ce changement économique prend une importance particulière lorsque les organisations font passer leurs charges de travail d’IA de l’expérimentation à la production. Les GPU modernes peuvent traiter d’énormes volumes de données, mais cette capacité crée une nouvelle exigence d’infrastructure : le stockage et le réseau doivent fournir les données à un débit suffisant pour occuper pleinement les accélérateurs. HPE et NVIDIA ont souligné directement cette évolution, en notant que le déplacement des données, leur localité et l’efficacité du pipeline peuvent devenir des facteurs limitants, même lorsque les performances des GPU et du réseau continuent de progresser.
Les conséquences pour les responsables d’infrastructure sont importantes. Acheter davantage de GPU n’augmente pas automatiquement la capacité d’IA réellement exploitable. Si la couche de stockage ne peut pas fournir les données assez rapidement, des ressources de calcul coûteuses restent sous-utilisées.
Des technologies telles que NVIDIA GPUDirect Storage illustrent l’importance du chemin entre le stockage et le GPU. En limitant l’intervention inutile du CPU dans le chemin des données, GDS peut améliorer le débit et réduire les goulets d’étranglement ; NVIDIA a fait état de gains supérieurs à 2x dans certaines configurations, et d’améliorations nettement plus importantes pour certaines charges de travail de stockage spécifiques.
Dès lors que le chemin des données entre dans l’équation de performance, une autre question se pose naturellement : que se passe-t-il lorsque ces données doivent franchir les frontières de l’infrastructure ?
Le déplacement des données a un prix
L’impact financier devient plus visible lorsque de grands ensembles de données commencent à circuler entre clouds, régions ou environnements.
Les fournisseurs de cloud facturent de nombreuses formes de transfert de données, en particulier les données qui quittent un environnement cloud. Microsoft Azure, par exemple, affiche des tarifs de transfert de données vers Internet pouvant atteindre environ 0,12 $ par Go pour certaines zones géographiques et certains scénarios de routage, au-delà du volume gratuit applicable. À ce tarif, déplacer 100 To pourrait représenter environ 12 000 $ de frais de transfert à eux seuls. Ce calcul n’inclut ni le stockage, ni l’infrastructure réseau, ni la synchronisation, ni le traitement, ni les coûts opérationnels liés à la gestion de copies supplémentaires.
Google Cloud applique également des frais de transfert de données qui varient selon la destination et le volume, certains flux sortants étant facturés autour de 0,12 $ par Gio pour les niveaux d’utilisation les plus bas. Un transfert ponctuel peut rester gérable. Le problème apparaît lorsque le même ensemble de données circule à répétition entre régions, clouds, environnements de développement, clusters d’entraînement, plateformes d’analyse et sites de reprise après sinistre. L’équation de l’infrastructure s’en trouve modifiée : le coût de l’IA ne se limite plus au prix des GPU et du stockage. Il inclut le coût nécessaire pour acheminer les bonnes données vers le bon calcul, au bon moment.
La gravité des données change la décision de placement
La gravité des données désigne la tendance des ensembles de données volumineux et à forte valeur à attirer vers eux les applications, les services et les ressources de calcul. Dans un environnement d’IA, cette attraction se renforce, car l’entraînement et l’inférence peuvent impliquer des ensembles de données considérables et des accès fréquents.
Cela ne signifie pas que les entreprises doivent systématiquement rapatrier le calcul sur site. Les GPU dans le cloud peuvent rester très pertinents sur le plan économique pour des charges de travail temporaires, imprévisibles ou nécessitant une montée en charge rapide.
La question devient plus précise :
Où la charge de travail doit-elle s’exécuter lorsque le coût d’accès à ses données est pris en compte ?
Pour une tâche d’entraînement ponctuelle, payer du calcul dans le cloud et transférer un ensemble de données peut être raisonnable. Pour une inférence continue sur un ensemble de données d’entreprise volumineux et en constante évolution, déplacer sans cesse l’information vers un calcul distant peut engendrer des coûts et une latence inutiles.
La décision doit donc tenir compte du comportement réel de la charge de travail : taille de l’ensemble de données, fréquence d’accès, rythme d’évolution, sensibilité des données, exigences de latence, durée de la charge de travail et fréquence à laquelle l’information doit franchir des frontières entre clouds ou entre régions.
Une fois ces facteurs examinés ensemble, un point devient particulièrement facile à négliger.
Le coût caché est souvent la duplication
Le déplacement des données n’apparaît pas toujours sous la forme d’une ligne intitulée « déplacement des données ». Il se manifeste souvent de manière indirecte, à travers des ensembles de données dupliqués. Une copie de données n’est pas seulement un problème de stockage ; elle crée un problème de synchronisation. Plus les copies se multiplient, plus il devient difficile de déterminer quelle version est à jour, laquelle est gouvernée et laquelle peut être restaurée de manière fiable.
Pour les entreprises qui exploitent l’IA à grande échelle, réduire les copies inutiles peut donc être aussi précieux que réduire la consommation brute de stockage.
Le cloud hybride devient une stratégie de placement des charges de travail
L’infrastructure hybride est souvent présentée comme un compromis entre le sur site et le cloud. Pour l’IA, il peut être plus utile de la considérer comme une stratégie de placement des charges de travail.
Les données sensibles, fortement réglementées ou consultées en continu peuvent avoir tout intérêt, sur les plans économique et opérationnel, à rester à proximité d’une infrastructure maîtrisée. Les charges de travail ponctuelles et intenses peuvent s’appuyer sur la capacité GPU du cloud public. Les ensembles de données fréquemment consultés peuvent rester
proches du calcul qui les utilise le plus. Les informations moins sollicitées peuvent être déplacées vers des niveaux de stockage moins coûteux.
L’objectif n’est pas de choisir un environnement unique pour tout. Il s’agit de réduire la distance inutile entre le calcul et les données, tout en préservant la flexibilité.
Cette approche est déjà visible dans la conception des infrastructures d’IA. Les travaux d’Oracle avec MosaicML, par exemple, s’appuient sur un réseau à haut débit et sur le stockage OCI pour acheminer efficacement de grands ensembles de données vers l’infrastructure GPU, sans les mêmes contraintes de frais de sortie inter-clouds (Oracle, 2025).
La question stratégique évolue donc : il ne s’agit plus de choisir entre « cloud ou sur site ? », mais de déterminer « quel environnement est approprié, sur les plans économique et opérationnel, pour cette charge de travail et ses données ? ».
Que doivent réellement mesurer les responsables technologiques ?
L’utilisation des GPU reste importante, mais elle ne constitue qu’une partie de l’équation. Une vision plus complète de l’économie de l’infrastructure d’IA devrait inclure :
Utilisation des GPU + latence d’accès aux données + débit de stockage + volume de transfert + duplication des données + surcharge de synchronisation + coûts opérationnels.
Prenons deux environnements dotés d’une capacité GPU identique. Si l’un alimente en permanence ses GPU en données tandis que l’autre subit des goulets d’étranglement de stockage, des retards réseau et des transferts répétés, leur coût réel par charge de travail sera très différent.
C’est pourquoi les équipes d’infrastructure devraient commencer à mesurer le coût total du chemin des données de l’IA, plutôt que d’examiner le prix du calcul de manière isolée.
La nouvelle équation de l’infrastructure
Pris ensemble, ces facteurs traduisent une évolution plus large dans la manière de concevoir l’infrastructure d’IA. Le calcul, le stockage et le réseau ne peuvent plus être évalués comme des couches totalement indépendantes.
La réponse n’est pas non plus que toutes les organisations devraient rapprocher leurs GPU de leurs données. La bonne décision dépend de la charge de travail. Certains environnements gagneront à maintenir le calcul à proximité de grands ensembles de données consultés en continu. D’autres auront intérêt à acheminer efficacement les données vers un calcul cloud élastique. D’autres encore auront besoin d’un modèle hybride associant des environnements de données maîtrisés et une accélération dans le cloud.
Chez Open Storage Solutions, nous considérons le stockage comme un élément de plus en plus actif de cette équation d’infrastructure. Alors que les entreprises évaluent l’IA, les environnements hybrides et la croissance des volumes de données, l’objectif n’est pas simplement de stocker davantage de données, mais de bâtir une architecture qui permette aux données de rester accessibles, résilientes et disponibles là où les charges de travail en ont besoin.
Avant d’investir dans davantage de calcul, il faut donc comprendre le coût et la performance du chemin des données qui l’alimente. Car l’avenir de l’infrastructure d’IA ne consiste pas simplement à déplacer le calcul vers les données ou les données vers le calcul. Il s’agit de réduire au minimum la distance coûteuse qui les sépare.
Add your first comment to this post