Hub AI Factory Hub : infrastructure d'IA « du réseau à la puce » et « de la puce au refroidisseur »

Une usine d’IA est un site spécialement conçu pour fonctionner comme un immense cluster de calcul unique, destiné à l'entraînement et au déploiement de modèles d'IA. Contrairement aux data centers traditionnels qui supportent des charges de travail mixtes, les usines d’IA sont optimisées pour offrir un débit maximal des GPU à grande échelle. Comme l'explique Jensen Huang, de NVIDIA, ces installations fonctionnent comme des usines de production : on y introduit des données et de la puissance de calcul, et on en retire des modèles entraînés et des résultats.

Comme l'explique en détail le livre blanc n° 110 de Schneider Electric : Comment 6 caractéristiques de l'IA transforment la conception des data centers (How 6 AI Attributes Change Data Center Design), l'envergure et les besoins en énergie de ces clusters de GPU, lors de l'entraînement de modèles d'IA, génèrent simultanément une puissance de pointe. Alors que les data centers traditionnels étaient dimensionnés en fonction de charges moyennes et diversifiées, les AI Factories doivent être dimensionnées pour faire face aux pics synchrones, ce qui représente une exigence de conception électrique fondamentalement différente qui a des répercussions sur les systèmes d’onduleur, l'appareillage de commutation et le raccordement au réseau public.

L'augmentation de la puissance thermique de calcul (TDP) de l'IA moderne pousse les densités de rack bien au-delà de 200 kW, dépassant de loin les limites thermiques du refroidissement par air. Comme l'indique le livre blanc n° 133 de Schneider Electric : Guide des architectures de refroidissement par liquide pour les data centers hébergeant des charges de travail d'IA (Navigating Liquid Cooling Architectures for Data Centers with AI Workloads), le refroidissement par liquide direct sur les puces devient indispensable à partir d'une puissance d'environ 20 à 30 kW par rack. La conductivité thermique et la capacité thermique de l'eau le rendent bien plus efficace que l'air à ces densités. Il est important de noter que de nombreux serveurs d'IA de la génération actuelle sont livrés sans aucun ventilateur, ce qui fait peser l'intégralité de la charge thermique sur l'infrastructure de refroidissement par liquide au niveau du site.

Comme l'explique Steven Carlini, notre expert et ambassadeur IA chez Schneider Electric, dans cet article, les data centers sont des bâtiments et des installations physiques qui hébergent l'infrastructure informatique nécessaire à des applications spécifiques et aux services associés. Ils servent également de référentiels pour le stockage et la gestion des données associées à ces applications. D'autre part, les usines d'IA sont des installations qui produisent des sorties numériques à partir de data centers.

Les usines d’IA gèrent l'ensemble du cycle de vie de l'IA, depuis l'entraînement et le réglage fin des modèles jusqu'à l'exécution des inférences. À mesure que les modèles d'IA gagnent en autonomie, les charges de travail d'inférence optimisées devraient fonctionner en continu à partir de nouvelles données, générant ainsi une valeur ajoutée. Alors que les data centers traditionnels ne sont pas en mesure de supporter ces densités de puissance plus élevées et ces décharges thermiques intenses, les usines d’IA ont recours à des conceptions de référence innovantes pour répondre à ces exigences opérationnelles.

Les jumeaux numériques réduisent les risques en permettant aux opérateurs de simuler et de valider l'infrastructure sur un modèle virtuel de l'installation avant et pendant le déploiement, ainsi que de manière continue pendant l'exploitation. Avant la construction, ils modélisent la consommation électrique, le refroidissement et le comportement des charges de travail afin de détecter rapidement les défauts de conception, dont la correction serait coûteuse une fois la construction achevée (par exemple, un système de refroidissement sous-dimensionné ou une capacité électrique limitée).

Lors du déploiement, les jumeaux numériques permettent de comparer différentes options, telles que la construction préfabriquée et la construction traditionnelle, à l'aide de simulations de charge de travail réelles. Plutôt que de choisir des technologies en se basant uniquement sur les fiches techniques, les équipes peuvent valider leur comportement réel dans le cadre de charges de travail d'IA simulées avant de finaliser leurs décisions d'installation. Une fois opérationnels, les jumeaux numériques utilisent des données en temps réel pour simuler l'impact d'un changement prévu (par exemple, l'ajout d'un nouveau cluster de GPU ou le rééquilibrage des zones de refroidissement) avant de le mettre en œuvre en production. Ils permettent également de détecter les premiers signes de défaillance, ce qui laisse aux équipes suffisamment de temps pour intervenir avant qu'une session d'entraînement ne soit interrompue.

Les usines d’IA ne peuvent se permettre aucun temps d'arrêt imprévu ; une seule panne peut interrompre un processus d'entraînement qui s'étend sur plusieurs semaines. Les modèles de maintenance traditionnels, fondés sur des calendriers fixes ou des réparations réactives, ne suffisent plus. La meilleure pratique consiste à recourir à la maintenance conditionnelle (CBM), qui utilise des données en temps réel pour n'intervenir sur les équipements qu'en cas de besoin.

Le modèle EcoCare de Schneider Electric met en œuvre cette approche grâce à une surveillance 24 h/ 24, 7 j/7, à des analyses basées sur l'intelligence artificielle et à l'assistance d'experts. Les systèmes électriques sont surveillés en permanence afin de gérer les pics de charge sur les alimentations sans interruption (ASI) et les appareillages de commutation. En adoptant la maintenance prédictive, les opérateurs peuvent prévenir les pannes avant qu'elles ne surviennent et assurer le fonctionnement continu des infrastructures d'IA essentielles.

Le développement durable dans les usines d'IA ne se mesure plus uniquement à la consommation énergétique. À mesure que le secteur évolue, les entreprises accordent de plus en plus d'importance au nombre de jetons par watt par dollar, un indicateur qui reflète à la fois l'efficacité énergétique et la productivité économique des infrastructures d'IA. Les technologies avancées de distribution d'énergie, de refroidissement par liquide, d'automatisation et de jumeau numérique aident les AI Factories à générer plus d'énergie avec moins de ressources, réduisant ainsi les coûts d'exploitation et l'impact sur l'environnement. Les solutions d'infrastructure de bout en bout de Schneider Electric aident les clients à améliorer la productivité de l'IA tout en soutenant leurs objectifs de développement durable.

Découvrez comment l'industrie redéfinit une infrastructure d'IA durable dans cet article de Data Center Dynamics (DCD)

Les usines d'IA sont confrontées à plusieurs défis lorsqu'elles augmentent l'échelle de leurs charges de travail liées à l'entraînement et à l'inférence en IA. Parmi les principaux obstacles figurent la gestion d'énormes ressources de calcul et de GPU, la gestion de la croissance exponentielle des données, la garantie d'un réseau à haut débit, ainsi que la maîtrise des besoins en énergie et en refroidissement. Les organisations doivent également faire face à la cybersécurité, à la confidentialité des données, à la conformité réglementaire et à l'augmentation des coûts opérationnels. En outre, maximiser l'utilisation de l'infrastructure tout en maintenant les performances et la fiabilité peut s'avérer complexe. Pour réussir, les AI Factories ont besoin d'une infrastructure évolutive, économe en énergie et sécurisée qui permet d'accélérer l'innovation en matière d'IA tout en optimisant les coûts et le développement durable.