AI Factory Hub: Grid-to-Chip og Chip-to-Chiller AI-infrastruktur

En AI-fabrik er et specialbygget anlæg, der er designet til at fungere som et enkelt, stort computerklynge til træning og implementering af AI-modeller. I modsætning til traditionelle datacentre, der understøtter blandede arbejdsbelastninger, er AI-fabrikker optimeret til at opnå maksimal GPU-gennemstrømning i stor skala. Som NVIDIA’s Jensen Huang beskriver det, fungerer disse anlæg som produktionsanlæg: data og regnekraft går ind, og trænede modeller og resultater kommer ud.

Som beskrevet i Schneider Electrics hvidbog 110: How 6 AI Attributes Change Data Center Design, trækker disse GPU-klyngers store skala og strømbehov, når de træner AI-modeller, spidsbelastning samtidig. Mens traditionelle datacentre blev dimensioneret efter gennemsnitlige, diversificerede belastninger, skal AI-fabrikker dimensioneres til den synkrone spidsbelastning – et fundamentalt anderledes elektrisk designkrav, der påvirker UPS-systemer, koblingsudstyr og nettilslutning.

Den stigende TDP (Thermal Design Power) i moderne AI-computere presser rack-tætheden langt ud over 200 kW, hvilket langt overskrider de termiske grænser for luftkøling. Som dokumenteret i Schneider Electrics hvidbog 133: Navigating Liquid Cooling Architectures for Data Centers with AI Workloads, bliver direkte-til-chip-væskekøling nødvendig over ca. 20-30 kW pr. rack. Vandets varmeledningsevne og varmekapacitet gør det mange gange mere effektivt end luft ved disse tætheder. Det er afgørende, at mange AI-servere af den nuværende generation leveres helt uden blæsere, hvilket lægger hele den termiske byrde over på anlæggets væskekølesystem.

Som forklaret af vores lokale Schneider Electrics chef for og ekspert i AI, Steven Carlini, i denne artikel, er datacentre fysiske bygninger og faciliteter, der lagrer IT-infrastruktur til specifikke applikationer og relaterede tjenester. De fungerer også som datalagre til opbevaring og administration af data knyttet til disse applikationer. På den anden side er AI-fabrikker faciliteter, der producerer digitalt output fra datacentre.

AI-fabrikker håndterer hele AI-livscyklussen, fra modeltræning og finjustering til udførelse af inferens. I takt med at AI-modeller bliver mere selvstyrende, forventes optimerede inferensopgaver at køre kontinuerligt på baggrund af nye data og dermed skabe yderligere værdi. Mens traditionelle datacentre ikke kan håndtere disse højere effekttætheder og store varmeudledninger, benytter AI-fabrikker innovative referencedesigns for at opfylde disse driftskrav.

Digitale tvillinger reducerer risikoen ved at give operatørerne mulighed for at simulere og validere infrastruktur på en virtuel model af anlægget før og under udrulningen og løbende under driften. Inden produktionen påbegyndes, modellerer de strømforbrug, køling og arbejdsbelastning for at opdage konstruktionsfejl på et tidligt tidspunkt, da det ville være dyrt at afhjælpe disse efter produktionen (f.eks. utilstrækkelig køling eller begrænset strømkapacitet).

Under implementeringen hjælper digitale tvillinger med at sammenligne muligheder som prefab vs. traditionelle byggerier ved hjælp af virkelige arbejdsbelastningssimuleringer. I stedet for at vælge teknologier ud fra specifikationsark kan teams teste den faktiske adfærd under simulerede AI-arbejdsbelastninger, inden beslutningerne om installation træffes. Når de er taget i brug, anvender digitale tvillinger realtidsdata til at simulere virkningen af en planlagt ændring (f.eks. tilføjelse af en ny GPU-klynge eller omfordeling af kølezoner), inden den gennemføres i produktionsmiljøet. De kan også opdage tidlige tegn på fejl, hvilket giver teamene tilstrækkelig tid til at gribe ind, inden en træningskørsel afbrydes.

AI-fabrikker kan ikke klare uplanlagte driftsstop; et enkelt nedbrud kan sætte en stopper for en træningsopgave, der strækker sig over flere uger. Traditionelle vedligeholdelsesmodeller, der bygger på faste tidsplaner eller reaktive reparationer, er ikke længere tilstrækkelige. Den bedste fremgangsmåde er tilstandsbaseret vedligeholdelse (CBM), hvor man ved hjælp af realtidsdata kun udfører service på udstyret, når det er nødvendigt.

Schneider Electrics EcoCare-model anvender denne tilgang med 24/7-overvågning, AI-drevne analyser og ekspertsupport. Elektriske systemer overvåges løbende for at styre spidsbelastninger på UPS'er (uninterruptible power supplies) og koblingsudstyr. Ved at skifte til forebyggende vedligeholdelse kan operatører forhindre nedbrud, før de opstår, og sikre, at den kritiske AI-infrastruktur kører uden afbrydelser.

Bæredygtighed i AI-fabrikker måles ikke længere udelukkende på energiforbruget. Efterhånden som branchen udvikler sig, fokuserer organisationer i stigende grad på tokens per watt per dollar, en måling, der afspejler både AI-infrastrukturens energieffektivitet og økonomiske produktivitet. Avanceret strømfordeling, væskekøling, automatisering og digital tvilling-teknologier hjælper AI-fabrikker med at generere mere AI-output med færre ressourcer, hvilket reducerer driftsomkostningerne og miljøpåvirkningen. Schneider Electrics end-to-end-infrastrukturløsninger hjælper kunderne med at forbedre AI-produktiviteten og understøtter samtidig deres bæredygtighedsmål.

Læs, hvordan branchen omdefinerer bæredygtig AI-infrastruktur i denne artikel fra Data Center Dynamics (DCD)

AI-fabrikker står over for flere udfordringer, når de skalerer AI-træning og inferens-arbejdsbyrder. De vigtigste forhindringer omfatter styring af massive computer- og GPU-ressourcer, håndtering af eksponentiel datavækst, sikring af højhastighedsnetværk og kontrol af strøm- og kølebehov. Organisationer skal også håndtere cybersikkerhed, databeskyttelse, overholdelse af regler og stigende driftsomkostninger. Derudover kan det være komplekst at maksimere udnyttelsen af infrastrukturen og samtidig opretholde ydeevne og pålidelighed. For at få succes kræver AI-fabrikker skalerbar, energieffektiv og sikker infrastruktur, der muliggør hurtigere AI-innovation og samtidig optimerer omkostninger og bæredygtighed.