Centar za AI fabrike: AI infrastruktura od mreže do čipa i od čipa do rashladnog uređaja

AI fabrika je namenski izgrađen objekat dizajniran da funkcioniše kao jedan veliki računarski klaster za obuku i implementaciju AI modela. Za razliku od tradicionalnih data centara koji podržavaju kombinovana radna opterećenja, AI fabrike optimizuju maksimalnu propusnu moć GPU jedinica u velikom obimu. Kako to opisuje Džensen Huang iz preduzeća NVIDIA, ovi objekti funkcionišu kao proizvodni pogoni: podaci i računska snaga ulaze, a obučeni modeli i rezultati izlaze.

Kao što je detaljno objašnjeno u Beloj knjizi 110 preduzeća Schneider Electric: Kako šest atributa veštačke inteligencije menjaju projektovanje data centara, velike razmere i potrebe za napajanjem ovih GPU klastera tokom obučavanja AI modela istovremeno zahtevaju veliku količinu energije, što dovodi do vršnog opterećenja napajanja. Dok su tradicionalni data centri dimenzionisani prema prosečnim, diversifikovanim opterećenjima, AI fabrike moraju da budu dimenzionisane prema sinhronom vršnom opterećenju, što predstavlja fundamentalno drugačiji zahtev pri projektovanju elektroenergetske infrastrukture koji utiče na UPS sisteme, razvodne uređaje i priključak na elektroenergetsku mrežu.

Povećanje termalne projektne snage (TDP) modernih AI računarskih sistema dovodi do gustine rekova znatno iznad 200 kW, što značajno prevazilazi termalne kapacitete vazdušnog hlađenja. Kao što je dokumentovano u Beloj knjizi 133 preduzeća Schneider Electric: Vodič kroz arhitekture vodenog hlađenja za data centre sa AI radnim opterećenjima, vodeno hlađenje direktno na čip postaje neophodno iznad približno 20-30 kW po reku. Visoka termalna provodljivost i toplotni kapacitet vode čine je višestruko efikasnijom od vazduha pri ovakvim gustinama rekova. Ključno je da mnogi AI serveri današnje generacije nemaju ventilatore, pri čemu se kompletno termalno opterećenje prebacuje na sisteme vodenog hlađenja unutar samog objekta.

Kako u ovom članku objašnjava Stiven Karlini, glavni zagovornik i stručnjak za veštačku inteligenciju u preduzeću Schneider Electric, data centri su fizičke zgrade i objekti u kojima se skladišti IT infrastruktura za specifične aplikacije i povezane usluge. Data centri služe i kao skladišta za čuvanje i upravljanje podacima koji su povezani sa ovim primenama. S druge strane, AI fabrike su objekti koji proizvode digitalne izlazne podatke iz data centara.

AI fabrike upravljaju celokupnim životnim ciklusom veštačke inteligencije, od obuke modela i finog podešavanja do izvođenja inferencija. Kako AI modeli postaju sve autonomniji, očekuje se da će se optimizovana inferencijska radna opterećenja izvršavati kontinuirano na osnovu novih podataka, čime se generiše dodatna vrednost. Dok tradicionalni data centri ne mogu da podrže ovako velike gustine napajanja i intenzivna termalna opterećenja, AI fabrike koriste inovativne referentne dizajne kako bi ispunile ove operativne zahteve.

Digitalni blizanci smanjuju rizik tako što omogućavaju operaterima da simuliraju i provere valjanost infrastrukture na virtuelnom modelu objekta pre i tokom primene, kao i neprekidno tokom rada. Pre izgradnje, oni modeluju ponašanje sistema napajanja, hlađenje i radnih opterećenja kako bi u ranim fazama uočili projektne nedostatke, koje bi bilo skupo otklanjati nakon izgradnje (npr. nedovoljno dimenzionisani sistemi hlađenja ili ograničen kapacitet elektroenergetske infrastrukture).

U fazi primene, tehnologija digitalnih blizanaca omogućava poređenje opcija kao što su prefabrikovani data centri u odnosu na tradicionalne data centre, uz korišćenje simulacija stvarnih radnih opterećenja. Umesto da biraju tehnologije na osnovu tehničkih specifikacija, timovi mogu da provere njihovo stvarno ponašanje pod simuliranim AI radnim opterećenjima pre donošenja konačnih odluka o samoj instalaciji. Kada su aktivni, digitalni blizanci koriste podatke u realnom vremenu da simuliraju uticaj planiranih promena (npr. dodavanje novog GPU klastera ili ponovno balansiranje zona hlađenja) pre nego što se iste izvrše u proizvodnji. Digitalni blizanci mogu i da otkriju rane znake kvara, što timovima daje dovoljno vremena da intervenišu pre nego što se prekine proces obuke.​

Neplanirani zastoji se ne mogu tolerisati u AI fabrikama; jedan kvar može da zaustavi proces obuke koji traje više sedmica. Tradicionalni modeli održavanja zasnovani na fiksnim rasporedima ili reaktivnim popravkama više nisu dovoljni. Najbolja praksa je održavanje zasnovano na stanju (CBM), koje koristi podatke u realnom vremenu za servisiranje opreme samo kada je to potrebno.

EcoCare model preduzeća Schneider Electric primenjuje ovaj pristup uz neprekidan nadzor, analitiku zasnovanu na veštačkoj inteligenciji i stručnu podršku. Elektroenergetski sistemi se kontinuirano nadgledaju kako bi se upravljalo vršnim opterećenjima na sistemima za neprekidno napajanje (UPS) i razvodnim uređajima. Prelaskom na prediktivno održavanje, operateri mogu da spreče kvarove pre nego što do istih dođe i održavaju kontinuirane operacije unutar kritične AI infrastrukture.

Održivost u AI fabrikama se više ne meri isključivo kroz potrošnju električne energije. Kako se industrija razvija, organizacije sve više usmeravaju pažnju na broj tokena po vatu po dolaru, što je metrika kojom se odražava i energetska efikasnost i ekonomska produktivnost AI infrastrukture. Napredne tehnologije za distribuciju električne energije, vodeno hlađenje, automatizaciju i digitalne blizance omogućavaju AI fabrikama da ostvaruju veći AI učinak uz manje resursa, čime se smanjuju operativni troškovi i uticaj na životnu sredinu. Sveobuhvatna infrastrukturna rešenja preduzeća Schneider Electric pomažu klijentima da povećaju produktivnost AI sistema, uz istovremeno ostvarivanje ciljeva održivosti.

Pročitajte kako industrija redefiniše održivu AI infrastrukturu u ovom članku na portalu Data Center Dynamics (DCD)

AI fabrike suočavaju se sa brojnim izazovima kako skaliraju radna opterećenja za obučavanje AI modela i inferencije. Ključni izazovi obuhvataju upravljanje ogromnim računarskim i GPU resursima, obradu eksponencijalnog rasta količine podataka, obezbeđivanje mreža velike brzine i upravljanje zahtevima za napajanjem i hlađenjem. Organizacije takođe moraju da odgovore na izazove u oblasti kibernetičke bezbednosti, privatnosti podataka, usaglašenosti sa propisima i rastućih operativnih troškova. Dodatni izazov predstavlja maksimalno iskorišćavanje infrastrukture uz istovremeno očuvanje performansi i pouzdanosti. Da bi u tome uspele, AI fabrike zahtevaju skalabilnu, energetski efikasnu i bezbednu infrastrukturu koja omogućava brže inovacije u oblasti AI tehnologije, uz optimizaciju troškova i održivosti.