AI Factory Hub: terviklik tehisintellekti taristu alates elektrivarustusest kuni kiipide ja jahutussüsteemideni

AI tehas on spetsiaalselt ehitatud rajatis, mis on loodud töötama ühe suure arvutusklastrina AI mudelite treenimiseks ja juurutamiseks. Erinevalt traditsioonilistest andmekeskustest, mis toetavad segatud töökoormusi, on AI tehased optimeeritud maksimaalse GPU läbilaskevõime saavutamiseks suures mahus. Nagu NVIDIA juht Jensen Huang seda kirjeldab, toimivad need rajatised nagu tootmisettevõtted: sisse lähevad andmed ja arvutusvõimsus ning välja tulevad treenitud mudelid ja tulemused.

Nagu on üksikasjalikult kirjeldatud Schneider Electricu lühiülevaates 110 „Kuidas AI mõjutab muudatusi andmekeskuste disainis“, tekitavad need GPU-klastrid AI-mudelite treenimisel oma suure mahu ja võimsusvajaduse tõttu samaaegselt tippvõimsuse. Kuigi traditsiooniliste andmekeskuste võimsust mõõdetakse keskmise ja mitmekesise koormuse alusel, siis AI tehaste puhul tuleb võimsust mõõta sünkroonse tippkoormuse järgi – see on põhimõtteliselt teistsugune elektripaigaldise projekteerimisnõue, mis mõjutab UPS-süsteeme, jaotusseadmeid ja võrguühendusi.

Tänapäevaste AI arvutuslahenduste kasvav soojusvõimsus (TDP) tõstab püstakute võimsustiheduse tunduvalt üle 200 kW, ületades märkimisväärselt õhkjahutuse soojuspiiranguid. Nagu on dokumenteeritud Schneider Electricu lühiülevaates 133 „AI-töövoogudega andmekeskuste vedelikjahutusega arhitektuurides orienteerumine“, muutub otse kiibile suunatud vedelikjahutus vajalikuks, kui võimsus ületab umbes 20–30 kW püstaku kohta. Vesi on oma soojusjuhtivuse ja soojusmahtuvuse poolest selliste tiheduste juures õhust mitu suurusjärku tõhusam. Oluline on see, et paljud praeguse põlvkonna AI serverid tarnitakse üldse ilma ventilaatoriteta, mistõttu langeb kogu jahutuskoormus rajatise tasandi vedelikjahutuse süsteemile.

Nagu meie Schneider Electricu AI eestkõneleja ja ekspert Steven Carlini selles artiklis selgitab, on andmekeskused füüsilised hooned ja rajatised, kus hoitakse IT-taristut konkreetsete rakenduste ja nendega seotud teenuste jaoks. Need toimivad ka andmehoidlatena, kus talletatakse ja hallatakse nendega seotud andmeid. Teisest küljest on AI tehased rajatised, mis toodavad andmekeskustest digitaalset väljundit.

AI tehased haldavad kogu AI kasutustsüklit, alates mudeli treenimisest ja täpsustamisest kuni järelduste tegemiseni. Kuna AI-mudelid muutuvad üha iseseisvamaks, eeldatakse, et optimeeritud järeldamise ülesanded töötavad uute andmete põhjal pidevalt ja loovad seeläbi lisaväärtust. Kuigi traditsioonilised andmekeskused ei tule toime sellise suurema võimsustiheduse ja intensiivse soojuskoormusega, kasutavad AI tehased uuenduslikke näidisprojekte, et neid töönõudeid täita.

Digitaalsed kaksikud võimaldavad riskide vähendamiseks käitajatel taristut enne kasutuselevõttu, selle käigus ning ka käitamise ajal pidevalt rajatise virtuaalsel mudelil simuleerida ja kontrollida. Enne tootmist modelleeritakse toite, jahutuse ja töökoormuse käitumist, et tuvastada varakult projekteerimisvead, mille parandamine pärast tootmist oleks kulukas (nt ebapiisav jahutusvõimsus või piiratud elektrivõimsus).

Juurutamise käigus aitavad digitaalsed kaksikud võrrelda eri võimalusi, näiteks kokkupandava ja traditsioonilise ehitamise vahel, kasutades selleks reaalseid töökoormuse simulatsioone. Selle asemel, et valida tehnoloogiaid tehniliste andmete põhjal, saavad meeskonnad enne paigaldamisotsuste lõplikku langetamist kontrollida tegelikku toimimist simuleeritud AI töökoormuste tingimustes. Kui digitaalsed kaksikud on kasutusele võetud, kasutavad need reaalajas andmeid, et simuleerida kavandatava muudatuse mõju (nt uue GPU klastri lisamine või jahutustsoonide ümberjaotamine) enne selle tootmiskeskkonnas rakendamist. Samuti suudavad need tuvastada varajasi rikke märke, nii et meeskondadel on piisavalt aega sekkumiseks enne koolituse katkestamist.

AI tehased ei saa endale lubada planeerimata seisakuid; juba üks tõrge võib peatada mitme nädala pikkuse koolitusprotsessi. Traditsioonilised hooldusmudelid, mis tuginevad kindlatele ajakavadele või reageerivatele remonditöödele, ei ole enam piisavad. Parimaks tavaks on seisundipõhine hooldus (CBM), mille puhul kasutatakse reaalajas andmeid, et seadmeid hooldada ainult siis, kui see on vajalik.

Schneider Electric EcoCare’i mudelis rakendatakse seda lähenemisviisi koos ööpäevaringse seire, AI-põhise analüüsi ja eksperditoega. Elektrisüsteeme jälgitakse pidevalt, et hallata katkestusteta vooluallikate (UPS) ja lülitusseadmete tippkoormust. Ennustavale hooldusele üleminekuga saavad käitajad ennetada rikkeid enne nende tekkimist ja säilitada kriitilise AI taristu pideva töö.

Jätkusuutlikkust AI tehases ei mõõdeta enam ainult energiatarbimisega. Tööstuse arenedes keskenduvad organisatsioonid üha enam tokenite arvule vati ja dollari kohta, mis kajastab nii AI-taristu energiatõhusust kui ka majanduslikku tootlikkust. Täiustatud energiajaotus, vedelikjahutus, automaatika ja digitaalse kaksiku tehnoloogiad aitavad AI tehastel toota rohkem AI-väljundit vähemate ressurssidega, nii et vähenevad tegevuskulud ja keskkonnamõju. Schneider Electricu terviklikud taristulahendused aitavad klientidel suurendada AI tootlikkust ja toetada samal ajal nende jätkusuutlikkuseesmärke.

Lugege sellest Data Center Dynamics (DCD) artiklist, kuidas valdkond kujundab jätkusuutlikku AI-taristut ümber

AI tehased seisavad silmitsi mitmete väljakutsetega, kui seal skaleeritakse AI treenimist ja järelduste tegemise töökoormust. Peamised takistused hõlmavad massiivsete arvutus- ja GPU-ressursside haldamist, eksponentsiaalse andmekasvu käsitlemist, kiire võrguühenduse tagamist ning energia- ja jahutusnõuete kontrollimist. Organisatsioonid peavad tegelema ka küberturbe, andmekaitse, õigusnormide järgimise ja kasvavate tegevuskuludega. Lisaks sellele võib olla keeruline taristu maksimaalne kasutamine nii, et samal ajal säiliks jõudlus ja töökindlus. Edu saavutamiseks vajavad AI tehased skaleeritavat, energiatõhusat ja turvalist taristut, mis võimaldab kiiremat AI uuendust ning optimeerib samal ajal kulusid ja jätkusuutlikkust.