Centrum rozwiązań dla fabryk AI: infrastruktura AI od sieci do układu scalonego i od układu scalonego do agregatu chłodniczego

Fabryka AI to specjalnie zaprojektowany obiekt, który funkcjonuje jako jeden wielki klaster obliczeniowy służący do szkolenia i wdrażania modeli sztucznej inteligencji. W odróżnieniu od tradycyjnych centrów danych, które obsługują zróżnicowane obciążenia, Fabryki AI są zoptymalizowane pod kątem maksymalnej przepustowości procesorów graficznych na dużą skalę. Zgodnie z opisem Jensena Huanga z firmy NVIDIA, obiekt działa jak zakład produkcyjny: wprowadzane są dane i moc obliczeniowa, a na wyjściu otrzymujemy wyszkolone modele i wyniki.

Jak szczegółowo opisano w opracowaniu Schneider Electric nr 110 „How 6 AI Attributes Change Data Center Design”, duża skala klastrów GPU i ich zapotrzebowanie na moc sprawiają, że podczas trenowania modeli AI jednocześnie osiągają one szczytowy pobór mocy. Podczas gdy tradycyjne centra danych projektowano z uwzględnieniem średniego, zdywersyfikowanego obciążenia, Fabryki AI muszą być projektowane z myślą o synchronicznym obciążeniu szczytowym. Jest to fundamentalnie inne wymaganie dotyczące projektu elektrycznego, które wpływa na systemy UPS, rozdzielnice oraz przyłączenie do sieci elektroenergetycznej.

Rosnąca projektowa moc cieplna (Thermal Design Power, TDP) nowoczesnych systemów obliczeniowych AI powoduje wzrost gęstości mocy w szafach znacznie powyżej 200 kW, daleko poza granice możliwości chłodzenia powietrzem. Jak udokumentowano w opracowaniu Schneider Electric nr 133 „Navigating Liquid Cooling Architectures for Data Centers with AI Workloads”, przy gęstości mocy przekraczającej około 20–30 kW na szafę konieczne staje się, chłodzenie cieczą bezpośrednio do układu scalonego. Przewodnictwo cieplne i pojemność cieplna wody sprawiają, że przy tych gęstościach jest ona bardziej efektywna niż powietrze. Co istotne, wiele serwerów AI obecnej generacji jest dostarczanych bez wentylatorów, co powoduje, że całe obciążenie termiczne spoczywa na systemach chłodzenia cieczą na poziomie obiektu.

Jak wyjaśnia w tym artykule , główny rzecznik i ekspert Schneider Electric ds. AI, Steven Carlini, centra danych to budynki i obiekty, w których znajduje się infrastruktura IT przeznaczona do obsługi określonych aplikacji i powiązanych usług. Służą one również jako repozytoria do przechowywania danych związanych z aplikacjami oraz do ich zarządzania. Fabryki AI są natomiast obiektami, które przetwarzają dane w cyfrowe wyniki.

Fabryki AI obsługują cały cykl życia AI, od trenowania i dostrajania modeli po wnioskowanie. W miarę jak modele sztucznej inteligencji stają się coraz bardziej samodzielne, oczekuje się, że zoptymalizowane zadania wnioskowania będą działać w trybie ciągłym w oparciu o nowe dane, generując w ten sposób wartość dodaną. Podczas gdy tradycyjne centra przetwarzania danych nie są w stanie sprostać wymaganiom związanym z wyższą gęstością mocy i intensywnym wydzielaniem ciepła, fabryki AI stosują innowacyjne projekty wzorcowe, aby spełnić te wymagania eksploatacyjne.

Cyfrowe bliźniaki ograniczają ryzyko, ponieważ umożliwiają operatorom symulowanie i walidowanie infrastruktury na wirtualnym modelu obiektu przed wdrożeniem i podczas jego realizacji, a następnie w sposób ciągły w trakcie eksploatacji. Przed rozpoczęciem budowy tworzą modele zużycia energii, chłodzenia oraz zachowania obciążenia, aby na wczesnym etapie wykryć wady projektowe, których usunięcie po zakończeniu byłoby kosztowne (np. niewystarczająca wydajność chłodzenia lub ograniczona moc elektryczna).

Podczas wdrażania cyfrowe bliźniaki pomagają porównywać rozwiązania prefabrykowane z obiektami budowanymi tradycyjnie, wykorzystując symulacje rzeczywistych obciążeń. Zamiast wybierać technologie na podstawie arkuszy specyfikacji, zespoły mogą zweryfikować ich rzeczywiste działanie w ramach symulowanych obciążeń związanych z AI, zanim zostaną podjęte ostateczne decyzje dotyczące wdrożenia. Po uruchomieniu cyfrowe bliźniaki wykorzystują dane w czasie rzeczywistym do symulacji skutków planowanej zmiany (np. dodania nowego klastra procesorów graficznych lub zrównoważenia stref chłodzenia) przed jej wdrożeniem w środowisku produkcyjnym. Mogą one również wykrywać wczesne oznaki awarii, dając zespołom wystarczająco dużo czasu na podjęcie działań, zanim bieg próbny zostanie przerwany.

Fabryki AI nie mogą sobie pozwolić na nieplanowane przestoje, a pojedyncza awaria może wstrzymać trwające kilka tygodni szkolenie. Tradycyjne modele konserwacji oparte na stałych harmonogramach lub naprawach reaktywnych nie są już wystarczające. Najlepszym rozwiązaniem jest konserwacja oparta na stanie technicznym (CBM), która wykorzystuje dane w czasie rzeczywistym, aby przeprowadzać przeglądy sprzętu wyłącznie wtedy, gdy jest to konieczne.

Model EcoCare Schneider Electric wykorzystuje to podejście, zapewniając całodobowe monitorowanie, analitykę opartą na AI i wsparcie ekspertów. Systemy elektryczne są stale monitorowane, aby zarządzać obciążeniami szczytowymi zasilaczy bezprzerwowych (UPS) i rozdzielnic. Dzięki przejściu na konserwację predykcyjną operatorzy mogą zapobiegać awariom, zanim do nich dojdzie, i zapewnić nieprzerwaną pracę kluczowej infrastruktury AI.

Zrównoważonego rozwoju fabryk AI nie ocenia się już wyłącznie na podstawie zużycia energii. Wraz z rozwojem branży, organizacje coraz częściej koncentrują się na liczbie tokenów na wat i dolara. Wskaźnik ten odzwierciedla zarówno efektywność energetyczną, jak i produktywność ekonomiczną infrastruktury AI. Zaawansowane systemy dystrybucji zasilania, chłodzenie cieczą, automatyzacja i technologie cyfrowych bliźniaków pomagają fabrykom AI generować więcej wyników przy wykorzystaniu mniejszych zasobów, co ogranicza koszty operacyjne i wpływ na środowisko. Kompleksowe rozwiązania infrastrukturalne Schneider Electric pomagają klientom zwiększać produktywność AI i realizować cele związane ze zrównoważonym rozwojem.

Przeczytaj w artykule Data Center Dynamics (DCD), jak branża na nowo definiuje zrównoważoną infrastrukturę AI

Fabryki AI stoją przed kilkoma wyzwaniami związanymi ze skalowaniem obciążeń treningowych i wnioskowania AI. Do najważniejszych wyzwań należą zarządzanie ogromnymi zasobami obliczeniowymi i GPU, obsługa wykładniczego wzrostu ilości danych, zapewnienie szybkiej łączności sieciowej oraz kontrolowanie zapotrzebowania na zasilanie i chłodzenie. Organizacje muszą również zadbać o cyberbezpieczeństwom, ochronę danych osobowych, zgodność z przepisami oraz kontrolę rosnących kosztów operacyjnych. Ponadto maksymalne wykorzystanie infrastruktury przy zachowaniu jej wydajności i niezawodności jest złożonym zadaniem. Aby odnieść sukces, fabryki AI potrzebują skalowalnej, energooszczędnej i bezpiecznej infrastruktury, która pozwala szybciej rozwijać rozwiązania AI, a jednocześnie optymalizować koszty i realizację celów związanych ze zrównoważonym rozwojem.