AI Factory Hub: Integrierte KI-Infrastruktur von Grid-to-Chip bis Chip-to-Chiller

Eine KI-Fabrik ist eine speziell entwickelte Einrichtung, die als ein einzelner, großskaliger Rechencluster ausgelegt ist, um KI-Modelle zu trainieren und bereitzustellen. Im Gegensatz zu traditionellen Rechenzentren, die unterschiedlichste Workloads unterstützen, sind KI-Fabriken auf einen maximalen GPU-Durchsatz im großen Maßstab optimiert. Wie Jensen Huang von NVIDIA es beschreibt, funktionieren diese Einrichtungen wie Produktionsanlagen: Daten und Rechenleistung werden eingespeist, und am Ende kommen geschulte Modelle und Ergebnisse heraus.

Wie im Whitepaper 110 von Schneider Electric: Wie sechs KI-Merkmale das Design von Datacentern verändern ausführlich beschrieben, führt der große Umfang und der Energiebedarf dieser GPU-Cluster bei der Schulung von KI-Modellen zu einem gleichzeitigen Spitzenleistungsbedarf. Während herkömmliche Datacenter auf durchschnittliche, breit gefächerte Lasten ausgelegt waren, müssen KI-Fabriken für die synchrone Spitzenlast ausgelegt werden – eine grundlegend andere Anforderung an die elektrische Auslegung, die sich auf USV-Anlagen, Schaltanlagen und den Netzanschluss auswirkt.

Die steigende Thermal Design Power (TDP) moderner KI-Rechensysteme treibt die Leistungsdichte von Racks deutlich über 200 kW hinaus und überschreitet damit die thermischen Grenzen herkömmlicher Luftkühlung bei Weitem. Wie im Whitepaper 133 von Schneider Electric: Navigating Liquid Cooling Architectures for Data Centers with AI Workloads beschrieben, wird eine Direkt-to-Chip-Flüssigkeitskühlung ab etwa 20–30 kW pro Rack erforderlich. Aufgrund seiner Wärmeleitfähigkeit und Wärmekapazität ist Wasser bei diesen Dichten um ein Vielfaches wirksamer als Luft. Entscheidend ist, dass viele KI-Server der aktuellen Generation gänzlich ohne Lüfter ausgeliefert werden, wodurch die gesamte Wärmeabfuhr auf die Flüssigkeitskühlung auf Anlagenebene verlagert wird.

Wie Steven Carlini, unser Chief AI Advocate and Expert bei Schneider Electric, in diesem Artikel erläutert, sind Datacenter physische Gebäude und Einrichtungen, in denen die IT-Infrastruktur für bestimmte Anwendungen und damit verbundene Services untergebracht ist. Sie dienen zudem als Speicherorte für die Speicherung und Verwaltung der mit diesen Anwendungen verbundenen Daten. Andererseits snd KI-Fabriken darauf ausgelegt, aus den Ressourcen eines Rechenzentrums digitale Ergebnisse zu produzieren.

KI-Fabriken unterstützen den gesamten Lebenszyklus künstlicher Intelligenz – vom Training und Fine-Tuning von Modellen bis hin zur Durchführung von Inferenzaufgaben. Da KI-Modelle zunehmend autonomer werden, wird erwartet, dass optimierte Inferenz-Anwendungen auf der Grundlage neuer Daten kontinuierlich ausgeführt werden und so einen zusätzlichen Mehrwert schaffen. Während herkömmliche Datacenter diese höheren Leistungsdichten und die enorme Wärmeabgabe nicht bewältigen können, setzen KI-Fabriken auf innovative Referenzdesigns, um diese betrieblichen Anforderungen zu erfüllen.

Digitale Zwillinge senken das Risiko, indem sie es den Betreibern ermöglichen, die Infrastruktur vor und während der Inbetriebnahme sowie kontinuierlich während des Betriebs anhand eines virtuellen Modells der Anlage zu simulieren und zu validieren. Vor der Fertigung simulieren sie das Verhalten in Bezug auf Stromverbrauch, Kühlung und Arbeitslast, um Konstruktionsfehler frühzeitig zu erkennen, deren Behebung nach der Fertigung kostspielig wäre (z. B. zu schwache Kühlung oder begrenzte elektrische Kapazität).

Während der Implementierung helfen digitale Zwillinge dabei, Optionen wie Vorfertigung und konventionelle Bauweise anhand von Simulationen realer Arbeitslasten zu vergleichen. Anstatt Technologien anhand von Datenblättern auszuwählen, können die Teams das tatsächliche Verhalten unter simulierten KI-Anwendungen überprüfen, bevor endgültige Installationsentscheidungen getroffen werden. Sobald sie in Betrieb sind, nutzen digitale Zwillinge Echtzeitdaten, um die Auswirkungen einer geplanten Änderung (z. B. das Hinzufügen eines neuen GPU-Clusters oder die Neuzuweisung von Kühlzonen) zu simulieren, bevor diese Änderungen im Produktivbetrieb umgesetzt werden. Außerdem können sie frühe Anzeichen eines Ausfalls erkennen, sodass die Teams genügend Zeit haben, einzugreifen, bevor ein Training unterbrochen wird.

KI-Fabriken vertragen keine ungeplanten Ausfallzeiten; schon ein einziger Ausfall kann ein mehrwöchiges Training eines KI-Modells zum Stillstand bringen. Herkömmliche Wartungsmodelle, die auf festen Zeitplänen oder reaktiven Reparaturen basieren, reichen nicht mehr aus. Eine bewährte Praxis ist die zustandsorientierte Instandhaltung (CBM), bei der anhand von Echtzeitdaten Anlagen nur dann gewartet werden, wenn dies erforderlich ist.

Das EcoCare-Modell von Schneider Electric wendet diesen Ansatz mit einer Überwachung rund um die Uhr, KI-gestützten Analysen und fachkundiger Unterstützung um. Elektrische Systeme werden kontinuierlich überwacht, um Lastspitzen bei unterbrechungsfreien Stromversorgungen (USV-Anlagen) und Schaltanlagen zu steuern und zu beherrschen. Durch die Umstellung auf vorausschauende Wartung können die Betreiber Ausfälle verhindern, bevor sie auftreten, und den unterbrechungsfreien Betrieb der kritischen KI-Infrastruktur gewährleisten.

Nachhaltigkeit in KI-Fabriken wird nicht mehr allein am Energieverbrauch gemessen. Im Zuge der Weiterentwicklung der Branche konzentrieren sich Unternehmen zunehmend auf die Kennzahl „Token pro Watt pro Dollar“ – diese Kennzahl spiegelt sowohl die Energieeffizienz als auch die wirtschaftliche Produktivität der KI-Infrastruktur wider. Fortschrittliche Stromverteilung, Flüssigkeitskühlung, Automatisierung und Technologien für digitale Zwillinge unterstützen die KI-Fabriken dabei, mit weniger Ressourcen mehr KI-Output zu erzeugen, wodurch die Betriebskosten und Umweltauswirkungen reduziert werden. Die durchgängigen Infrastrukturlösungen von Schneider Electric unterstützen die Kunden dabei, die KI-Produktivität zu steigern und gleichzeitig ihre Nachhaltigkeitsziele zu erreichen.

Lesen Sie in diesem Artikel von Data Center Dynamics (DCD), wie die Branche eine nachhaltige KI-Infrastruktur neu definiert

AI factories face several challenges as they scale AI training and inference workloads.. Zu den größten Herausforderungen gehören das Management umfangreicher Rechen- und GPU-Ressourcen, die Bewältigung des exponentiellen Datenwachstums, die Sicherstellung einer Hochgeschwindigkeits-Netzwerkinfrastruktur sowie die Kontrolle des steigenden Energie- und Kühlungsbedarfs. Unternehmen müssen sich zudem mit Cybersicherheit, Datenschutz, der Einhaltung gesetzlicher Vorschriften und steigenden Betriebskosten auseinandersetzen. Darüber hinaus kann die Maximierung der Infrastrukturauslastung bei gleichzeitiger Wahrung von Leistung und Zuverlässigkeit komplex sein. Um erfolgreich zu sein, benötigen KI-Fabriken eine skalierbare, energieeffiziente und sichere Infrastruktur, die schnellere KI-Innovationen ermöglicht und gleichzeitig Kosten sowie Nachhaltigkeit optimiert.