AI工場ハブ：グリッドからチップへ、チップから冷却器への AI インフラストラクチャ

AI工場とは、AIモデルのトレーニングや導入を行うための単一の大型コンピューティングクラスターとして機能するよう設計された専用施設のことです。混合ワークロードに対応する従来のデータセンターとは異なり、AI工場は、大規模環境においてGPUのスループットを最大化するように最適化されています。NVIDIAのJensen Huang氏が説明するように、これらの施設は製造工場のような役割を果たしています。データと計算リソースが入力され、学習済みのモデルと出力結果が生成されるのです。

Schneider Electricのホワイトペーパー110: 「6つのAI属性がデータセンターの設計をどう変えるか (How 6 AI Attributes Change Data Center Design)」に詳述されているように、AIモデルをトレーニングする際、これらのGPUクラスタの大規模かつ必要な電力は、同時にピーク電力を引き出します。従来のデータセンターは平均的な負荷や多様な負荷を想定して規模が設定されていましたが、AI工場では同期ピーク負荷を想定して規模を設定する必要があります。これは、UPSシステム、開閉器、および電力系統への接続に影響を及ぼす、根本的に異なる電気設計要件です。

最新のAIコンピュートの熱設計消費電力（TDP）の増加により、ラック密度は200kWをはるかに超え、空冷の熱的限界をはるかに超えています。Schneider Electricのホワイトペーパー133：「AIワークロードを扱うデータセンター向け水冷アーキテクチャの解説 (Navigating Liquid Cooling Architectures for Data Centers with AI Workloads)」に記載されているように、ラックあたり約20～30kWを超えると、直接チップへの液体冷却が必要になります。水は、その熱伝導率と比熱により、これらの密度において空気よりも桁違いに高い熱伝達効率を発揮します。重要な点として、現在のAIサーバーの多くはファンが一切搭載されておらず、熱負荷のすべてが施設レベルの液体冷却インフラに依存しています。

Schneider Electricの専任AIアドボケイト兼エキスパートであるSteven Carliniがこの記事で説明しているように、データセンターとは、特定のアプリケーションや関連サービスのためのITインフラを収容する物理的な建物や施設のことです。また、これらのアプリケーションに関連するデータを保存・管理するためのリポジトリとしても機能します。一方、AI工場はデータセンターからデジタル出力を生産する施設です。

モデルのトレーニングや微調整から推論の実行に至るまで、AI工場は、AIのライフサイクル全体を管理します。AIモデルが自律性を高めていくにつれ、最適化された推論ワークロードは新しいデータに基づいて継続的に実行され、それによってさらなる価値を生み出すことが期待されています。従来のデータセンターでは、こうした高い電力密度や膨大な熱放出に対応できませんが、AI工場では、こうした運用要件を満たすために革新的な参照設計を採用しています。

デジタルツインを活用することで、オペレーターは導入前や導入中、さらには運用中も継続的に、施設の仮想モデル上でインフラをシミュレーションおよび検証することができ、リスクを低減できます。ビルド前に、電力、冷却、およびワークロードの挙動をシミュレーションすることで、設計上の欠陥を早期に発見します。こうした欠陥は、ビルド後に修正しようとすると多額の費用がかかるもの（例：冷却能力の不足や電力容量の制限など）だからです。

導入段階において、デジタルツインは実際のワークロードシミュレーションを活用し、プレハブ型と従来型ビルドといった選択肢の比較を支援します。チームは、仕様書に基づいて技術を選定するのではなく、導入の決定が確定する前に、シミュレートされたAIワークロード下での実際の動作を検証することができます。本番環境に導入されると、生きているデジタルツインはリアルタイムデータを活用して、計画された変更（新しいGPUクラスタの追加や冷却ゾーンの再調整など）が及ぼす影響のシミュレーションを行い、本番環境で実行する前に検証を行います。また、故障の初期兆候を検知することもでき、トレーニング走行が中断される前に、チームが対応するための十分な余裕を持たせることができます。

AI工場では予期せぬダウンタイムは許されません。たった1つの障害でも、数週間にわたるトレーニング作業が中断してしまう可能性があります。固定されたスケジュールや事後対応型の修理に基づく従来の保守モデルでは、もはや不十分です。ベストプラクティスとして推奨されるのは、リアルタイムのデータを活用し、必要な場合にのみ設備のメンテナンスを行う状態に基づくメンテナンス（CBM）です。

Schneider ElectricのEcoCare モデルは、このアプローチを24時間365日の監視、AI主導の分析、専門家によるサポートに応用したものです。電気システムは、無停電電源装置（UPS）や開閉器のピーク負荷を管理するため、継続的に監視されている。予知保全への移行により、運用担当者は故障を未然に防ぎ、重要なAIインフラの継続的な稼働を維持することができます。

AI工場における持続可能性は、もはやエネルギー消費量だけでは測れません。業界の進化に伴い、企業はますます、AIインフラのエネルギー効率と経済的生産性の両方を反映する指標である、1ドルあたり1ワットあたりのトークンに注目するようになっています。高度な配電、液体冷却、自動化、デジタルツインテクノロジーは、AI工場がより少ないリソースでより多くのAI出力を生成し、運用コストと環境への影響を削減することを支援します。Schneider Electricのエンドツーエンドのインフラストラクチャーソリューションは、お客様が持続可能性の目標をサポートしながら、AIの生産性を向上させるのに役立ちます。

Data Center Dynamics (DCD) の記事で、業界が持続可能なAIインフラをどのように再定義しているかをお読みください

AI工場は、AIのトレーニングと推論のワークロードを拡張する際に、いくつかの課題に直面しています。主な障害には、膨大なコンピュートとGPUリソースの管理、指数関数的なデータ増加への対応、高速ネットワーキングの確保、電力と冷却需要の制御などがあります。また、組織はサイバーセキュリティ、データプライバシー、規制順守、そして高騰する運用コストといった課題にも対処する必要があります。さらに、パフォーマンスと信頼性を維持しながらインフラの利用率を最大化することは、複雑な場合があります。AI工場が成功するためには、コストと持続可能性を最適化しつつ、より迅速なAIイノベーションを可能にする、スケーラブルで省エネルギーかつ安全なインフラが必要です。