Mô phỏng nhà máy AI: Kiểm tra công suất và hệ thống làm mát trước khi xây dựng

Mô phỏng giúp làm giảm ranh giới giữa thiết kế và vận hành bằng cách cho phép các nhóm chạy thử các kịch bản vận hành trước khi bắt đầu thi công. Một mô hình Nhà máy AI hữu ích không chỉ đơn thuần là hiển thị một căn phòng 3D; nó còn kết nối các yếu tố hình học, các thuộc tính kỹ thuật, dữ liệu vận hành theo thời gian thực hoặc lịch sử, để các nhóm có thể kiểm tra vị trí lắp đặt, hành vi tiêu thụ điện năng, luồng không khí, khả năng làm mát, các hạn chế về kết cấu và tác động của khối lượng công việc trước khi việc thực hiện các thay đổi vật lý trở nên tốn kém.

Điều này rất quan trọng bởi vì Nhà máy AI thường hoạt động ở mức gần giới hạn của hạ tầng, nơi những giả định thiết kế nhỏ nhặt cũng có thể làm giảm sản lượng token có thể sử dụng, gây lãng phí công suất điện hoặc khả năng làm mát, hoặc buộc phải duy trì biên lợi nhuận hoạt động ở mức thận trọng. Giá trị thực tiễn nằm ở việc thử nghiệm các kịch bản “giống như khi vận hành” ngay từ giai đoạn thiết kế: di chuyển tủ rack, thay thế bộ gia tốc thế hệ mới, tăng mật độ công suất, lựa chọn các loại CDU khác nhau, thay đổi vòng lặp chính, giả định về tháp làm mát không đổi nhiệt, và các cấu hình khối lượng công việc AI.

Các công cụ riêng lẻ có thể đáp ứng nhu cầu phân tích từng điểm cụ thể, nhưng lại không hiệu quả khi nhiều nhóm người dùng cần có cái nhìn chung về cùng một cơ sở, tài sản và tình trạng vận hành. Việc thiết kế Nhà máy AI đòi hỏi phải có các dữ liệu về mô phỏng động lực học chất lỏng (CFD), mô phỏng hệ thống điện, tài liệu kỹ thuật, mô hình tài sản, dữ liệu đo đạc từ xa về CNTT, dữ liệu đo đạc từ xa về công nghệ vận hành (OT) và lịch sử vận hành để đảm bảo sự nhất quán với các thiết bị vật lý tương ứng.

Nếu không có một lớp tích hợp chung, mỗi công cụ sẽ tạo ra cổng nhìn, quy ước đặt tên và mô hình dữ liệu riêng, khiến các nhóm phải đối chiếu các tài sản một cách thủ công. OpenUSD cung cấp lớp tiêu chuẩn hóa để kết nối hình học 3D với nhiều nguồn dữ liệu và bộ giải. Schneider Electric, AVEVA và ETAP đã gia nhập Liên minh OpenUSD để hỗ trợ khả năng tương tác phần mềm, mô phỏng công nghiệp, thiết kế hợp tác và các hệ thống cơ sở hạ tầng AI.

Sản lượng token phụ thuộc vào những gì diễn ra bên trong hệ thống tính toán, do đó mô hình cần có khả năng quan sát chi tiết hơn mức tủ rack. Tỷ lệ sử dụng CPU, tỷ lệ sử dụng bộ nhớ, tỷ lệ sử dụng GPU, hoạt động mạng, hoạt động của ổ đĩa và trạng thái khối lượng công việc giúp liên kết các hoạt động CNTT với các tác động đối với OT như mức tiêu thụ điện năng, tản nhiệt, yêu cầu lưu lượng và rủi ro nhiệt.

Mô hình trừu tượng hóa ở cấp độ tủ rack không thể xác định liệu một khối lượng công việc, nút mạng hay hành vi của thành phần cụ thể nào đang tác động đến tình trạng của cơ sở hạ tầng. Đó là lý do tại sao mô phỏng Nhà máy AI phải kết hợp dữ liệu CNTT và OT: cơ sở không tạo ra giá trị bằng cách duy trì nhiệt độ phòng ở mức thấp; cơ sở tạo ra giá trị bằng cách đảm bảo các giá đỡ tính toán đắt tiền hoạt động ở mức sử dụng an toàn cao nhất. Công việc thiết kế tham khảo của Schneider Electric và NVIDIA gắn kết rõ ràng thiết kế Nhà máy AI với các điểm hoạt động như MaxP và MaxQ, trong đó MaxQ cho phép có nhiều token hơn trên mỗi watt khi các hạn chế về điện năng yêu cầu tối ưu hóa hiệu suất tính toán.

Mô phỏng CFD có thể kiểm tra luồng không khí, nhiệt độ, vận tốc, áp suất và hành vi làm mát so với cả kịch bản cơ sở và các kịch bản giả định. Ví dụ ứng dụng thực tế rất đơn giản: bắt đầu từ điều kiện phòng ban đầu, áp dụng khối lượng công việc AI nặng hơn hoặc chuyển tải nhiệt từ vị trí tủ rack này sang vị trí khác, và quan sát xem luồng không khí lạnh, công suất làm mát và chiến lược kiểm soát nhiệt có còn đáp ứng được tải hay không. Đối với các môi trường làm mát bằng không khí hoặc kết hợp, việc thử nghiệm kịch bản giả định không phải lúc nào cũng đòi hỏi phải lắp đặt lại hệ thống cáp hoặc thay đổi hệ thống ống dẫn; mô hình có thể điều chỉnh đường cong tiêu tán công suất (kilowatt) và kiểm tra hành vi nhiệt phát sinh.

Mô phỏng nguồn điện có thể định lượng mức độ ảnh hưởng của sự cố hoặc tình trạng bảo trì đối với công suất CNTT có thể sử dụng. Một tình huống thực tế là bảng điều khiển nguồn từ xa bị hỏng kết hợp với một thành phần khác chuyển sang chế độ bảo trì. Mô phỏng có thể cho thấy liệu cơ sở hạ tầng có còn duy trì được mức độ dự phòng cần thiết hay không, cũng như cần phải giới hạn công suất CNTT ở mức nào để đảm bảo duy trì hành vi N+1.

Kết quả đó sau đó có thể được sử dụng làm cơ sở cho các quy tắc lập lịch tải, giới hạn công suất hoặc giảm tần số trước khi bắt đầu vận hành khả năng bản sao kỹ thuật số hệ thống điện của ETAP hỗ trợ thiết kế và mô phỏng hệ thống điện tiên tiến, phân tích kịch bản giả định động, theo dõi hiệu suất cơ sở hạ tầng điện theo thời gian thực, tối ưu hóa hiệu quả sử dụng năng lượng, bảo trì dự đoán và lập kế hoạch cơ sở hạ tầng dựa trên mức tiêu thụ điện.

Mô phỏng có thể đánh giá tác động của việc thay thế một thế hệ GPU bằng thế hệ khác bằng cách kiểm tra các yếu tố về công suất, hệ thống làm mát và các tác động về mặt cấu trúc trước khi tiến hành mua sắm hoặc xây dựng. Một ví dụ thực tế là việc chọn một tủ rack trong mô hình và thử nghiệm một nền tảng có mật độ cao hơn và nặng hơn trong tương lai để đánh giá xem sàn, kích thước ống, hệ thống làm mát và hạ tầng điện có thể đáp ứng được sự thay đổi này hay không.

Điều này rất quan trọng bởi vì Nhà máy AI được nâng cấp nhanh hơn so với các cơ sở truyền thống, và các nền tảng tủ rack thế hệ mới có thể thay đổi các yếu tố như trọng lượng, khả năng tản nhiệt, kích thước ống dẫn, yêu cầu về lưu lượng và mật độ công suất.

Mô phỏng đang trở thành một yêu cầu thiết thực đối với Nhà máy AI, bởi vì chi phí phải trả cho những giả định thận trọng hoặc sai sót trong thiết kế là quá cao. Nếu một tủ rack giá trị cao chỉ có thể vận hành ở mức 90% công suất do đội ngũ vận hành thiếu tự tin về khả năng làm mát, cấp điện hoặc biên dự phòng, thì nhà vận hành đang từ bỏ công suất token ở tài sản có giá trị nhất trong tòa nhà.

Nhà máy AI cần phải được mô phỏng do các yếu tố như thiết kế cơ sở vật chất, đặc điểm của khối lượng công việc và tỷ lệ sử dụng có mối liên hệ chặt chẽ với nhau. Mô phỏng công suất ETAP, CFD, truyền dữ liệu đo đạc từ xa theo thời gian thực và các kịch bản giả định trực quan giúp các nhà điều hành kiểm tra các điều kiện quyết định liệu Nhà máy AI có thể vận hành gần giới hạn an toàn hay không. Công nghệ bản sao kỹ thuật số dựa vào OpenUSD giải quyết triệt để vấn đề dữ liệu và công cụ bị cô lập bằng cách cho phép suy luận ở cấp độ hệ thống xuyên suốt các giai đoạn thiết kế, xây dựng và vận hành.