מרכז מפעלי ה-AI: תשתית AI מרשת לשבב ומשבב לצ'ילר

מפעל AI הוא מתקן ייעודי שנועד לפעול כמערך מחשוב יחיד וגדול לצורך אימון ופריסה של מודלי בינה מלאכותית. בניגוד למרכזי נתונים מסורתיים התומכים בעומסי עבודה מעורבים, מפעלי ה-AI מותאמים לתפוקה מרבית של מעבדי GPU בקנה מידה רחב. כפי שמתאר זאת ג'נסן הואנג מ-NVIDIA, מתקנים אלה פועלים כמו מפעלי ייצור: נתונים ומחשוב נכנסים פנימה, ומודלים מאומנים ותוצאות יוצאים החוצה.

כפי שמפורט בסקירה הטכנית של Schneider Electric ‏110: כיצד 6 מאפייני AI משנים את עיצוב מרכזי הנתונים, בעת אימון מודלים של בינה מלאכותית, ההיקף הגדול וצורכי החשמל של אשכולות ה-GPU הללו, צורכים הספק שיא בו-זמנית. בעוד שמרכזי נתונים מסורתיים תוכננו בהתאם לעומסים ממוצעים ומגוונים, את מפעלי ה-AI יש לתכנן בהתאם לשיא הסינכרוני – דרישה שונה בתכלית לתכנון אספקת חשמל, המשפיעה על מערכות ה-UPS, מתקני המיתוג והחיבור לרשת החשמל.

העלייה בהספק התרמי המתוכנן (TDP) של מערכות מחשוב ה-AI המודרניות דוחפת את צפיפות המסדים הרבה מעבר ל-200 קילוואט, הספק שעולה בהרבה על המגבלות התרמיות של קירור באוויר. כפי שמתועד בסקירה הטכנית 133 של Schneider Electric: התמצאות בארכיטקטורות קירור נוזלי למרכזי נתונים עם עומסי עבודה של AI, קירור באמצעות נוזל ישירות לשבב הופך להכרחי בהספק של כ-20-30 קילוואט לכל מסד. בצפיפות זו, ההולכה התרמית וקיבולת החום של המים הופכת אותם ליעילים פי כמה וכמה מאוויר. חשוב לציין שרבים משרתי ה-AI מהדור הנוכחי נמכרים ללא מאווררים כלל, מה שמטיל את כל נטל הקירור על תשתית הקירור בנוזל ברמת המתקן.

כפי שהסביר סטיבן קרליני, המומחה והשגריר הראשי שלנו בתחום הבינה המלאכותית בחברת Schneider Electric, במאמר זה, מרכזי נתונים הם מבנים ומתקנים פיזיים המאחסנים תשתית IT ליישומים ספציפיים ושירותים נלווים. הם משמשים גם כמאגרים לאחסון ולניהול נתונים הקשורים ליישומים אלה. מצד שני, מפעלי ה-AI הם מתקנים המפיקים תוצרים דיגיטליים ממרכזי נתונים.

מפעלי ה-AI מנהלים את מחזור החיים המלא של הבינה המלאכותית, החל מאימון וכוונון של המודל ועד לביצוע הסקת מסקנות. ככל שמודלי הבינה המלאכותית הופכים לעצמאיים יותר, צפוי שעומסי עבודה של הסקה ממוטבת יפעלו ברצף על נתונים חדשים – וכך ייצרו ערך נוסף. בעוד שמרכזי נתונים מסורתיים אינם מסוגלים לתמוך בצפיפות הספק גבוהה כל כך ובפליטת חום אינטנסיבית, מפעלי ה-AI משתמשים בתכנוני ייחוס חדשניים כדי לעמוד בדרישות התפעוליות האלה.

תאומים דיגיטליים מפחיתים את הסיכון בכך שהם מאפשרים למפעילים לדמות ולבדוק את התשתית במודל וירטואלי של המתקן לפני הפריסה, במהלכה, ובאופן רציף במהלך התפעול. לפני הייצור, הם מדמים את דפוסי הפעולה של עומסי העבודה, הקירור וצריכת החשמל של המודל כדי לאתר בשלב מוקדם פגמים בתכנון שהיו דורשים תיקון יקר לאחר הפריסה (למשל, קירור לא מספיק או קיבולת חשמלית מוגבלת).

במהלך הפריסה, "תאומים דיגיטליים" מסייעים בהשוואת אפשרויות כמו בנייה עם יחידות מיוצרות ומוכנות מראש לעומת בנייה מסורתית, באמצעות סימולציות של עומסי עבודה אמיתיים. במקום לבחור בטכנולוגיות על סמך מפרטים טכניים, הצוותים יכולים לבדוק את ההתנהגות שלהן בפועל תחת עומסי עבודה מדומים של בינה מלאכותית, לפני קבלת ההחלטות הסופיות בנוגע להתקנה. לאחר ההפעלה, התאומים הדיגיטליים משתמשים בנתונים בזמן אמת כדי לדמות את ההשפעה של שינוי מתוכנן (למשל, הוספת אשכול GPU חדש או איזון מחדש של אזורי הקירור) לפני היישום בסביבת הייצור. הם גם מסוגלים לזהות סימנים מוקדמים של תקלה, ובכך מעניקים לצוותים מספיק זמן להתערב לפני שהתקלה תעצור את הפעלת האימון.

מפעלי ה-AI לא יכולים להרשות לעצמם השבתות לא מתוכננות; תקלה אחת עלולה לעצור משימת אימון שנמשכת מספר שבועות. מודלים מסורתיים של תחזוקה, המבוססים על לוחות זמנים קבועים או על תיקונים בתגובה לבעיות, כבר אינם מספיקים. השיטה המומלצת היא תחזוקה מבוססת מצב (CBM), המשתמשת בנתונים בזמן אמת כדי לבצע פעולות תחזוקה בציוד רק בעת הצורך.

מודל EcoCare של Schneider Electric מיישם גישה זו באמצעות ניטור מסביב לשעון, ניתוחים מבוססי בינה מלאכותית ותמיכה מקצועית. מערכות החשמל מנוטרות ברציפות כדי לנהל עומסי שיא במערכות אל-פסק (UPS) ובציוד מיתוג. באמצעות מעבר לתחזוקה תחזיתית, המפעילים יכולים למנוע תקלות עוד בטרם התרחשו ולשמור על פעולה רציפה של תשתית ה-AI החיונית.

הקיימות במפעלי AI כבר לא נמדדת רק לפי צריכת האנרגיה. ככל שהתעשייה מתפתחת, ארגונים מתמקדים יותר ויותר במדד אסימונים לוואט לדולר, שמשקף גם את היעילות האנרגטית וגם את התפוקה הכלכלית של תשתיות AI. הפצת חשמל מתקדמת, קירור באמצעות נוזל, אוטומציה וטכנולוגיות של תאומים דיגיטליים מאפשרים למפעלי AI להפיק יותר בפחות משאבים, וכך לצמצם את עלויות התפעול ואת ההשפעה הסביבתית. פתרונות התשתית מקצה לקצה של Schneider Electric מסייעים ללקוחות לשפר את הפרודוקטיביות של ה-AI תוך קידום יעדי הקיימות.

במאמר של Data Center Dynamics ‏(DCD) תוכלו לקרוא איך התעשייה מגדירה מחדש תשתיות AI בנות-קיימא

מפעלי AI מתמודדים עם כמה אתגרים ככל שהם מרחיבים את עומסי העבודה של אימון והסקה ב-AI. האתגרים העיקריים כוללים ניהול של משאבי מחשוב ו-GPU בהיקף עצום, התמודדות עם גידול אקספוננציאלי בכמות הנתונים, הבטחת קישוריות מהירה וניהול דרישות החשמל והקירור. בנוסף, ארגונים צריכים להתמודד עם אבטחת סייבר, פרטיות נתונים, דרישות רגולטוריות ועלויות תפעול שעולות. גם ניצול מרבי של התשתית תוך שמירה על ביצועים ואמינות הוא אתגר מורכב. כדי להצליח, מפעלי AI זקוקים לתשתית מאובטחת, חסכונית באנרגיה וניתנת להרחבה, שמאפשרת להאיץ את החדשנות ב-AI תוך אופטימיזציה של העלויות והקיימות.