Fábricas de IA: infraestructura de IA grid to chip y chip to chiller

Una fábrica de IA es una instalación construida expresamente para funcionar como un único y gran clúster informático destinado al entrenamiento y la implementación de modelos de IA. A diferencia de los centros de datos tradicionales, que ofrecen soporte para cargas de trabajo mixtas, las fábricas de IA están optimizadas para obtener el máximo rendimiento de las GPU a gran escala. Como explica Jensen Huang, de NVIDIA, estas instalaciones funcionan como plantas de producción: entran datos y capacidad de cómputo, y salen modelos entrenados y resultados listos para su uso.

Tal y como se detalla en el white paper 110: Cómo cambian el diseño de los centros de datos las 6 características de la IA, la gran escala y las necesidades energéticas de estos clústeres de GPU, al realizar el entrenamiento de modelos de IA, consumen la máxima potencia de forma simultánea. Mientras que los centros de datos tradicionales se dimensionaban en función de cargas medias y diversificadas, las «fábricas de IA» deben dimensionarse para el pico sincrónico, una diferencia fundamental en el diseño eléctrico que afecta a los sistemas SAI, los equipos de conmutación y la Interconexión con la red eléctrica.

El aumento de la potencia de diseño térmico (TDP) de los sistemas informáticos modernos basados en IA eleva la densidad de los racks muy por encima de los 200 kW, lo que supera con creces los límites térmicos de la refrigeración por aire. Tal y como se recoge en el documento white paper 133 de Schneider Electric: Navigating Liquid Cooling Architectures for Data Centers with AI Workloads, la refrigeración líquida directa al chip se vuelve necesaria a partir de aproximadamente 20-30 kW por rack. La conductividad térmica y la capacidad calorífica del agua lo hacen mucho más eficaz que el aire a estas densidades. Es importante destacar que muchos servidores de IA de la generación actual se comercializan sin ventiladores, lo que traslada toda la carga térmica a la infraestructura de refrigeración líquida de las instalaciones.

Tal y como explica Steven Carlini, nuestro experto y principal defensor de la IA en Schneider Electric, en este artículo, los centros de datos son edificios e instalaciones físicas que albergan infraestructura de TI para aplicaciones específicas y servicios relacionados. Además, actúan como repositorios para almacenar y gestionar los datos relacionados con estas aplicaciones. Por otro lado, las fábricas de IA son instalaciones que generan salidas digitales a partir de centros de datos.

Las fábricas de IA gestionan todo el ciclo de vida de la IA, desde el entrenamiento y el ajuste de los modelos hasta la realización de inferencias. A medida que los modelos de IA se vuelven más autónomos, se espera que las cargas de trabajo de inferencia optimizadas se ejecuten de forma continua a partir de nuevos datos, generando así un valor añadido. Mientras que los centros de datos tradicionales no pueden soportar estas densidades de potencia más elevadas y estas intensas emisiones térmicas, las fábricas de IA están utilizando diseños de referencia innovadores para cumplir estos requisitos operativos.

Los gemelos digitales reducen el riesgo al permitir a los operadores realizar simulaciones y validar la infraestructura en un modelo virtual de la instalación antes y durante la puesta en marcha, así como de forma continua durante la operación. Antes de la construcción, utilizan un modelo para simular la potencia, la refrigeración y el comportamiento de la carga de trabajo para detectar a tiempo los fallos de diseño, cuya corrección resultaría costosa una vez finalizada la construcción (por ejemplo, una refrigeración insuficiente o una capacidad eléctrica limitada).

Durante la implementación, los gemelos digitales permiten comparar opciones como la construcción prefabricada frente a la tradicional mediante simulaciones de cargas de trabajo reales. En lugar de realizar la selección de tecnologías basándose en las fichas técnicas, los equipos pueden comprobar su comportamiento real en entornos de simulación de IA antes de tomar una decisión definitiva sobre la instalación. Una vez en funcionamiento, los gemelos digitales utilizan datos en tiempo real para simular el impacto de un cambio previsto (por ejemplo, añadir un nuevo clúster de GPU o reequilibrar las zonas de refrigeración) antes de llevarlo a cabo en el entorno de producción. Además, pueden detectar los primeros indicios de fallo, lo que da a los equipos tiempo suficiente para intervenir antes de que se produzca una interrupción en una sesión de entrenamiento.

Las fábricas de IA no pueden permitirse tiempos de inactividad imprevistos; un solo fallo puede detener un proceso de entrenamiento que dura varias semanas. Los modelos de mantenimiento tradicionales basados en programaciones fijas o en reparaciones reactivas ya no son suficientes. La mejor práctica es el mantenimiento basado en el estado (CBM), que utiliza datos en tiempo real para realizar el servicio de los equipos solo cuando es necesario.

El modelo EcoCare de Schneider Electric aplica este enfoque mediante una monitorización ininterrumpida, análisis basados en inteligencia artificial y soporte especializado. Los sistemas eléctricos se supervisan continuamente para gestionar los picos de carga de los sistemas de alimentación ininterrumpida (SAI) y la aparamenta. Al pasar al mantenimiento predictivo, los operadores pueden prevenir los fallos antes de que se produzcan y garantizar la operación ininterrumpida de la infraestructura crítica de IA.

La sostenibilidad en las fábricas de IA ya no se mide únicamente por el consumo de energía. A medida que el sector evoluciona, las organizaciones se centran cada vez más en el número de tokens por vatio y por dólar, una métrica que refleja tanto la eficiencia energética como la productividad económica de la infraestructura de IA. Las tecnologías avanzadas de distribución de energía, refrigeración líquida, automatización y gemelo digital ayudan a las fábricas de IA a generar más producción de IA con menos recursos, lo que reduce los costes operativos y el impacto medioambiental. Las soluciones integrales de infraestructura de Schneider Electric ayudan a los clientes a mejorar la productividad de la IA al tiempo que apoyan sus objetivos de sostenibilidad.

Lee cómo el sector está redefiniendo una infraestructura de IA sostenible en este artículo de Data Center Dynamics (DCD)

Las fábricas de IA se enfrentan a varios retos a medida que escalan las cargas de trabajo de entrenamiento e inferencia de IA. Entre los principales obstáculos se encuentran la gestión de recursos masivos de computación y GPU, el manejo del crecimiento exponencial de los datos, la garantía de redes de alta velocidad y el control de las demandas de energía y refrigeración. Las organizaciones también deben abordar la ciberseguridad, la privacidad de los datos, el cumplimiento de la normativa y el aumento de los costes operativos. Además, maximizar la utilización de la infraestructura manteniendo el rendimiento y la fiabilidad puede resultar complejo. Para tener éxito, las fábricas de IA requieren una infraestructura escalable, eficiente energéticamente y segura que permita una innovación de IA más rápida a la vez que se optimizan los costes y la sostenibilidad.