AI Factory Hub: Infraestructura de IA de la red al chip y del chip al enfriador

Una fábrica de IA es una instalación construida específicamente para funcionar como un único y gran clúster de cómputo destinado a entrenar e implementar modelos de IA. A diferencia de los centros de datos tradicionales que soportan cargas de trabajo mixtas, las fábricas de IA están optimizadas para ofrecer el máximo rendimiento de las GPU a escala. Como lo describe Jensen Huang de NVIDIA, estas instalaciones actúan como plantas de producción: entran datos y cómputos, y salen modelos entrenados y resultados.

Como se detalla en el Informe técnico 110 de Schneider Electric: Cómo 6 atributos de la IA cambian el diseño de los centros de datos, la gran escala y las necesidades de energía de estos clústeres de GPU, al entrenar modelos de IA, consumen energía pico simultáneamente. Mientras que los centros de datos tradicionales se dimensionaban en función de cargas promedio y diversificadas, las fábricas de IA deben dimensionarse para el pico sincrónico, un requisito de diseño eléctrico fundamentalmente diferente que afecta a los sistemas UPS, a los tableros de distribución y a la interconexión de servicios públicos.​

El creciente potencia térmica de diseño (Thermal Design Power, TDP) del cómputo de la IA moderna empuja las densidades de rack muy por encima de los 200 kW, lo que excede ampliamente los límites térmicos del enfriamiento por aire. Como se documenta en el Informe técnico 133 de Schneider Electric: Navegar por las arquitecturas de enfriamiento líquido para centros de datos con cargas de trabajo de IA, el enfriamiento líquido directo al chip se vuelve necesario por encima de aproximadamente 20-30 kW por rack. La conductividad térmica y la capacidad calorífica del agua la hacen órdenes de magnitud más efectiva que el aire a estas densidades. Críticamente, muchos servidores de IA de la generación actual se comercializan directamente sin ventiladores, lo que traslada toda la carga térmica a la infraestructura de enfriamiento líquido a nivel de la instalación.

Como explica nuestro residente defensor y experto en IA de Schneider Electric, Steven Carlini, en este artículo, los centros de datos son edificios físicos e instalaciones que almacenan infraestructura de TI para aplicaciones específicas y servicios relacionados. También sirven como depósitos para almacenar y gestionar datos asociados con estas aplicaciones. Por otro lado, las fábricas de IA son instalaciones que producen resultados digitales a partir de los centros de datos.

Las fábricas de IA gestionan todo el ciclo de vida útil de la IA, desde el entrenamiento y ajuste fino del modelo hasta la realización de inferencia. A medida que los modelos de IA se vuelven más autodirigidos, se espera que las cargas de trabajo de inferencia optimizadas se ejecuten continuamente a partir de nuevos datos, produciendo así valor adicional. Mientras que los centros de datos tradicionales no pueden soportar estas densidades de potencia más altas y salidas térmicas intensas, las fábricas de IA están utilizando diseños de referencia innovadores para cumplir con estos requisitos operativos.

Los gemelos digitales reducen el riesgo al permitir a los operadores simular y validar la infraestructura en un modelo virtual de la instalación antes y durante la implementación, y continuamente durante la operación. Antes de la construcción, modelan los sistemas de energía, enfriamiento y el comportamiento de la carga de trabajo para detectar fallas de diseño de manera temprana, las que serían costosas de remediar una vez terminada la construcción (por ejemplo, un enfriamiento insuficiente o una capacidad eléctrica limitada).

Durante la implementación, los gemelos digitales ayudan a comparar opciones como construcciones prefabricadas frente a construcciones tradicionales mediante simulaciones de carga de trabajo reales. En lugar de seleccionar tecnologías sobre la base de hojas de especificaciones, los equipos pueden validar el comportamiento real bajo cargas de trabajo de IA simuladas antes de que se completen las decisiones de instalación. Una vez en vivo, los gemelos digitales utilizan datos en tiempo real para simular el impacto de un cambio planificado (por ejemplo, agregar un nuevo clúster de GPU o reequilibrar zonas de enfriamiento) antes de ejecutarlo en producción. También pueden detectar signos tempranos de fallas, lo que otorga a los equipos tiempo de anticipación suficiente para intervenir antes de que se interrumpa una ejecución de entrenamiento.​

Las fábricas de IA no pueden tolerar tiempo de inactividad no planificado; una sola falla puede detener un trabajo de entrenamiento de muchas semanas. Los modelos de mantenimiento tradicionales basados en horarios fijos o reparaciones reactivas ya no son suficientes. La mejor práctica es el mantenimiento basado en las condiciones (CBM, por sus siglas en inglés), que utiliza datos en tiempo real para prestar servicio al equipo solo cuando es necesario.

El modelo EcoCare de Schneider Electric aplica este enfoque con monitoreo 24/7, análisis impulsados por la IA y soporte experto. Los sistemas eléctricos se monitorean continuamente para gestionar cargas pico en sistemas de alimentación ininterrumpida (UPS) y tableros de distribución. Al cambiar al mantenimiento predictivo, los operadores pueden prevenir las fallas antes de que ocurran y mantener la operación continua de la infraestructura crítica de la IA.

La sostenibilidad de las fábricas de IA ya no se mide únicamente por el consumo de energía. A medida que la industria evoluciona, las organizaciones están cada vez más enfocándose en tokens por vatio por dólar, una métrica que refleja tanto la eficiencia energética como la productividad económica de una infraestructura de IA. La distribución de energía avanzada, el enfriamiento líquido, la automatización y las tecnologías de gemelo digital ayudan a las fábricas de IA a generar más resultados de IA con menos recursos, lo que reduce los costos operativos y el impacto ambiental. Las soluciones de infraestructura de extremo a extremo de Schneider Electric ayudan a los clientes a mejorar la productividad de la IA mientras apoyan sus objetivos de sostenibilidad.

Lee cómo la industria está redefiniendo la infraestructura de IA sostenible en este artículo de Data Center Dynamics (DCD)

Las fábricas de IA enfrentan diversos desafíos a medida que escalan las cargas de trabajo de entrenamiento e inferencia de la IA. Los obstáculos clave incluyen la gestión de recursos masivos de computación y GPU, el manejo del crecimiento exponencial de datos, la garantía de redes de alta velocidad y el control de las demandas de energía y enfriamiento. Las organizaciones también deben abordar temas como la ciberseguridad, la privacidad de los datos, el cumplimiento normativo y el aumento de los costos operativos. Además, maximizar la utilización de la infraestructura mientras se mantiene el rendimiento y la fiabilidad puede ser complejo. Para tener éxito, las fábricas de IA requieren una infraestructura escalable, energéticamente eficiente y segura que permita una innovación de IA más rápida mientras se optimizan los costos y la sostenibilidad.