AI Factory Hub: infraestrutura de IA da rede elétrica para chip e do chip para o chiller

Uma fábrica de IA é uma instalação projetada especificamente para operar como um único e grande cluster computacional destinado ao treinamento e à implantação de modelos de IA. Diferentemente dos data centers tradicionais, que suportam cargas de trabalho diversificadas, as fábricas de IA são otimizadas para maximizar o throughput de GPUs em escala. Como descreve Jensen Huang, da NVIDIA, essas instalações funcionam como fábricas de produção: entram dados e capacidade computacional, e saem modelos treinados e resultados.

Conforme detalhado no white paper 110 da Schneider Electric: Como 6 atributos de IA transformam o design de data centers, a grande escala e as necessidades de energia desses clusters de GPU, ao treinar modelos de IA, consomem energia de pico simultaneamente. Enquanto data centers tradicionais eram dimensionados com base em cargas médias e diversificadas, as fábricas de IA precisam ser dimensionadas para suportar picos síncronos de carga, um requisito de projeto elétrico fundamentalmente diferente que afeta no-breaks, painéis de distribuição e a conexão à rede elétrica.​

O aumento da potência de projeto térmico (TDP) da computação moderna de IA empurra as densidades do rack para muito além de 200 kW, excedendo em muito os limites térmicos do resfriamento a ar. Conforme documentado no white paper 133 da Schneider Electric: Navegando pelas arquiteturas de resfriamento líquido para data centers com cargas de trabalho de IA, o resfriamento líquido direto ao chip torna-se necessário acima de aproximadamente 20-30 kW por rack. A condutividade térmica e a capacidade calorífica da água a tornam ordens de magnitude mais eficiente que o ar nessas densidades. É importante destacar que muitos servidores de IA da geração atual são fornecidos sem ventiladores, transferindo toda a carga térmica para a infraestrutura de resfriamento líquida da instalação.

Conforme explicado pelo nosso especialista e defensor-chefe de IA da Schneider Electric, Steven Carlini, nesse artigo, os data centers são edifícios e instalações físicas que armazenam a infraestrutura de TI para aplicativos específicos e serviços relacionados. Eles também servem como repositórios para armazenamento e gerenciamento dos dados associados a essas aplicações. Por outro lado, as fábricas de IA são instalações que produzem resultados digitais a partir de data centers.

As fábricas de IA gerenciam todo o ciclo de vida da IA, desde o treinamento e o ajuste fino do modelo até a realização da inferência. À medida que os modelos de IA se tornam mais autônomos, espera-se que as cargas de trabalho de inferência otimizadas sejam executadas continuamente com base em novos dados, gerando valor adicional. Enquanto os data centers tradicionais não conseguem suportar essas densidades de potência mais elevadas e a intensa geração de calor, as fábricas de IA utilizam projetos de referência inovadores para atender a esses requisitos operacionais.

Os gêmeos digitais reduzem o risco ao permitir que os operadores simulem e validem a infraestrutura em um modelo virtual da instalação antes e durante a implantação, e continuamente durante a operação. Antes da construção, eles modelam o comportamento da energia, do resfriamento e das cargas de trabalho para identificar falhas de projeto antecipadamente, problemas que seriam caros de corrigir após a implementação, como sistemas de refrigeração subdimensionados ou capacidade elétrica insuficiente.

Durante a implementação, os gêmeos digitais ajudam a comparar opções como pré-fabricado versus construções tradicionais usando simulações reais de carga de trabalho. Em vez de selecionar tecnologias com base apenas em fichas técnicas, as equipes podem validar o comportamento real sob cargas de trabalho simuladas de IA antes de finalizar as decisões de implantação. Uma vez em operação, os gêmeos digitais utilizam dados em tempo real para simular o impacto de mudanças planejadas, como a adição de um novo cluster de GPUs ou o rebalanceamento de zonas de resfriamento, antes de executá-las no ambiente de produção. Eles também podem detectar sinais iniciais de falha, fornecendo tempo suficiente para intervenção antes que uma execução de treinamento seja interrompida.​

As fábricas de IA não podem tolerar tempo de inatividade não planejado; uma única falha pode interromper um processo de treinamento que dura várias semanas. Os modelos tradicionais de manutenção baseados em cronogramas fixos ou reparos reativos já não são suficientes. A melhor prática é a manutenção baseada nas condições (CBM), que utiliza dados em tempo real para realizar a manutenção dos equipamentos apenas quando necessário.

O modelo EcoCare da Schneider Electric aplica essa abordagem com monitoramento 24 horas por dia, 7 dias por semana, análise orientada por IA e suporte especializado. Os sistemas elétricos são monitorados continuamente para gerenciar as cargas de pico em fontes de alimentação ininterruptas (UPSs) e painéis de distribuição. Ao adotar a manutenção preditiva, os operadores conseguem evitar falhas antes que elas ocorram e manter a operação contínua da infraestrutura crítica de IA.

A sustentabilidade nas fábricas de IA não é mais medida apenas pelo consumo de energia. Com a evolução do setor, as organizações estão cada vez mais focadas em tokens por watt por dólar, uma métrica que reflete a eficiência energética e a produtividade econômica da infraestrutura de IA. As tecnologias avançadas de distribuição de energia, resfriamento líquido, automação e gêmeos digitais ajudam as fábricas de IA a gerar mais resultados de IA com menos recursos, reduzindo os custos operacionais e o impacto ambiental. As soluções de infraestrutura de ponta a ponta da Schneider Electric ajudam os clientes a melhorar a produtividade da IA e, ao mesmo tempo, apoiam suas metas de sustentabilidade.

Leia como o setor está redefinindo a infraestrutura de IA sustentável neste artigo da Data Center Dynamics (DCD)

As fábricas de IA enfrentam vários desafios ao dimensionar as cargas de trabalho de treinamento e inferência de IA. Os principais obstáculos incluem o gerenciamento de recursos maciços de computação e GPU, a manipulação do crescimento exponencial de dados, a garantia de redes de alta velocidade e o controle das demandas de energia e refrigeração. As organizações também precisam lidar com a segurança cibernética, a privacidade dos dados, a conformidade normativa e o aumento dos custos operacionais. Além disso, maximizar a utilização da infraestrutura e, ao mesmo tempo, manter o desempenho e a confiabilidade pode ser complexo. Para serem bem-sucedidas, as fábricas de IA exigem uma infraestrutura dimensionável, eficiente em termos de energia e segura que permita uma inovação mais rápida da IA e, ao mesmo tempo, otimize os custos e a sustentabilidade.