Foco em centros de computação de IA: gargalos de energia de design térmico (TDP) no treinamento LLM

Durante os ciclos de treinamento de Large Language Models (LLMs) com dezenas ou centenas de bilhões de parâmetros, o principal problema dos centros de computação de IA mudou gradualmente da pura redundância computacional para o gerenciamento térmico de alta densidade. Quando placas gráficas de vários núcleos (GPU) funcionar com carga total por longos períodos dentro de um ambiente confinado$4U$espaço, o Thermal Design Power (TDP) instantâneo de um único chip pode facilmente exceder$700W$. Devido às limitações físicas da capacidade de calor específico do ar, o resfriamento do ar tradicional leva facilmente ao acúmulo térmico dentro doservidores, acionando o mecanismo de aceleração térmica do chip e comprometendo diretamente a continuidade e a consistência da produção computacional.

Tecnologia de resfriamento líquido e vantagens paramétricas dos servidores GPU da Supermicro

Para enfrentar este desafio comum da indústria,Supermicrointroduziu uma solução Cold Plate Liquid Cooling profundamente personalizada em sua GPU de alta densidade de próxima geraçãoservidores. Esta solução concentra-se no controle preciso da temperatura para componentes com alta geração de calor.

• Material e Artesanato: Placas frias de cobre puro de alta condutividade térmica são aplicadas diretamente nas superfícies dos chips GPU e memória de alta largura de banda (HBM). O projeto estrutural de microcanais aumenta a área de contato de dissipação térmica em$35%$.

• Condições de trabalho: Sob condições industriais severas com uma temperatura do líquido refrigerante de entrada de$32^circtexto{C}$, o sistema mantém de forma estável a temperatura operacional central da GPU abaixo$75^circtexto{C}$.

• Padrões de Confiabilidade: As interfaces de tubulação utilizam conectores rápidos anti-gotejamento de qualidade aeronáutica, certificados por meio de testes rigorosos de pulso de pressão e anticorrosão, eliminando qualquer risco de vazamento de líquido refrigerante durante a vida útil operacional do equipamento de TI.

Otimizando os resultados da PUE do data center

Ao implantar sistemas refrigerados a líquido da Supermicroservidores, os data centers podem reduzir drasticamente o consumo de energia dos ventiladores de resfriamento de alta potência. Dados experimentais indicam que, sob cargas de trabalho de computação de IA idênticas, o resfriamento líquido ajuda a reduzir a Efetividade de Uso de Energia (PUE) geral do data center deUS$ 1,6$sob resfriamento de ar tradicional até aproximadamenteUS$ 1,15$, garantindo o funcionamento estável de clusters de formação distribuídos em grande escala, reduzindo simultaneamente significativamente os custos operacionais de eletricidade a longo prazo.