인공지능 컴퓨팅 센터에 집중: LLM 교육에서 열 설계 힘 (TDP) 병목

수십 또는 수십억 개의 매개 변수를 가진 큰 언어 모델 (LLM) 의 훈련 주기에인공지능 컴퓨팅 센터의 핵심 고통점은 순수한 컴퓨팅 과잉에서 고밀도 열 관리로 점차 이동했습니다.멀티 코어 그래픽 카드 (GPU) 는 제한된 범위 내에서 전체 부하에서 장기간 작동합니다.4달러공간, 단 하나의 칩의 즉각적인 열 설계 전력 (TDP) 은 쉽게 초과 할 수 있습니다.$700W$공기 특이 열 용량의 물리적 제한 때문에 전통적인 공기 냉각은 쉽게 열의 축적으로 이어집니다.서버, 칩의 열 스트로틀링 메커니즘을 활성화하고 컴퓨터 출력의 연속성과 일관성을 직접적으로 손상시킵니다.

액체 냉각 기술 및 슈퍼마이크로 GPU 서버의 매개 변수 장점

이 공통적인 산업 과제를 해결하기 위해슈퍼마이크로차세대 고밀도 GPU에 깊이 맞춤형 콜드 플레이트 액체 냉각 솔루션을 도입했습니다.서버이 솔루션은 높은 열 발생 부품을 위한 정확한 온도 조절에 초점을 맞추고 있습니다.

• 재료 와 공예: 고 열전도 순수 구리 냉판은 GPU 칩과 고 대역폭 메모리 (HBM) 의 표면에 직접 적용됩니다.마이크로 채널 구조 설계는 열 분산 접촉 영역을 증가35%$.

• 근로 조건: 열악한 산업 조건에서$32^circtext{C}$, 시스템은 안정적으로 아래 핵심 GPU 작동 온도를 유지$75^circtext{C}$.

• 신뢰성 표준: 파이프 라인 인터페이스는 엄격한 압력 펄스 및 항 진열 테스트를 통해 인증 된 항공 수준의 방 방 방 방 방 방 방 방 방 방 방 방 방 방 방 방 방 방 방 방 방 방 방 방 방 방 방 방 방IT 장비의 사용 기간 동안 냉각 액체의 누출의 위험을 제거합니다..

데이터 센터 PUE 결과 최적화

수퍼마이크로 액체 냉각서버, 데이터 센터는 급격하게 높은 와트 냉각 팬의 전력 소비를 줄일 수 있습니다. 실험 데이터는 동일한 AI 컴퓨팅 작업 부하에서,액체 냉각은 전체 데이터 센터 전력 사용 효율 (PUE) 을1.6달러전통적인 공기 냉각으로$1.15$, 대규모 분산 교육 클러스터의 안정적인 운영을 보장하면서 장기적인 운영 전력 비용을 크게 줄입니다.