Fokus auf KI-Rechenzentren: Thermal Design Power (TDP)-Engpässe in der LLM-Ausbildung

Während der Trainingszyklen von Large Language Models (LLMs) mit Dutzenden oder Hunderten von Milliarden Parametern hat sich der Kernpunkt von KI-Rechenzentren allmählich von reiner Rechenredundanz hin zu hochdichtem Wärmemanagement verlagert. Wenn Grafikkarten mit mehreren Kernen (GPUs) innerhalb eines begrenzten Zeitraums längere Zeit unter Volllast laufen4U$Platz kann die momentane Thermal Design Power (TDP) eines einzelnen Chips leicht überschritten werden700 W$. Aufgrund der physikalischen Beschränkungen der spezifischen Wärmekapazität der Luft führt die herkömmliche Luftkühlung leicht zu einer Wärmeansammlung im InnerenServerDies löst den thermischen Drosselmechanismus des Chips aus und beeinträchtigt direkt die Kontinuität und Konsistenz der Rechenleistung.

Flüssigkeitskühlungstechnologie und parametrische Vorteile von Supermicro-GPU-Servern

Um diese allgemeine Herausforderung der Branche anzugehen,Supermikrohat eine tiefgreifend angepasste Cold-Plate-Flüssigkeitskühlungslösung in seine High-Density-GPU der nächsten Generation eingeführtServer. Der Schwerpunkt dieser Lösung liegt auf der präzisen Temperaturregelung für Komponenten mit hoher Wärmeentwicklung.

• Material & Handwerkskunst: Kühlplatten aus reinem Kupfer mit hoher Wärmeleitfähigkeit werden direkt auf die Oberflächen von GPU-Chips und High Bandwidth Memory (HBM) aufgebracht. Das Mikrokanal-Strukturdesign vergrößert die Kontaktfläche für die Wärmeableitung um35 %$.

• Arbeitsbedingungen: Unter rauen Industriebedingungen mit einer Kühlmitteleintrittstemperatur von$32^circtext{C}$, hält das System die Kern-GPU-Betriebstemperatur stabil unterhalb$75^circtext{C}$.

• Zuverlässigkeitsstandards: Die Pipeline-Schnittstellen nutzen tropffreie Schnellanschlüsse in Luftfahrtqualität, die durch strenge Druckimpuls- und Korrosionsschutztests zertifiziert wurden, wodurch jegliches Risiko eines Kühlmittellecks während der Betriebslebensdauer der IT-Ausrüstung ausgeschlossen wird.

Optimierung der PUE-Ergebnisse im Rechenzentrum

Durch den Einsatz von Supermicro flüssigkeitsgekühltServerkönnen Rechenzentren den Stromverbrauch von Lüftern mit hoher Leistung drastisch senken. Experimentelle Daten deuten darauf hin, dass die Flüssigkeitskühlung bei identischen KI-Computing-Arbeitslasten dazu beiträgt, die Gesamtstromverbrauchseffektivität (PUE) des Rechenzentrums zu senken1,6 $unter herkömmlicher Luftkühlung auf ca1,15 $Dadurch wird der stabile Betrieb großer verteilter Trainingscluster sichergestellt und gleichzeitig die langfristigen Betriebsstromkosten erheblich gesenkt.