Εστιάζοντας στα Υπολογιστικά Κέντρα AI: Συμφόρηση ισχύος θερμικού σχεδιασμού (TDP) στην εκπαίδευση LLM

Κατά τη διάρκεια των κύκλων εκπαίδευσης των Μεγάλων Γλωσσικών Μοντέλων (LLM) με δεκάδες ή εκατοντάδες δισεκατομμύρια παραμέτρους, το βασικό σημείο πόνου των κέντρων υπολογιστών AI έχει σταδιακά μετατοπιστεί από τον καθαρό υπολογιστικό πλεονασμό στη θερμική διαχείριση υψηλής πυκνότητας. Όταν υπάρχουν πολλές κάρτες γραφικών πυρήνα (GPU) λειτουργεί με πλήρες φορτίο για παρατεταμένες περιόδους εντός ενός περιορισμένου χώρου$4 U$χώρο, η στιγμιαία Θερμική Ισχύς Σχεδιασμού (TDP) ενός μόνο τσιπ μπορεί εύκολα να ξεπεράσει$700W$. Λόγω των φυσικών περιορισμών της ειδικής θερμικής ικανότητας του αέρα, η παραδοσιακή ψύξη του αέρα οδηγεί εύκολα σε θερμική συσσώρευση στο εσωτερικό τουδιακομιστές, ενεργοποιώντας τον θερμικό μηχανισμό στραγγαλισμού του τσιπ και διακυβεύοντας άμεσα τη συνέχεια και τη συνέπεια της υπολογιστικής παραγωγής.

Τεχνολογία υγρής ψύξης και παραμετρικά πλεονεκτήματα των διακομιστών Supermicro GPU

Για την αντιμετώπιση αυτής της κοινής πρόκλησης του κλάδου,Supermicroέχει εισαγάγει μια βαθιά προσαρμοσμένη λύση Ψύξης Ψύξης Ψύξης Ψύξης στην επόμενης γενιάς GPU υψηλής πυκνότηταςδιακομιστές. Αυτή η λύση εστιάζει στον ακριβή έλεγχο θερμοκρασίας για εξαρτήματα υψηλής παραγωγής θερμότητας.

• Υλικό & Χειροτεχνία: Οι ψυχρές πλάκες από καθαρό χαλκό υψηλής θερμικής αγωγιμότητας εφαρμόζονται απευθείας στις επιφάνειες των τσιπ GPU και στη μνήμη υψηλού εύρους ζώνης (HBM). Ο δομικός σχεδιασμός μικροκαναλιού αυξάνει την περιοχή επαφής θερμικής διάχυσης κατά$35%$.

• Συνθήκες Εργασίας: Υπό σκληρές βιομηχανικές συνθήκες με θερμοκρασία ψυκτικού εισόδου ίση με$32^circtext{C}$, το σύστημα διατηρεί σταθερά τη θερμοκρασία λειτουργίας του πυρήνα της GPU παρακάτω$75^circtext{C}$.

• Πρότυπα αξιοπιστίας: Οι διεπαφές του αγωγού χρησιμοποιούν ταχείς συνδέσμους αεροπορίας που δεν στάζουν, πιστοποιημένοι μέσω αυστηρών δοκιμών παλμού πίεσης και αντιδιαβρωτικής δοκιμής, εξαλείφοντας κάθε κίνδυνο διαρροής ψυκτικού υγρού κατά τη διάρκεια ζωής του εξοπλισμού πληροφορικής.

Βελτιστοποίηση των αποτελεσμάτων PUE του Κέντρου Δεδομένων

Με την ανάπτυξη Supermicro υγρόψυκτοδιακομιστές, τα κέντρα δεδομένων μπορούν να μειώσουν δραστικά την κατανάλωση ρεύματος των ανεμιστήρων ψύξης υψηλής ισχύος. Τα πειραματικά δεδομένα υποδεικνύουν ότι υπό πανομοιότυπους φόρτους εργασίας υπολογιστικής τεχνητής νοημοσύνης, η υγρή ψύξη συμβάλλει στη μείωση της συνολικής αποτελεσματικότητας χρήσης ενέργειας του κέντρου δεδομένων (PUE) από$1,6 $υπό παραδοσιακή ψύξη αέρα έως περίπου$1,15 $, διασφαλίζοντας τη σταθερή λειτουργία κατανεμημένων ομάδων εκπαίδευσης μεγάλης κλίμακας με ταυτόχρονη σημαντική μείωση του μακροπρόθεσμου λειτουργικού κόστους ηλεκτρικής ενέργειας.