NVIDIA 900-21010-0120-030 H100 Nvl Tensor Core Gpu 94gb Μνήμη Διεπαφή 6016 Bit Hbm3 Εύρος Ζώνης Μνήμης 3938gb/s Pci-e 5.0 X16

Η GPU NVIDIA® H100 NVL Tensor Core είναι η πιο βελτιστοποιημένη πλατφόρμα για Συμπεράσματα LLM με την υψηλή πυκνότητα υπολογιστικής ισχύος, την υψηλή εύρος ζώνης μνήμης, την υψηλή ενεργειακή απόδοση και τη μοναδική αρχιτεκτονική NVLink. Παρέχει επίσης πρωτοφανή επιτάχυνση για την τροφοδοσία των κορυφαίων ελαστικών κέντρων δεδομένων του κόσμου για εφαρμογές AI, ανάλυσης δεδομένων και υπολογιστών υψηλών επιδόσεων (HPC). Η τεχνολογία NVIDIA H100 NVL Tensor Core υποστηρίζει ένα ευρύ φάσμα μαθηματικών ακριβειών, παρέχοντας έναν ενιαίο επιταχυντή για κάθε υπολογιστικό φόρτο εργασίας. Η NVIDIA H100 NVL υποστηρίζει εργασίες διπλής ακρίβειας (FP64), απλής ακρίβειας (FP32), μισής ακρίβειας (FP16), κινητής υποδιαστολής 8-bit (FP8) και ακέραιων (INT8) υπολογισμών.

Η κάρτα NVIDIA H100 NVL είναι μια κάρτα PCI Express Gen5 διπλής υποδοχής 10,5 ιντσών βασισμένη στην αρχιτεκτονική NVIDIA Hopper™. Χρησιμοποιεί παθητική ψύκτρα για ψύξη, η οποία απαιτεί ροή αέρα συστήματος για τη σωστή λειτουργία της κάρτας εντός των θερμικών ορίων της. Η NVIDIA H100 NVL λειτουργεί ανεμπόδιστα έως το μέγιστο επίπεδο θερμικού σχεδιασμού (TDP) των 400 W για την επιτάχυνση εφαρμογών που απαιτούν την ταχύτερη υπολογιστική ταχύτητα και την υψηλότερη απόδοση δεδομένων. Η NVIDIA H100 NVL παρουσιάζει το υψηλότερο εύρος ζώνης μνήμης κάρτας PCIe στον κόσμο, σχεδόν 4.000 gigabytes ανά δευτερόλεπτο (GBps). Αυτό επιταχύνει τον χρόνο επίλυσης για τα μεγαλύτερα μοντέλα και τα πιο μαζικά σύνολα δεδομένων.

Η κάρτα NVIDIA H100 NVL διαθέτει δυνατότητα Multi-Instance GPU (MIG). Αυτό μπορεί να χρησιμοποιηθεί για τη διαμέριση της GPU σε έως και επτά απομονωμένες περιπτώσεις GPU υλικού, παρέχοντας μια ενοποιημένη πλατφόρμα που επιτρέπει στα ελαστικά κέντρα δεδομένων να προσαρμόζονται δυναμικά στις μεταβαλλόμενες απαιτήσεις φόρτου εργασίας. Επίσης, μπορεί να κατανείμει το σωστό μέγεθος πόρων από τις μικρότερες έως τις μεγαλύτερες εργασίες πολλαπλών GPU. Η ευελιξία της NVIDIA H100 NVL σημαίνει ότι οι διαχειριστές IT μπορούν να μεγιστοποιήσουν τη χρησιμότητα κάθε μονάδας επεξεργασίας γραφικών (GPU) στο κέντρο δεδομένων τους.

Οι κάρτες NVIDIA H100 NVL χρησιμοποιούν τρεις γέφυρες NVIDIA® NVLink®. Είναι ίδιες με αυτές που χρησιμοποιούνται με τις κάρτες NVIDIA H100 PCIe. Αυτό επιτρέπει τη σύνδεση δύο καρτών NVIDIA H100 PCIe για την παροχή αμφίδρομου εύρους ζώνης 600 GB/s ή 10 φορές το εύρος ζώνης του PCIe Gen4, για τη μεγιστοποίηση της απόδοσης των εφαρμογών για μεγάλους φόρτους εργασίας.