NVIDIA 900-21010-0120-030 H100 Nvl Tensor Core Gpu 94GB Speicheroberfläche 6016 Bit Hbm3 Speicher Bandbreite 3938gb/s Pci-e 5.0 X16

Die NVIDIA® H100 NVL Tensor Core GPU ist mit ihrer hohen Rechendichte, hoher Speicherbandbreite, hoher Energieeffizienz und einzigartiger NVLink-Architektur die optimalste Plattform für LLM-Inferenzen.Es bietet auch eine beispiellose Beschleunigung für die weltweit leistungsstärksten elastischen Rechenzentren für KI.Die NVIDIA H100 NVL Tensor Core-Technologie unterstützt eine breite Palette von mathematischen Präzisionen.Bereitstellung eines einzelnen Beschleunigers für jede RechenlastDie NVIDIA H100 NVL unterstützt Rechenvorgänge mit doppelter Präzision (FP64), Einzelpräzision (FP32), Halbpräzision (FP16), 8-Bit-Floating-Point (FP8) und Ganzzahlen (INT8).

Die NVIDIA H100 NVL-Karte ist eine 10,5 Zoll PCI Express Gen5-Karte mit zwei Steckplätzen, die auf der NVIDIA HopperTM-Architektur basiert.die für den ordnungsgemäßen Betrieb der Karte innerhalb ihrer thermischen Grenzwerte einen Systemluftstrom erfordert. The NVIDIA H100 NVL operates unconstrained up to its maximum thermal design power (TDP) level of 400 W to accelerate applications that require the fastest computational speed and highest data throughputDie NVIDIA H100 NVL hat die weltweit höchste PCIe-Speicherbandbreite von fast 4.000 Gigabyte pro Sekunde (GBps)..

Die NVIDIA H100 NVL Karte verfügt über Multi-Instance GPU (MIG) -Fähigkeit.Bereitstellung einer einheitlichen Plattform, die es elastischen Rechenzentren ermöglicht, sich dynamisch an veränderte Anforderungen an die Arbeitsbelastung anzupassen. Sowie kann es die richtige Größe der Ressourcen von den kleinsten bis zu den größten Multi-GPU-Jobs zuweisen.Die Vielseitigkeit von NVIDIA H100 NVL bedeutet, dass IT-Manager den Nutzen jeder Grafikverarbeitungseinheit (GPU) in ihrem Rechenzentrum maximieren können.

NVIDIA H100 NVL-Karten verwenden drei NVIDIA® NVLink® Brücken. Sie sind dieselben wie bei NVIDIA H100 PCIe-Karten.Dadurch können zwei NVIDIA H100 PCIe-Karten miteinander verbunden werden, um eine bidirektionale Bandbreite von 600 GB/s oder die 10-fache Bandbreite von PCIe Gen4 zu liefern, um die Anwendungsleistung bei großen Arbeitslasten zu maximieren.