NVIDIA 900-21010-0120-030 H100 Nvl Tensor Core Gpu 94 Go Mémoire Interface 6016 Bits Hbm3 Bande Passante Mémoire 3938 Go/s Pci-e 5.0 X16

Le GPU NVIDIA® H100 NVL Tensor Core est la plateforme la plus optimisée pour les inférences LLM avec sa forte densité de calcul, sa largeur de bande mémoire élevée, son efficacité énergétique élevée et son architecture NVLink unique.Il offre également une accélération sans précédent pour alimenter les centres de données élastiques les plus performants au monde pour l'IA.La technologie NVIDIA H100 NVL Tensor Core prend en charge un large éventail de précisions mathématiques,fournir un seul accélérateur pour chaque charge de travail de calculLe NVIDIA H100 NVL prend en charge les tâches de calcul à double précision (FP64), à simple précision (FP32), à demi précision (FP16), à virgule flottante à 8 bits (FP8) et à entiers (INT8).

La carte NVIDIA H100 NVL est une carte PCI Express Gen5 à double fente de 10,5 pouces basée sur l'architecture NVIDIA HopperTM.qui nécessite un débit d'air du système pour faire fonctionner correctement la carte dans ses limites thermiques. The NVIDIA H100 NVL operates unconstrained up to its maximum thermal design power (TDP) level of 400 W to accelerate applications that require the fastest computational speed and highest data throughputLe NVIDIA H100 NVL débute la plus haute bande passante de mémoire de carte PCIe au monde de près de 4000 gigaoctets par seconde (GBps)..

La carte NVL NVIDIA H100 dispose d'une capacité de GPU multi-instance (MIG). Cela peut être utilisé pour partitionner le GPU en jusqu'à sept instances GPU isolées par le matériel,fournir une plateforme unifiée permettant aux centres de données élastiques de s'adapter dynamiquement aux exigences changeantes de la charge de travail. ainsi qu'il peut allouer la bonne taille de ressources du plus petit au plus grand multi-GPU emplois.La polyvalence de NVIDIA H100 NVL signifie que les responsables informatiques peuvent maximiser l'utilité de chaque unité de traitement graphique (GPU) de leur centre de données.

Les cartes NVIDIA H100 NVL utilisent trois ponts NVIDIA® NVLink®. Ils sont les mêmes que ceux utilisés avec les cartes PCIe NVIDIA H100.Cela permet de connecter deux cartes PCIe NVIDIA H100 pour fournir une bande passante bidirectionnelle de 600 Go/s ou 10 fois la bande passante de PCIe Gen4, afin de maximiser les performances des applications pour de grandes charges de travail.