Présentation du NVIDIA DGX H100

Le système NVIDIA DGX H100 est un système universel conçu pour l'infrastructure et les charges de travail d'IA. Voici un résumé des principales fonctionnalités matérielles et des composants du système :

Le plateau de la carte GPU est la zone d'assemblage des composants clés de l'ensemble du serveur AI. La partie centrale est le GPU Board Tray, qui contient principalement des composants GPU, des cartes de modules et des NVSwitches.

Le plateau de la carte mère du processeur est le composant principal du serveur (y compris les serveurs ordinaires et les serveurs IA), qui contient la carte mère du processeur, la mémoire système, la carte réseau, le commutateur PCIE et d'autres composants.

• Processeur graphique : 8 GPU NVIDIA H100, fournissant 640 Go de mémoire GPU.
• Processeur central : 2 processeurs Intel Xeon 8480C PCIe Gen5, chacun avec 56 cœurs, vitesse d'horloge allant de 2.0 GHz à 3.8 GHz.

• NVLink: 4 NVLinks de quatrième génération, fournissant 900 Go/s de bande passante GPU à GPU.
• Stockage:

Stockage du système d'exploitation : 2 SSD NVMe M.1.92 de 2 To (matrice RAID 1).

Stockage du cache de données : 8 SED NVMe U.3.84 de 2 To (matrice RAID 0).

• Réseau:

Réseau de clusters : 4 Ports OSFP, prenant en charge InfiniBand (jusqu'à 400 Gbit/s) et Ethernet (jusqu'à 400 GbE).

Réseau de stockage : 2 cartes Ethernet double port NVIDIA ConnectX-7, prenant en charge Ethernet (jusqu'à 400 GbE) et InfiniBand (jusqu'à 400 Gbps).

• Mémoire système : chaque 32 modules DIMM fournit 2 To de mémoire.
• Gestion du système hors bande (BMC) : prend en charge Redfish, IPMI, SNMP, KVM et l'interface utilisateur Web.
• Gestion du système intra-bande : 3 interfaces RJ100 double port 10GbE et 45GbE. Spécifications mécaniques et électriques :

• Dimensions : monté en rack 8U, hauteur 14 pouces, largeur maximale 19 pouces, profondeur maximale 35.3 pouces.
• Poids : Maximum 287.6 livres (130.45 kg).
• Tension d'entrée : 200-240 volts CA.
• Spécifications pour chaque alimentation : Maximum 10.2 kilowatts, 3300 200 watts à 240-16 volts, 50 ampères, 60-XNUMX hertz.
• Prend en charge les connexions réseau haut débit, notamment InfiniBand et Ethernet, avec des vitesses allant jusqu'à 400 Gbit/s.