Das NVIDIA DGX H100-System ist ein universelles System, das für KI-Infrastruktur und Workloads entwickelt wurde. Hier ist eine Zusammenfassung der wichtigsten Hardware- und Komponentenmerkmale des Systems:
Das GPU-Board-Tray ist der Hauptkomponenten-Montagebereich des gesamten AI-Servers. Der Kernteil ist das GPU Board Tray, das hauptsächlich GPU-Komponenten, Modulplatinen und NVSwitches enthält.
Der CPU-Motherboard-Einschub ist die Kernkomponente des Servers (einschließlich normaler Server und AI-Server), der das CPU-Motherboard, den Systemspeicher, die Netzwerkkarte, den PCIE-Switch und andere Komponenten enthält.
- Grafikprozessor: 8 NVIDIA H100-GPUs mit 640 GB GPU-Speicher.
- Zentralprozessor: 2 Intel Xeon 8480C PCIe Gen5 CPUs mit jeweils 56 Kernen, Taktfrequenz von 2.0 GHz bis 3.8 GHz.
- NVLink: 4 NVLinks der vierten Generation, die eine GPU-zu-GPU-Bandbreite von 900 GB/s bieten.
- Lagerung:
Betriebssystemspeicher: 2 1.92 TB NVMe M.2 SSDs (RAID 1 Array).
Daten-Cache-Speicher: 8 3.84 TB NVMe U.2 SEDs (RAID 0-Array).
- Netzwerk:
Cluster-Netzwerk: 4 OSFP-Ports, unterstützt InfiniBand (bis zu 400 Gbit/s) und Ethernet (bis zu 400 GbE).
Speichernetzwerk: 2 NVIDIA ConnectX-7 Dual-Port-Ethernet-Karten, die Ethernet (bis zu 400 GbE) und InfiniBand (bis zu 400 Gbit/s) unterstützen.
- Systemspeicher: Jeweils 32 DIMMs bieten 2 TB Speicher.
- Out-of-Band-Systemmanagement (BMC): Unterstützt Redfish, IPMI, SNMP, KVM und Web-Benutzeroberfläche.
- In-Band-Systemverwaltung: 3 Dual-Port-100-GbE- und 10-GbE-RJ45-Schnittstellen. Mechanische und Leistungsdaten:
- Abmessungen: 8U-Rackmontage, Höhe 14 Zoll, maximale Breite 19 Zoll, maximale Tiefe 35.3 Zoll.
- Gewicht: Maximal 287.6 Pfund (130.45 kg).
- Eingangsspannung: 200–240 Volt Wechselstrom.
- Spezifikationen für jedes Netzteil: Maximal 10.2 Kilowatt, 3300 Watt bei 200–240 Volt, 16 Ampere, 50–60 Hertz.
- Unterstützt Hochgeschwindigkeitsnetzwerkverbindungen, einschließlich InfiniBand und Ethernet, mit Geschwindigkeiten von bis zu 400 Gbit/s.
Ähnliche Produkte:
- NVIDIA MMA4Z00-NS400 kompatibles 400G OSFP SR4 Flat Top PAM4 850 nm 30 m auf OM3/50 m auf OM4 MTP/MPO-12 Multimode FEC optisches Transceiver-Modul $900.00
- NVIDIA MMA4Z00-NS-FLT-kompatibles 800 Gbit/s Twin-Port OSFP 2x400G SR8 PAM4 850 nm 100 m DOM Dual MPO-12 MMF optisches Transceiver-Modul $850.00
- NVIDIA MMA4Z00-NS-kompatibles 800-Gbit/s-Twin-Port-OSFP-2x400G-SR8-PAM4-850-nm-100-m-DOM-Dual-MPO-12-MMF-optisches Transceiver-Modul $750.00
- NVIDIA MMS4X00-NM-kompatibles 800-Gbit/s-Twin-Port-OSFP-2x400G-PAM4-1310-nm-500-m-DOM-Dual-MTP/MPO-12-SMF-Optisch-Transceiver-Modul $1500.00
- NVIDIA MMS4X00-NM-FLT-kompatibles 800G-Twin-Port-OSFP-2x400G-Flat-Top-PAM4-1310-nm-500-m-DOM-Dual-MTP/MPO-12-SMF-optisches Transceiver-Modul $1500.00
- NVIDIA MMS4X00-NS400 kompatibles 400G OSFP DR4 Flat Top PAM4 1310 nm MTP/MPO-12 500 m SMF FEC optisches Transceiver-Modul $1350.00
- Mellanox MMA1T00-HS kompatibles 200G Infiniband HDR QSFP56 SR4 850nm 100m MPO-12 APC OM3/OM4 FEC PAM4 optisches Transceiver-Modul $200.00
- NVIDIA MFP7E10-N010-kompatibel, 10 m (33 Fuß), 8 Fasern, geringe Einfügungsdämpfung, Buchse auf Buchse, MPO-Stammkabel, Polarität B, APC auf APC LSZH, Multimode OM3 50/125 $47.00
- NVIDIA MCP7Y00-N003-FLT-kompatibler 3 m (10 Fuß) 800G Twin-Port OSFP zu 2x400G Flat Top OSFP InfiniBand NDR Breakout DAC $495.00
- NVIDIA MCP7Y70-H002 kompatibles 2 m (7 Fuß) 400G Twin-Port 2x200G OSFP zu 4x100G QSFP56 Passives Breakout Direct Attach Kupferkabel $160.00
- NVIDIA MCA4J80-N003-FTF-kompatibles 3 m (10 Fuß) 800G Twin-Port 2x400G OSFP zu 2x400G OSFP InfiniBand NDR Aktives Kupferkabel, flache Oberseite an einem Ende und gerippte Oberseite am anderen Ende $600.00
- NVIDIA MCP7Y10-N002 kompatibler 2 m (7 Fuß) 800G InfiniBand NDR Twin-Port OSFP zu 2x400G QSFP112 Breakout DAC $215.00