NVIDIA DGX H100 Введение

Система NVIDIA DGX H100 — это универсальная система, предназначенная для инфраструктуры и рабочих нагрузок искусственного интеллекта. Вот краткое описание основных аппаратных средств и компонентов системы:

Лоток для платы графического процессора — это область сборки ключевых компонентов всего сервера AI. Основной частью является лоток для платы графического процессора, который в основном содержит компоненты графического процессора, платы модулей и NVSwitches.

Лоток материнской платы ЦП — это основной компонент сервера (включая как обычные серверы, так и серверы AI), который содержит материнскую плату ЦП, системную память, сетевую карту, коммутатор PCIE и другие компоненты.

• Графический процессор: 8 графических процессоров NVIDIA H100 с 640 ГБ видеопамяти.
• Центральный процессор: 2 процессора Intel Xeon 8480C PCIe Gen5, каждый по 56 ядер, тактовая частота от 2.0 ГГц до 3.8 ГГц.

• NVLink: 4 канала NVLink четвертого поколения, обеспечивающие пропускную способность между графическими процессорами 900 ГБ/с.
• Хранение:

Хранилище операционной системы: 2 твердотельных накопителя NVMe M.1.92 емкостью 2 ТБ (массив RAID 1).

Хранилище кэша данных: 8 дисков NVMe U.3.84 SED по 2 ТБ (массив RAID 0).

• Сети:

Кластерная сеть: 4 OSFP-порты, поддерживающий InfiniBand (до 400 Гбит/с) и Ethernet (до 400 GbE).

Сеть хранения данных: 2 двухпортовые карты Ethernet NVIDIA ConnectX-7 с поддержкой Ethernet (до 400GbE) и InfiniBand (до 400 Гбит/с).

• Системная память: каждые 32 модуля DIMM обеспечивают 2 ТБ памяти.
• Внешнее управление системой (BMC): поддерживает Redfish, IPMI, SNMP, KVM и веб-интерфейс пользователя.
• Внутриполосное управление системой: 3 двухпортовых интерфейса 100GbE и 10GbE RJ45. Механические и силовые характеристики:

• Размеры: для установки в стойку 8U, высота 14 дюймов, максимальная ширина 19 дюймов, максимальная глубина 35.3 дюйма.
• Вес: максимум 287.6 фунтов (130.45 кг).
• Входное напряжение: 200–240 В переменного тока.
• Характеристики каждого блока питания: максимум 10.2 кВт, 3300 Вт при 200–240 В, 16 А, 50–60 Гц.
• Поддерживает высокоскоростные сетевые соединения, включая InfiniBand и Ethernet, со скоростью до 400 Гбит/с.