Рынок серверов GPU в последнее время был горячим, и некоторые клиенты задаются вопросом, можно ли оснастить универсальные серверы картами GPU. Или если машине нужно всего 1-2 карты, можно ли использовать универсальный сервер + карту GPU? Серверы GPU и универсальные серверы — это текущая классификация рынка серверов на основе бизнес-сценариев. Строгих различий между ними нет. Можно понять, что серверы GPU — это универсальные серверы, оптимизированные для лучшей поддержки GPU. Если нам нужно провести простое сравнение между ними, мы можем обсудить его с помощью следующих десяти аспектов.
1. Они поддерживают разное количество видеокарт.
Серверы GPU обычно поддерживают не менее 4 карт GPU. Основные карты на рынке включают 4 карты, 8 карт, 10 карт, 20 карт и т. д. Карты здесь относятся к стандартным картам двойной ширины. Ниже приведен вид сзади сервера GPU для справки. Слоты GPU на 8 карт — slot1-slot8, а слоты GPU на 10 карт — slot0-slot9.
Вид сзади на сервер GPU
Универсальные серверы: как правило, серверы 2U имеют не более 4 карт, а серверы 4U — не более 6 карт, что также относится к стандартным картам двойной ширины.
2. Они поддерживают различные типы графических процессоров.
Сервер GPU: Он имеет хорошую совместимость с картами. В дополнение к одинарной и двойной ширине, модели некоторых производителей также могут поддерживать потребительские игровые карты 2.5 или 3 ширины. Например, G5208, выпущенный Stone Group, поддерживает версию 8 с 4090-карточным вентилятором, которая является инновационной машиной. Параметры поддержки GPU и структурная схема приведены ниже.
Структурная схема G5208
Универсальные серверы: в основном одинарной и двойной ширины, не поддерживают потребительские карты тройной ширины, в основном из-за их размера и тепловыделения.
3. Они имеют разные формы машин:
Серверы с графическими процессорами: обычно это серверы с одним узлом, наиболее распространенные на рынке — 4U, а также серверы типа «башня-башня» и высокопроизводительные серверы NVlink в конфигурациях 5U, 6U или 8U.
Универсальные серверы: обычно в форм-факторе 2U, но также и высотой 1U, высокоплотные 2U2, 2U4, 4U8, блейд-серверы или цельные шкафы, с более разнообразными формами продуктов.
4. У них разная топология графического процессора и центрального процессора.
Сервер GPU: В дополнение к PCIE direct pass-through, он также может быть расширен через PCIE sw. Существуют различные типы топологии, включая баланс, общий и каскадный. Он может выбирать более гибко для различных бизнес-сценариев клиентов (обучение, рассуждение, рендеринг видео и т. д.), как показано на следующем рисунке.
Сравнение трех типов топологии
Универсальные серверы: обычно через PCIE (редко через PCIe sw), количество поддерживаемых графических процессоров ограничено.
5. Разные марки серверов
Сервер GPU: За исключением ведущих производителей, которые разрабатывают собственные платформы (LC, H3C, CJB, LX и т. д.), большинство других используют платформы AMD (конечно, не исключаются и другие ODM-производители, такие как HQ, HS и т. д.).
Универсальные серверы: Их десятки. За исключением нескольких ведущих компаний, которые активно занимаются самостоятельными разработками, большинство других компаний используют сборные серверы, уделяя основное внимание экономической эффективности.
6. Потребляемая мощность всего сервера сильно различается.
GPU-сервер: Потребляемая мощность относительно высока. Если взять в качестве примера сервер с восемью картами 4090, то серверу требуется более 4 кВт. Например, основная платформа Supermicro с восемью картами на рынке обычно использует блок питания 8+2 2 кВт (конечно, его также можно настроить на режим работы 2+3);
Универсальные серверы: Низкобюджетные серверы обычно имеют мощность 500-550 Вт, а также есть серверы на 800 Вт, 100 Вт, 1200 Вт и 1600 Вт. Обычно не так много серверов превышают 2 кВт.
7. Цены на один сервер у них разные
GPU-сервер: Платформа в 2-3 раза больше универсального сервера. Фактическая цена поставки одной единицы может варьироваться от 100,000 8 RMB до миллионов. Это в основном зависит от цены GPU-карты. Например, для 100 карт AXNUMX стоимость платформы составляет очень малую долю.
Универсальные серверы: Он имеет большой ценовой диапазон от 10,000 20,000 RMB до 100,000 30,000 RMB и сотен тысяч RMB, но большинство продажных цен ниже 50,000 4090 RMB, а средняя цена составляет около XNUMX XNUMX–XNUMX XNUMX RMB за единицу. Вот почему все любят продавать GPU-серверы сейчас. Один GPU-сервер стоит в десять раз дороже других, и если продать десятки XNUMX восьмикарточных машин, то задача по продажам в основном выполнена.
8. У них разные общие доли рынка.
Два года назад серверы GPU составляли около 20-25% всего рынка серверов, в то время как стандартные серверы составляли более 70%. Сейчас рынок GPU процветает, особенно с созданием AIDC. По приблизительным оценкам, поставки моделей GPU превысили 30% или 40%. Согласно статистике IDC, доля внутреннего рынка серверов ускорения превысила 30% в 2024 году.
9. У них разные бизнес-сценарии серверов
Серверы с графическими процессорами обычно используются для рендеринга видео и обработки графики, обучения искусственного интеллекта, обоснования искусственного интеллекта или высокопроизводительных вычислений, в то время как стандартные серверы могут использоваться где угодно, например, в частных облаках, распределенных хранилищах, узлах управления и общих вычислительных узлах высокопроизводительных вычислений и т. д.
10. Они имеют различную срочность требований к технологии жидкостного охлаждения.
Серверы GPU являются «пожирателями энергии» и являются ключом к снижению индекса PUE в интеллектуальных вычислительных центрах. Поэтому многие интеллектуальные вычислительные центры, которые в настоящее время строятся или готовятся к строительству, запланировали жидкостное охлаждение для серверов GPU (как холодная пластина, так и иммерсионное). Однако риск заключается в гарантии на карту GPU. После того, как карта GPU будет переведена на жидкостное охлаждение, это может повлиять на первоначальную гарантию производителя (конечно, эта проблема временная, и не исключено, что производители GPU в будущем выпустят специальные модели жидкостного охлаждения. Фактически, NVIDIA выпустила GPU A100 одинарной ширины с жидкостным охлаждением два года назад). Универсальные серверы не так актуальны, как серверы GPU, с точки зрения жидкостного охлаждения, и они имеют относительно простую структуру и более зрелы, чем серверы GPU с точки зрения преобразования жидкостного охлаждения в холодную пластину или адаптации иммерсионного охлаждения.