Решающая роль Ethernet в сетях искусственного интеллекта

Быстрое развитие технологий искусственного интеллекта (ИИ) производит революцию в облачных вычислениях и ИТ-индустрии. С момента запуска Chat GPT в ноябре 2022 года сфера ИИ пережила инвестиционный бум, привлекая значительное внимание. Крупные поставщики облачных услуг представили новые продукты и услуги для удовлетворения растущего спроса на ИИ, в то время как многие крупные предприятия активно изучают варианты использования ИИ, такие как генеративный ИИ (GenAI), для повышения операционной эффективности и окупаемости инвестиций.

Однако быстрое развитие ИИ предъявляет более высокие требования к инфраструктуре поставщиков облачных услуг и корпоративных центров обработки данных. Данные, как важнейшее «топливо» для разработки ИИ, должны эффективно собираться, защищаться и передаваться. Организации, исследующие новые приложения ИИ, должны решать эти проблемы. Для поддержки огромных данных и вычислительных ресурсов, требуемых ИИ, нам необходимо построить более эффективные и надежные сетевые инфраструктуры.

В этом контексте технология Ethernet с ее зрелой и широко распространенной экосистемой становится важнейшей поддержкой сетевой инфраструктуры ИИ. Ethernet демонстрирует большой потенциал для удовлетворения высоких требований ИИ и предоставления единой платформы, что существенно влияет на экономическую жизнеспособность ИИ. Она может достигать согласованных операционных моделей в различных сетях и облаках, избегая высоких затрат, связанных с поддержанием нескольких инфраструктур.

быстрое развитие ИИ предъявляет более высокие требования

Основные требования к разработке сети ИИ

  • Скорость: быстрый рост услуг ИИ обуславливает необходимость в более высоких скоростях в центрах обработки данных и периферийных сетях, подталкивая сети к новым поколениям, таким как 400 Гбит/с и даже 800 Гбит/с.
  • Конфиденциальность и безопасность: сети должны эффективно обрабатывать данные, обеспечивая при этом высококачественное шифрование и безопасность в многопользовательских средах для защиты конфиденциальности данных.
  • Периферийный вывод: поскольку предприятия развертывают большие языковые модели (LLM) или малые языковые модели (SLM) и гибридные частные облака ИИ, развертывание возможностей вывода на переднем крае станет центральной точкой.
  • Короткое время выполнения задания (JCT) и низкая задержка: Оптимизация сетей для обеспечения передачи без потерь, гарантирующая эффективное использование полосы пропускания за счет управления перегрузками и балансировки нагрузки, является ключом к достижению быстрого JCT.
  • Гибкие кластеры: в центрах обработки данных ИИ кластеры процессоров могут быть сконфигурированы в различных топологиях. Оптимизация производительности требует избегания переподписки между слоями или регионами для снижения JCT.
  • Поддержка многопользовательской среды: в целях безопасности сети ИИ должны разделять потоки данных.
  • Стандартизированная архитектура: сети ИИ обычно состоят из внутренней инфраструктуры (обучение) и внешней (вывод). Универсальность Ethernet допускает техническое повторное использование между внутренними и внешними кластерами.
Основные требования к разработке сети ИИ

Постоянные инновации в технологии Ethernet

Технология Ethernet постоянно совершенствуется и развивается, чтобы соответствовать более высоким требованиям к масштабу сети со стороны ИИ. Некоторые ключевые технологические достижения включают:

  • Packet Spraying: эта технология позволяет каждому сетевому потоку получать доступ ко всем путям к месту назначения одновременно. Гибкое упорядочение пакетов полностью использует все каналы Ethernet с оптимальной балансировкой нагрузки, обеспечивая упорядочение только тогда, когда этого требуют операции с интенсивным использованием полосы пропускания в рабочих нагрузках ИИ.
  • Управление перегрузкой: алгоритмы управления перегрузкой на основе Ethernet имеют решающее значение для рабочих нагрузок ИИ. Они предотвращают возникновение точек перегрузки и равномерно распределяют нагрузку по нескольким путям, обеспечивая надежную передачу трафика ИИ.

Унифицированная и оптимизированная корпоративная инфраструктура

Предприятиям необходимо развернуть унифицированную инфраструктуру сети ИИ и операционные модели для снижения стоимости услуг и приложений ИИ. Принятие стандартизированного Ethernet в качестве поддерживающей технологии является основным элементом. Это обеспечивает совместимость между front-end и back-end системами, избегая препятствий процесса стандартизации и экономических последствий, вызванных различными архитектурами. Например, Arista выступает за создание «центра ИИ», где графические процессоры эффективно обучаются через сети без потерь. Обученные модели ИИ подключаются к кластерам вывода ИИ, что позволяет конечным пользователям удобно запрашивать эти модели.

Рыночные преимущества Ethernet

Ethernet демонстрирует сильную конкурентоспособность в развертывании ИИ благодаря своей открытости, гибкости и адаптивности. Его производительность превосходит InfiniBand, а с улучшениями от Ultra Ethernet Consortium (UEC) его преимущества будут еще больше расширяться. Более того, Ethernet более экономически эффективен, имеет более широкую и открытую экосистему, обеспечивая универсальность, унифицированные операции и наборы навыков как для внутренних, так и для внешних кластеров, а также возможности повторного использования платформы между кластерами. По мере того, как варианты использования и сервисы ИИ продолжают расширяться, возможности инфраструктуры Ethernet значительно возрастут, будь то в ядре гипермасштабируемых LLM или на периферии предприятия. Ethernet с поддержкой ИИ может удовлетворить спрос и обеспечить вывод ИИ на основе отраслевых частных данных.

Подводя итог, можно сказать, что технология Ethernet играет важнейшую роль в сетевой инфраструктуре ИИ. Она может удовлетворить многогранные потребности ИИ в плане скорости, безопасности, вывода на периферии и т. д. Благодаря постоянным технологическим инновациям и обширной поддержке экосистемы Ethernet предоставляет более эффективные и экономичные решения для предприятий, способствуя широкому применению и развитию ИИ.

Оставьте комментарий

Наверх