Comprender el poder de la DPU BlueField-3 de NVIDIA

Introducción

Al trabajar con servidores H100 SXM de NVIDIA, es posible que a menudo vea una configuración que incluye dos unidades BFD-3. Esto plantea preguntas, especialmente porque el sistema ya viene con ocho tarjetas de red CX-7 400G. ¿Cuáles son las diferencias y funciones fundamentales de BFD-3 en comparación con CX-7? Además, ¿por qué BFD tiene un puerto BMC cuando la placa base del servidor ya incluye un puerto BMC?

En los centros de datos tradicionales, la CPU era el núcleo absoluto. Sin embargo, a medida que la Ley de Moore pierde vigencia, el crecimiento de la potencia de procesamiento de la CPU ya no puede seguir el ritmo de la explosión de datos, lo que genera cuellos de botella. Transferir las cargas de trabajo de la CPU a adaptadores de red (tarjetas de interfaz de red) se ha vuelto necesario, lo que impulsa el rápido desarrollo de las NIC inteligentes (Smart NIC). NVIDIA define las NIC inteligentes basadas en DPU como tarjetas de interfaz de red que descargan tareas que normalmente gestiona la CPU del sistema. Mediante su procesador integrado, una Smart NIC basada en DPU puede realizar una combinación de tareas de cifrado/descifrado, firewall, TCP/IP y procesamiento HTTP. En esencia, asiste a la CPU en diversas tareas y cuenta con su propia CPU para gestionar de forma independiente las tareas relacionadas con la seguridad de la red. Para abordar el cambio en la arquitectura de los centros de datos impulsado por la tecnología de nube a gran escala, NVIDIA presentó la serie BlueField DPU. Estos nuevos procesadores están diseñados específicamente para el software de infraestructura del centro de datos, descargando y acelerando las enormes cargas de trabajo computacionales generadas por la virtualización, la red, el almacenamiento, la seguridad y otros servicios de IA nativos de la nube. BlueField-3 funciona como un "nodo independiente" integrado en la ruta PCIe del servidor:

• ARM + OS: Puede descargar varias tareas manejadas originalmente por el sistema operativo host.
• Aceleradores integrados: mejoran la eficiencia del procesamiento, la seguridad y el almacenamiento de datos.
• Chip de conmutación PCIe: se puede utilizar en gabinetes de expansión SSD NVMe.
• Chip BMC: permite la gestión independiente de los recursos originales del host en un entorno de nube.

La DPU NVIDIA® BlueField®-3 es la plataforma de computación de infraestructura de tercera generación que permite a las empresas construir infraestructura de TI definida por software y acelerada por hardware desde la nube hasta los centros de datos centrales y los entornos perimetrales. Con conectividad de red Ethernet de 400 Gb/s o NDR InfiniBand de 400 Gb/s, DPU BlueField-3 Puede descargar, acelerar y aislar las funciones de red, almacenamiento, seguridad y gestión definidas por software, mejorando significativamente el rendimiento, la eficiencia y la seguridad del centro de datos. Al comprender las capacidades y aplicaciones de la DPU BlueField-3, las empresas pueden aprovechar esta tecnología eficazmente para satisfacer las demandas de los centros de datos modernos y garantizar una infraestructura robusta, escalable y segura.

Relación lógica entre NIC, NIC inteligente y DPU

Para entender sus distinciones, comparemos los siguientes puntos (opiniones personales como referencia):

Las diferencias entre las DPU de NVIDIA y las SuperNIC

• DPU (Unidades de Procesamiento de Datos): Basadas en la arquitectura BlueField, integran potentes capacidades informáticas (CPU ARM multinúcleo), redes de alta velocidad (hasta 400 Gb/s) y programabilidad. Están diseñadas para descargar y acelerar tareas del centro de datos, como redes, almacenamiento y seguridad, y son ideales para cargas de trabajo complejas como la computación en la nube y la computación de alto rendimiento.
• SuperNIC: También basadas en la arquitectura BlueField-3, pero optimizadas específicamente para cargas de trabajo de IA. Son más pequeñas, consumen menos energía y se centran en la transferencia de datos de alto ancho de banda y baja latencia entre GPU (p. ej., RDMA de 400 Gb/s sobre RoCE), ideales para la computación de IA a hiperescala.

Razones para la aparición de NIC y DPU inteligentes

La era de las NIC tradicionales

En los centros de datos tradicionales, la CPU era el núcleo absoluto. Sin embargo, a medida que la Ley de Moore se vuelve menos aplicable, el crecimiento de la potencia de procesamiento de la CPU ya no puede seguir el ritmo de la explosión de datos, lo que crea un cuello de botella. Se hizo necesario descargar la carga de trabajo de la CPU en adaptadores de red (tarjetas de interfaz de red), lo que impulsó el rápido desarrollo de las NIC inteligentes.

Era de las NIC inteligentes (primera generación)

La primera generación de NIC inteligentes se centró principalmente en la descarga de tareas desde el plano de datos. Algunos ejemplos incluyen la descarga de hardware OVS Fastpath, la descarga de hardware de red RDMA basada en RoCEv1 y v2, la descarga de hardware para capacidades de red sin pérdidas (PFC, ECN, ETS), la descarga de hardware NVMe-oF en el dominio de almacenamiento y la descarga del plano de datos para transmisión segura.

Era de las NIC inteligentes DPU (segunda generación)

Las DPU (unidades de procesamiento de datos) surgieron para abordar tres problemas principales en los centros de datos:

Entre nodos: baja eficiencia del intercambio de datos del servidor y transmisión de datos poco confiable.

Dentro de los nodos: ejecución ineficiente del modelo de centro de datos, baja eficiencia de conmutación de E/S y arquitectura de servidor inflexible.

Sistemas de red: Redes inseguras.

Diferencias entre la DPU NVIDIA BlueField-3 y las NIC ConnectX-7

Para comprender a fondo la DPU BlueField-3 de NVIDIA, es fundamental compararla con las tarjetas de red ConnectX-7 OSFP y ConnectX-7 QSFP112 de NVIDIA. Estos dispositivos cumplen funciones distintas en las redes de centros de datos, y comprender sus diferencias y ventajas puede ayudar a las organizaciones a elegir la solución adecuada a sus necesidades.

Ámbito funcional: DPU vs. NIC

La DPU NVIDIA BlueField-3 es una plataforma de computación de infraestructura totalmente programable que integra un potente clúster de 16 núcleos Arm A78, redes de alta velocidad (hasta 400 Gb/s Ethernet o NDR InfiniBand) y aceleradores de hardware para tareas como redes, almacenamiento y seguridad. A diferencia de las tarjetas de red tradicionales, la DPU BlueField-3 funciona como un nodo independiente con su propio sistema operativo, lo que le permite descargar cargas de trabajo complejas como virtualización, NVMe-oF (NVMe over Fabrics) y seguridad de confianza cero de la CPU host. Esto reduce la sobrecarga de la CPU, mejora el rendimiento y la eficiencia energética.

En cambio, las tarjetas de interfaz de red NVIDIA ConnectX-7 OSFP y ConnectX-7 QSFP112 son tarjetas de interfaz de red avanzadas, enfocadas principalmente en la conectividad de alta velocidad. La ConnectX-7 OSFP admite Ethernet de un solo puerto a 400 Gb/s o NDR InfiniBand, mientras que la ConnectX-7 QSFP112 ofrece configuraciones de dos puertos a 200 Gb/s o de un solo puerto a 400 Gb/s. Estas tarjetas destacan por su baja latencia y alto ancho de banda, pero carecen de las capacidades de computación programables y del sistema operativo independiente de la DPU BlueField-3. Están diseñadas para gestionar tareas de red tradicionales como el procesamiento TCP/IP, RDMA (Acceso Directo a Memoria Remota) y la descarga básica, pero no admiten el amplio aislamiento y la aceleración de cargas de trabajo que ofrece la DPU.

Ventajas de la DPU BlueField-3

La DPU BlueField-3 ofrece varias ventajas sobre las NIC ConnectX-7, particularmente para los centros de datos modernos definidos por software:

• Descarga integral de carga de trabajo: La DPU BlueField-3 puede descargar y acelerar una amplia gama de tareas, incluyendo redes definidas por software (SDN), almacenamiento (p. ej., NVMe-oF) y seguridad (p. ej., firewalls, mitigación de DDoS). Esto reduce la carga computacional de la CPU host, liberándola para aplicaciones generadoras de ingresos. Por ejemplo, BlueField-3 puede gestionar operaciones colectivas MPI de HPC/IA, lo que ofrece un aumento de velocidad de hasta el 20 % y un ahorro significativo de costos en entornos de supercomputación a gran escala.
• Plataforma de cómputo independiente: Con 16 núcleos Arm y un sistema operativo independiente, la DPU BlueField-3 funciona como un nodo de cómputo independiente, lo que permite casos de uso avanzados como la microsegmentación, la multi-inquilino y la computación en el borde. Esto resulta especialmente valioso para fábricas de IA y entornos nativos de la nube donde la escalabilidad y la seguridad son cruciales.
• Seguridad mejorada: La capacidad de la DPU para aislar cargas de trabajo garantiza una seguridad de confianza cero, protegiendo los modelos de IA y los datos confidenciales de amenazas. Por ejemplo, al combinarse con BIG-IP Next de F5 para Kubernetes, BlueField-3 proporciona firewall integrado, mitigación de DDoS y protección de API, creando una arquitectura segura para cargas de trabajo de IA.
• Eficiencia energética: Al descargar tareas de la CPU, BlueField-3 reduce el consumo de energía, lo que lo hace ideal para centros de datos sostenibles. Su alto ancho de banda de memoria y sus aceleradores de hardware optimizan aún más el rendimiento por vatio.

Ventajas de las NIC ConnectX-7

Si bien la DPU BlueField-3 es una potencia para las tareas de infraestructura, las NIC ConnectX-7 OSFP y QSFP112 tienen sus propias fortalezas:

• Simplicidad y rentabilidad: Las tarjetas de red ConnectX-7 están optimizadas para redes de alta velocidad sin la sobrecarga de procesamiento adicional de una DPU. Son ideales para aplicaciones que requieren una conectividad sencilla y de baja latencia, como clústeres de computación de alto rendimiento (HPC) o redes de centros de datos tradicionales.
• Configuraciones de puerto flexibles: La tarjeta de red ConnectX-7 QSFP112 ofrece opciones de dos puertos de 200 Gb/s o de un solo puerto de 400 Gb/s, lo que proporciona flexibilidad para diversas topologías de red. La tarjeta de red OSFP, con su diseño de un solo puerto de 400 Gb/s, es ideal para entornos con alto ancho de banda y una sola conexión.
• Menor complejidad: para entornos donde no se requiere descarga o programabilidad avanzada, las NIC ConnectX-7 ofrecen un modelo de implementación más simple, lo que reduce la complejidad de configuración y mantenimiento en comparación con la arquitectura programable de la DPU.

Escenarios de casos de uso

La elección entre la DPU BlueField-3 y las NIC ConnectX-7 depende de los requisitos específicos de su centro de datos:

• DPU BlueField-3: Ideal para centros de datos modernos definidos por software, fábricas de IA y entornos de edge computing. Destaca en escenarios que requieren una gran descarga de carga de trabajo, como la supercomputación nativa de la nube, el almacenamiento NVMe-oF y la seguridad de confianza cero. Por ejemplo, Oracle Cloud Infrastructure (OCI) integra BlueField-3 para optimizar la red y la seguridad, mejorando así el rendimiento en la nube.
• NIC ConnectX-7: Ideales para tareas de red tradicionales donde la conectividad de alta velocidad y baja latencia es la principal necesidad. Son ideales para clústeres de HPC, streaming de vídeo o aplicaciones con uso intensivo de la red que no requieren descarga de cómputo avanzada.

Integración con el ecosistema NVIDIA

Tanto la DPU BlueField-3 como las tarjetas de red ConnectX-7 utilizan el kit de desarrollo de software DOCA de NVIDIA, que mejora la programabilidad y acelera la innovación. Sin embargo, la DPU BlueField-3 se beneficia de una mayor integración con DOCA, lo que permite a los desarrolladores crear aplicaciones personalizadas para redes, almacenamiento y seguridad. Esto convierte a la DPU en una plataforma más versátil para los centros de datos de nueva generación. Además, la compatibilidad de BlueField-3 con los sistemas de IA de NVIDIA, como DGX SuperPOD, garantiza un rendimiento impecable en implementaciones de IA a gran escala.

Características avanzadas y métricas de rendimiento de la DPU BlueField-3

Basándose en los recientes avances e implementaciones destacados en debates del sector, la DPU BlueField-3 ofrece capacidades únicas que la distinguen de las tarjetas de red ConnectX-7, especialmente en entornos de computación de alto rendimiento (HPC), IA y nube. A continuación, exploramos características adicionales, métricas de rendimiento y aplicaciones prácticas para diferenciar aún más estas tecnologías.

Descarga avanzada para cargas de trabajo de IA y HPC

La DPU BlueField-3 está diseñada para gestionar las intensas demandas de los entornos de IA y HPC, descargando tareas críticas de la CPU host. Según información del sector, BlueField-3 puede acelerar las operaciones colectivas de MPI (Interfaz de Paso de Mensajes), esenciales para la computación distribuida en clústeres de IA y HPC. Esto se traduce en un aumento de rendimiento de hasta un 20 % en tareas de supercomputación a gran escala, como se demuestra en las implementaciones de DGX SuperPOD de NVIDIA. Por el contrario, las NIC ConnectX-7, si bien admiten RDMA y transferencia de datos de alta velocidad, carecen de las capacidades de computación programables necesarias para gestionar una descarga tan compleja, lo que limita su función a la conectividad en lugar de a la aceleración de la computación.

Aceleración del almacenamiento con NVMe-oF

La DPU BlueField-3 destaca en la aceleración de almacenamiento, especialmente con NVMe over Fabrics (NVMe-oF). Aprovecha los aceleradores de hardware para reducir la latencia y mejorar el rendimiento de los sistemas de almacenamiento distribuido. Por ejemplo, BlueField-3 puede procesar cargas de trabajo NVMe-oF con una mínima intervención de la CPU, logrando hasta el doble de IOPS (operaciones de entrada/salida por segundo) en comparación con las soluciones basadas en software. Las tarjetas de red ConnectX-2, si bien admiten NVMe-oF mediante protocolos RDMA como RoCE (RDMA sobre Ethernet convergente), dependen del procesamiento de la CPU del host para la mayoría de las tareas de almacenamiento, lo que las hace menos eficientes para cargas de trabajo de almacenamiento complejas.

Seguridad y aislamiento para entornos nativos de la nube

En entornos nativos de la nube, la DPU BlueField-3 ofrece robustas funciones de seguridad mediante el aislamiento de cargas de trabajo y arquitecturas de confianza cero. Puede ejecutar funciones de seguridad virtualizadas, como firewalls y sistemas de detección de intrusiones, directamente en la DPU, lo que reduce la superficie de ataque del sistema host. Por ejemplo, la integración con BIG-IP Next de F5 para Kubernetes permite a BlueField-3 ofrecer protección avanzada de API y mitigación de DDoS, crucial para proteger las cargas de trabajo de IA en clústeres de Kubernetes. Las NIC ConnectX-7, si bien admiten descargas de seguridad básicas como IPsec, carecen de la plataforma de computación independiente necesaria para funciones de seguridad tan completas.

Implementaciones en el mundo real y sinergias del ecosistema

La DPU BlueField-3 se ha adoptado en implementaciones de vanguardia, como Oracle Cloud Infrastructure (OCI) y las propias fábricas de IA de NVIDIA. En OCI, BlueField-3 optimiza la virtualización de la red y la aceleración del almacenamiento, mejorando el rendimiento de la nube hasta en un 30 % en cargas de trabajo con uso intensivo de datos. Además, su integración con el SDK DOCA de NVIDIA permite a los desarrolladores crear aplicaciones personalizadas adaptadas a casos de uso específicos, como análisis en tiempo real o IA perimetral. Las NIC ConnectX-7, si bien son esenciales para el ecosistema de redes de NVIDIA, se utilizan principalmente en escenarios que requieren interconexiones de alta velocidad, como en clústeres de HPC o redes troncales de centros de datos, sin el mismo nivel de programabilidad o integración en el ecosistema.

Comparación de métricas de rendimiento

Para cuantificar las diferencias, considere las siguientes métricas:

• DPU BlueField-3: Rendimiento de hasta 400 Gb/s, 16 núcleos ARM A78, 32 GB de memoria DDR4 integrada y aceleradores de hardware para cifrado, compresión y almacenamiento. Puede reducir el uso de la CPU hasta en un 50 % en entornos virtualizados al delegar tareas como OVS (Open vSwitch) y NVMe-oF.
• NIC OSFP ConnectX-7: Ethernet de 400 Gb/s de puerto único o NDR InfiniBand, optimizado para RDMA de baja latencia (latencia de submicrosegundos), pero sin núcleos de cómputo integrados ni memoria para procesamiento independiente.
• NIC ConnectX-7 QSFP112: puerto dual de 200 Gb/s o puerto único de 400 Gb/s, rendimiento RDMA similar a OSFP, pero diseñado para configuraciones de puerto flexibles en lugar de tareas que requieren un uso intensivo de recursos informáticos.

Estas métricas resaltan la capacidad de la DPU BlueField-3 para manejar tareas de red y computación, lo que la convierte en una solución más versátil para los centros de datos modernos en comparación con las NIC ConnectX-7, que están optimizadas solo para la conectividad.

Elegir la solución adecuada

Para organizaciones que desarrollan fábricas de IA, centros de datos nativos de la nube o soluciones de computación en el borde, la DPU BlueField-3 es la mejor opción gracias a su programabilidad, la descarga de carga de trabajo y sus funciones de seguridad. Por ejemplo, en clústeres de entrenamiento de IA, BlueField-3 puede reducir los tiempos de entrenamiento al descargar las tareas de comunicación, como se observa en los sistemas DGX H100 de NVIDIA. Por el contrario, las NIC ConnectX-7 son más adecuadas para entornos de red tradicionales, como centros de datos empresariales o clústeres de HPC, donde la conectividad de alta velocidad y baja latencia es el requisito principal sin necesidad de una descarga de computación avanzada.

Explicación simplificada: por qué las DPU son superiores a las NIC inteligentes

NVIDIA define las NIC inteligentes basadas en DPU como tarjetas de interfaz de red que descargan tareas que normalmente gestiona la CPU del sistema. Mediante su procesador integrado, una NIC inteligente basada en DPU puede realizar una combinación de tareas de cifrado/descifrado, firewall, TCP/IP y procesamiento de HTTP. Básicamente, ayuda a la CPU con varias tareas y tiene su propia CPU para gestionar las tareas relacionadas con la seguridad de la red de forma independiente.

Descripción general de la DPU NVIDIA BlueField-3

Para abordar el cambio en la arquitectura de los centros de datos impulsado por la tecnología de nube a gran escala, NVIDIA presentó la serie BlueField DPU. Estos nuevos procesadores están diseñados específicamente para el software de infraestructura de centros de datos, lo que permite descargar y acelerar las enormes cargas de trabajo computacionales generadas por la virtualización, las redes, el almacenamiento, la seguridad y otros servicios de inteligencia artificial nativos de la nube.

Disposición del sistema de la DPU NVIDIA BlueField-3

BlueField-3 funciona como un “nodo independiente” integrado en la ruta PCIe del servidor:

1. ARM + OS: Puede descargar varias tareas manejadas originalmente por el sistema operativo host.
2. Aceleradores integrados: mejoran la eficiencia en el procesamiento, la seguridad y el almacenamiento de datos.
3. Chip de conmutación PCIe: se puede utilizar en gabinetes de expansión SSD NVMe.
4. Chip BMC: permite la gestión independiente de los recursos del host original en un entorno de nube.

Casos de uso recomendados para BlueField-3

NVIDIA® BlueField®-3 DPU es la plataforma informática de infraestructura de tercera generación que permite a las empresas crear infraestructura de TI definida por software y acelerada por hardware desde la nube hasta los centros de datos centrales y los entornos perimetrales. Con conectividad de red Ethernet de 400 Gb/s o InfiniBand NDR de 400 Gb/s, la DPU BlueField-3 puede descargar, acelerar y aislar las funciones de red, almacenamiento, seguridad y administración definidas por software, lo que mejora significativamente el rendimiento, la eficiencia y la seguridad del centro de datos.

Ejemplo de aplicación de BlueField-3 en VMware Private Cloud

Hoja de ruta de NVIDIA DPU

Al comprender las capacidades y aplicaciones de la DPU BlueField-3, las empresas pueden aprovechar eficazmente esta tecnología para satisfacer las demandas de los centros de datos modernos y garantizar una infraestructura sólida, escalable y segura.