La nueva GPU de NVIDIA se pone seria con Kubernetes

¿Qué ha cambiado?

El GB200 NVL72 anunciado por NVIDIA no es solo una GPU de alto rendimiento, sino que ha transformado desde la base la manera de construir redes de GPU entre múltiples máquinas. Antes, se necesitaba una configuración manual y compleja, pero ahora Kubernetes (el sistema de gestión de contenedores) lo hace casi todo de forma automática.

¿Qué es ComputeDomains?

En resumen, es un mecanismo para conectar GPUs dispersas en varios servidores de forma “segura” y “rápida”. Está integrado en el controlador DRA GPU de NVIDIA y, cada vez que se programa una carga de trabajo (proceso de cómputo), crea y gestiona automáticamente áreas de acceso a memoria. También mejora la separación de seguridad y la tolerancia a fallos.

Ventajas de la implementación

• Escalabilidad: Todo el rack se convierte en una única estructura de GPU. Se supera el límite de la era de nodos individuales.
• Gestión dinámica: Cada carga de trabajo obtiene un dominio independiente, lo que multiplica la eficiencia de recursos.
• Soporte multiusuario: Varias tareas de diferentes usuarios pueden ejecutarse simultáneamente sin interferencias.

Contexto: La evolución del cómputo con GPU

Los antiguos sistemas NVIDIA DGX solo escalaban dentro de una sola máquina. Con la aparición de NVLink multinodo (MNNVL), la comunicación entre GPUs de diferentes servidores se aceleró enormemente. Ahora, ComputeDomains implementa esto de forma nativa en Kubernetes. Así se sientan las bases para el entrenamiento de modelos de lenguaje a gran escala y la inferencia distribuida.

¿Qué viene después?

En el controlador DRA v25.8.0 están previstas más mejoras. Se eliminará la restricción de un solo pod por nodo y la programación será más flexible, aumentando aún más la tasa de utilización. Es el siguiente paso para la infraestructura base de la IA.