NVIDIA ha detallado la arquitectura de su nueva GPU Rubin, formada por 336.000 millones de transistores, 224 SM y 896 Tensor Cores. El acelerador alcanza hasta 50 PFLOPS en inferencia NVFP4, una capacidad orientada a modelos de inteligencia artificial que combinan razonamiento, recuperación de información y uso de herramientas.
La arquitectura incorpora 288 GB HBM4 con un ancho de banda máximo de 22 TB/s, además de NVLink 6 para conectar numerosas GPU dentro de un mismo sistema. Rubin será el componente principal de Vera Rubin NVL72, donde trabajarán 72 aceleradores junto a 36 procesadores Vera.
Rubin reúne 336.000 millones de transistores
La GPU utiliza dos dies de computación unidos mediante NVIDIA High-Bandwidth Interface o NV-HBI. Esta interconexión permite presentar ambos componentes como un único acelerador, evitando que el programa tenga que gestionar por separado los recursos disponibles en cada parte del encapsulado.
Su configuración completa incluye 224 multiprocesadores de flujo o SM, acompañados por 896 Tensor Cores y la tercera generación de Transformer Engine. Este último adapta la precisión utilizada durante el procesamiento para equilibrar rendimiento, consumo y exactitud según las necesidades del modelo ejecutado.
NVIDIA atribuye a Rubin hasta 50 PFLOPS en inferencia NVFP4, cinco veces la capacidad anunciada para Blackwell en ese formato. NVFP4 utiliza números de coma flotante de 4 bits para reducir la cantidad de memoria necesaria y aumentar el número de operaciones, aunque su aprovechamiento depende de que el modelo esté preparado para trabajar con esa precisión.
Los recursos se organizan en grupos de procesamiento gráfico o GPC, conectados a una gran caché L2 centralizada. El motor GigaThread distribuye el trabajo entre los distintos bloques, mientras las particiones de control MIG permiten dividir físicamente la GPU en varias instancias aisladas para ejecutar diferentes cargas sin que compartan todos sus recursos.
La memoria HBM4 alcanza un ancho de banda de 22 TB/s
Rubin incorpora hasta 288 GB HBM4 mediante apilamientos de 12 capas, controladores dedicados y una nueva interfaz física. El ancho de banda máximo aumenta hasta 22 TB/s, aproximadamente 2,8 veces más que en las GPU Blackwell y Blackwell Ultra utilizadas como referencia por la compañía.
La capacidad resulta especialmente importante para mantener modelos más grandes, contextos extensos y cachés KV de mayor tamaño dentro de la propia GPU. El ancho de banda, por su parte, determina la rapidez con la que pueden desplazarse los pesos y los datos necesarios para generar cada nuevo token.
Rubin también actualiza Tensor Memory Accelerator, el bloque encargado de trasladar datos entre la memoria y las unidades de cálculo. Las mejoras reducen la gestión necesaria cuando numerosos expertos de un modelo de mezcla de expertos comparten una estructura similar, pero utilizan pesos almacenados en ubicaciones diferentes.
El objetivo consiste en evitar que los 896 Tensor Cores queden esperando datos pese a disponer de una capacidad de cálculo muy elevada. En los modelos actuales, el rendimiento real depende tanto de la velocidad de la memoria como de los PFLOPS teóricos disponibles.
NVLink 6 ofrece 3,6 TB/s por GPU
La sexta generación de NVLink proporciona 3,6 TB/s de ancho de banda bidireccional por GPU, el doble que la generación anterior. Dentro de Vera Rubin NVL72, la interconexión permite que los 72 aceleradores se comuniquen directamente entre sí con una latencia predecible.
La conexión coherente entre el procesador y las GPU utiliza NVLink-C2C a 1,8 TB/s, mientras la comunicación con dispositivos externos corre a cargo de PCIe 6.0 x16 con hasta 256 GB/s. La combinación pretende reducir los cuellos de botella al mover datos entre memoria, procesadores, aceleradores y almacenamiento.
Rubin introduce además comunicaciones iniciadas por la propia GPU mediante escrituras contabilizadas. El acelerador receptor puede comprobar de forma más eficiente cuándo ha terminado una transferencia, reduciendo las operaciones de sincronización que anteriormente añadían latencia entre diferentes GPU.
Esta mejora resulta relevante en modelos de mezcla de expertos, donde los datos deben desplazarse continuamente hacia distintos aceleradores. La comunicación puede realizarse mientras otros cálculos siguen en marcha, evitando que todo el sistema quede detenido esperando la confirmación de una transferencia.
Vera Rubin NVL72 reduce los picos de potencia
Un sistema Vera Rubin NVL72 integra 72 GPU Rubin y 36 CPU Vera, por lo que las variaciones repentinas de carga pueden producir picos importantes de potencia. Estos cambios aparecen cuando numerosos aceleradores pasan simultáneamente de esperar datos a trabajar a plena capacidad.
La tecnología Intelligent Power Smoothing utiliza almacenamiento energético dentro del rack para absorber esos cambios y mantener una demanda más estable. Según NVIDIA, reduce aproximadamente un 10% el consumo medio frente a Grace Blackwell NVL72, además de recortar alrededor de un 20% los picos medidos durante intervalos de 50 ms.
El sistema almacena temporalmente energía cuando la demanda disminuye y la entrega cuando las GPU necesitan aumentar rápidamente su potencia. De esta manera, la red eléctrica y la infraestructura del centro de datos reciben una carga más uniforme, reduciendo la capacidad que debe reservarse únicamente para afrontar picos breves.
NVIDIA combina esta función con DSX MaxLPS, refrigeración líquida y gestión dinámica de potencia. La compañía sostiene que estas técnicas pueden permitir instalar hasta un 40% más de GPU dentro del mismo presupuesto energético, aunque la cifra dependerá de la carga, las instalaciones y la configuración elegida.
Rubin no se limita, por tanto, a aumentar el número de Tensor Cores o el ancho de banda de memoria. Su principal apuesta consiste en coordinar cálculo, HBM4, comunicaciones y consumo a escala de rack, buscando que las GPU permanezcan ocupadas durante más tiempo sin superar los límites eléctricos del centro de datos.
Vía: TechPowerUp
