El NVL72 de Vera Rubin, de Nvidia, debuta en MLPerf con una mejora de inferencia de 3,7 veces

El 16 de septiembre de 2026, MLCommons publicó MLPerf Inference v6.1, la auditoría semestral de la rapidez con la que los servidores convierten entradas en salidas de modelo. La misma publicación dio a Nvidia un escaparate para el hardware que quiere vender a continuación: un primer envío en vista previa del Vera Rubin NVL72, el sistema de escala de rack que sucede a Blackwell y GB300. Nvidia afirma que la plataforma alcanzó hasta 3,7 veces el rendimiento del GB300 NVL72 en el benchmark de visión-lenguaje Qwen3-VL y hasta 2,5 veces en DeepSeek-R1.

Lectura relacionada: El DSX POD de Nvidia convierte una fábrica de IA en un contenedor marítimo · La cuota de Nvidia en los chips de IA de China cae al 34 % mientras Huawei se acerca.

Las cifras llevan un matiz. En MLPerf, «preview» es una categoría de disponibilidad para hardware que no necesita estar a la venta cuando se envían los resultados, solo estar disponible de forma general para la ronda siguiente. Ambas comparaciones destacadas de Nvidia son contra su propia generación anterior, no contra el producto actual de un rival, y la empresa las describe como resultados tempranos. Fueron revisadas por MLCommons, pero no son lo mismo que un envío de producción.

Qué mide MLPerf Inference

La suite existe para hacer comparables los resultados de inferencia. En la división Closed, quienes envían deben ejecutar el mismo modelo que la implementación de referencia y cumplir las mismas restricciones de precisión, de modo que las diferencias de rendimiento reflejen el hardware y el software y no un modelo modificado. Los sistemas de centro de datos se prueban en escenarios offline, servidor e interactivo. Offline mide el rendimiento agregado bruto sin límite de latencia, servidor añade una tasa de llegada de Poisson y un objetivo de latencia, e interactivo fija un requisito de respuesta por token más estricto.

Esta ronda reunió un récord de 30 organizaciones participantes y 486 resultados de centro de datos y de borde, según MLCommons. Añadió una canalización de generación aumentada por recuperación de extremo a extremo y una prueba de agente de borde modelada sobre asistentes de programación, y produjo las primeras cifras revisadas por pares para el Vera Rubin NVL72 de Nvidia, el Instinct MI350P de AMD, el Arc Pro B70 de Intel y el Ryzen AI Max+ 395 de AMD (StorageReview). MLCommons dijo que el mejor resultado por acelerador en el escenario de servidor de DeepSeek-R1 fue 5,7 veces mejor que un año antes, un recordatorio de que el benchmark se mueve con la industria en lugar de quedarse quieto.

La suite también está cambiando. Esta ronda permitió a los participantes usar un arnés centrado en API que ejecuta una prueba real de cliente y servidor contra un endpoint en vivo, y 16 de los 30 lo hicieron. Ese arnés es la base de MLPerf Endpoints, que abre envíos continuos bajo demanda en octubre de 2026 y está llamado a sustituir a MLPerf Inference como benchmark de centro de datos en 2027. La dirección del viaje apunta a medir las canalizaciones que los operadores despliegan realmente, incluidas cargas de trabajo de varios pasos y agénticas, en lugar de llamadas a un solo modelo.

Las primeras cifras de Vera Rubin

Nvidia envió resultados de Vera Rubin en dos cargas de trabajo, DeepSeek-R1 y Qwen3-VL. En Qwen3-VL usó vLLM con Dynamo, el marco de inferencia de código abierto de Nvidia; en DeepSeek-R1 usó su biblioteca TensorRT-LLM. La cifra de 3,7 veces es el máximo entre escenarios, no una ganancia uniforme: el propio gráfico de Nvidia muestra Qwen3-VL en torno a 1,8 veces el GB300 en el escenario offline, 1,9 veces en servidor y 3,7 veces en el escenario interactivo, reproducido por Wccftech. La cifra destacada es el caso interactivo, que es la carga más ligera y la más sensible a la latencia por token.

Nvidia atribuye la diferencia a decisiones de diseño que importan para los modelos de mezcla de expertos. La empresa dice que Vera Rubin mejora tanto la etapa de prefill como la de decode mediante Tensor Cores mejoradas y un Transformer Engine, usa precisión NVFP4 para recortar la huella de memoria de los pesos, la atención y la caché KV, y se apoya en un servicio desagregado que separa el prefill del decode con un paralelismo de expertos a gran escala. El dominio de scale-up del rack funciona con NVLink y NVLink Switch de sexta generación, que según Nvidia ofrecen tasas de paquetes 10 veces mayores y una latencia 3 veces menor que Ethernet estándar. La interconexión importa aquí porque el paralelismo de expertos mueve un gran volumen de tokens entre GPU, y un tejido lento borraría las ganancias del cómputo más rápido.

Nvidia no fue el único participante con ese hardware. Nebius ejecutó DeepSeek-R1 en 36 GPU Rubin repartidas en nueve nodos y reportó 16.427 tokens por segundo por GPU en el escenario de servidor, lo que calificó como el mejor resultado por GPU en servidor. Como los envíos en vista previa se ejecutaron con tamaños de clúster distintos, el rendimiento por GPU es la comparación más justa, y Nebius señala que su resultado llevaba la misma etiqueta de vista previa. Su rack completo GB300 NVL72 de 72 GPU, en cambio, fue un envío de producción y quedó primero en servidor y offline de DeepSeek-R1, con 603.023 y 689.961 tokens por segundo.

Nvidia también apuntó más allá de los resultados formales. Dice que el Vera Rubin NVL72 logró un rendimiento 30 veces mejor que el GB300 NVL72 en SemiAnalysis AgentX, una prueba agéntica, en pruebas de vista previa. Esa cifra no forma parte del envío a MLPerf y no es comparable con los resultados revisados. Nvidia espera que el próximo benchmark MLPerf Endpoints aporte una medición estandarizada a la inferencia agéntica, que es el tipo de carga al que apunta su afirmación de 30 veces.

Escalado y software como el resto del argumento

Nvidia enmarca la economía de la inferencia en torno a tres palancas: rendimiento por rack, eficiencia de escalado a medida que se añaden racks, y mejora del software con el tiempo. La afirmación de escalado es la más concreta. Un envío de DeepSeek-R1 pasó de un rack GB300 NVL72 de 72 GPU a cuatro racks de 288 GPU y mantuvo una eficiencia de escalado del 99% en el escenario offline. Las cifras subyacentes, 679.740 tokens por segundo en un rack y 2.705.130 en cuatro, muestran un rendimiento que crece casi en proporción al hardware añadido. Eso importa porque las GPU son la parte cara: si duplicar el número de racks aportara solo una pequeña ganancia de rendimiento, el segundo rack no se pagaría solo.

La palanca del software es real pero más difícil de ver para los compradores. Nvidia dice que el rendimiento del GB300 NVL72 en Qwen3-VL subió hasta 1,6 veces respecto a su resultado de la v6.0 gracias a una menor precisión de la caché KV, más fusión de kernels y servicio desagregado con vLLM y Dynamo. También publicó cifras posteriores al envío sobre GPT-OSS-120B y DLRMv3 que, según dice, mejoraron aún más, aunque esas no han sido verificadas por MLCommons y deben tratarse como afirmaciones del fabricante. El patrón de toda la ronda, visto también en AMD e Intel, es que el software sigue moviendo las puntuaciones de los benchmarks sobre silicio sin cambios.

Una plataforma de nueva generación en un mercado de memoria tenso

El Vera Rubin NVL72 empareja la GPU Rubin con la CPU Vera de Nvidia, que empezó a enviarse a escala a finales de agosto. Nvidia llama a Vera su «primera CPU construida para agentes», con 88 núcleos Olympus personalizados, 1,2 TB/s de ancho de banda de memoria y hasta 1,8 veces más rendimiento por núcleo en cargas agénticas. En el rack NVL72, Vera actúa como procesador anfitrión y se enlaza con pares de GPU Rubin mediante NVLink-C2C de segunda generación, compartiendo una arquitectura de memoria que, según Nvidia, mantiene alimentados a los aceleradores.

La plataforma llega mientras la memoria es la parte más escasa de la pila. Los precios de contrato de la DRAM de servidor han subido con fuerza, con el precio fijo de los módulos DDR5 de servidor de 64 GB en 1.500 dólares a mediados de septiembre, 5,5 veces el nivel de un año antes, y Silicon Analysts informa de que SK Hynix llevó su HBM4 de 16 capas a envío en volumen para Vera Rubin. La oferta de memoria determina la rapidez con la que puede construirse cualquiera de estos sistemas, lo que modera lo que significa un récord de rendimiento por rack a corto plazo: la limitación para desplegar Vera Rubin puede resultar ser la asignación de HBM y no la demanda de sus tokens.

AMD e Intel responden con escala y software

El envío destacado de AMD no era el rival directo de Vera Rubin, sino una versión mayor de su rival actual. Crusoe, que participaba por primera vez en MLPerf, ejecutó 512 GPU Instinct MI355X en 64 nodos sobre Ethernet estándar, alcanzando 5,75 millones de tokens offline por segundo en GPT-OSS-120B y 2,90 millones en DeepSeek-R1. AMD dice que son los mayores rendimientos agregados de tokens enviados en la historia de MLPerf y que el clúster escaló de forma casi lineal de uno a 64 nodos. El resultado de 512 GPU es un tipo de afirmación distinto al de Nvidia: mide cuánto rendimiento puede reunir un operador, no cuánto entrega un solo rack.

AMD también se apoyó en la madurez de su software. Sobre las mismas ocho GPU MI355X reportó un rendimiento de GPT-OSS-120B un 28% mayor en offline y un 38% mayor en servidor dentro de un solo ciclo de MLPerf, y dice que 72 GPU MI355X en la v6.1 superaron el rendimiento que 94 de las mismas GPU produjeron en la v6.0. El argumento de Intel fue casi por completo software. Reportó que el rendimiento de gpt-oss-120B en las mismas cuatro GPU Arc Pro B70 mejoró un 36% en servidor y un 27% en offline respecto a la v6.0, y que el rendimiento de servidor de Llama 3.1-8B en el Xeon 6980P subió 2,4 veces sobre silicio idéntico. Intel sigue siendo el único fabricante independiente de CPU de servidor en la suite, con cinco SKU de Xeon 6 y 35 resultados de CPU.

Qué deja abierto la etiqueta de vista previa

Conviene sostener dos matices junto al titular de Nvidia. El primero es que son resultados ejecutados por el fabricante sobre una suite de benchmarks fija, aunque MLCommons los revise. MLPerf premia el rendimiento y la latencia en modelos concretos bajo reglas concretas, y un sistema ajustado para él no es automáticamente la mejor opción para la mezcla de cargas, el objetivo de coste o el presupuesto de latencia de un cliente. El segundo es el propio estatus de vista previa: el Vera Rubin NVL72 no es todavía un envío de producción, y su prueba real llega en la ronda en la que deba estar disponible de forma general con requisitos declarados de energía, refrigeración y configuración.

Qué observar es sencillo. La ventaja de Vera Rubin debería mantenerse a lo largo de una ronda completa de resultados de producción, y la escasez de memoria es la variable más probable de decidir con qué rapidez llega cualquiera de estos equipos a clientes que pagan. Las ganancias de software de AMD e Intel muestran que el benchmark no es estático, lo que significa que las ratios comparativas de hoy se verán distintas dentro de seis meses. Por ahora no hay un ganador único: lo más claro en la v6.1 es un campo en el que velocidad, escalado y software siguen moviéndose a la vez.