Vera Rubin NVL72 de Nvidia débute dans MLPerf avec une revendication d'inférence de 3,7x

Le 16 septembre 2026, MLCommons a publié MLPerf Inference v6.1, l'audit semestriel de la vitesse à laquelle les serveurs transforment des entrées en sorties de modèle. La même publication a offert à Nvidia une tribune pour le matériel qu'elle veut vendre ensuite : une première soumission en avant-première pour le Vera Rubin NVL72, le système à l'échelle d'une baie qui succède à Blackwell et au GB300. Nvidia affirme que la plateforme a atteint jusqu'à 3,7 fois le débit du GB300 NVL72 sur le benchmark vision-langage Qwen3-VL et jusqu'à 2,5 fois sur DeepSeek-R1.

À lire aussi: Le DSX POD de Nvidia transforme une usine d'IA en conteneur maritime · La part de Nvidia sur le marché chinois des puces IA tombe à 34 %, Huawei se rapproche.

Ces chiffres comportent une réserve. Dans MLPerf, « preview » est une catégorie de disponibilité pour du matériel qui n'a pas besoin d'être commercialisé au moment de la soumission, mais seulement d'être disponible en général lors du cycle suivant. Les deux comparaisons mises en avant par Nvidia portent sur sa propre génération précédente, pas sur la puce actuelle d'un rival, et l'entreprise les qualifie de résultats préliminaires. Ils ont été examinés par MLCommons, mais ne valent pas une soumission de production.

Ce que mesure MLPerf Inference

Cette suite existe pour rendre les résultats d'inférence comparables. Dans la division Closed, les soumissionnaires doivent exécuter le même modèle que l'implémentation de référence et respecter les mêmes contraintes de précision, de sorte que les écarts de débit reflètent le matériel et le logiciel plutôt qu'un modèle modifié. Les systèmes de centre de données sont testés dans les scénarios hors ligne, serveur et interactif. Le hors ligne mesure le débit agrégé brut sans contrainte de latence, le serveur ajoute un taux d'arrivée de Poisson et une cible de latence, et l'interactif impose une exigence de réponse par jeton plus stricte.

Ce cycle a réuni un record de 30 organisations soumissionnaires et 486 résultats pour centres de données et pour la périphérie, selon MLCommons. Il a ajouté une chaîne de génération augmentée par récupération de bout en bout et un test Edge Agentic calqué sur les assistants de codage, et il a produit les premiers chiffres examinés par les pairs pour le Vera Rubin NVL72 de Nvidia, l'Instinct MI350P d'AMD, l'Arc Pro B70 d'Intel et le Ryzen AI Max+ 395 d'AMD (StorageReview). MLCommons indique que le meilleur résultat serveur DeepSeek-R1 par accélérateur était 5,7 fois meilleur qu'un an plus tôt, rappel de ce que le benchmark évolue avec le secteur au lieu de rester figé.

La suite évolue elle aussi. Ce cycle a permis aux soumissionnaires d'utiliser un banc d'essai centré sur l'API, qui exécute un véritable test client/serveur contre un point de terminaison actif, et 16 des 30 l'ont fait. Ce banc d'essai est la base de MLPerf Endpoints, qui ouvre des soumissions continues à la demande en octobre 2026 et doit remplacer MLPerf Inference comme benchmark de centre de données en 2027. La tendance est à mesurer les chaînes de traitement que les opérateurs déploient réellement, y compris les charges multi-étapes et agentiques, plutôt que de simples appels à un modèle.

Les premiers chiffres de Vera Rubin chez Nvidia

Nvidia a soumis des résultats Vera Rubin sur deux charges de travail, DeepSeek-R1 et Qwen3-VL. Sur Qwen3-VL, elle a utilisé vLLM avec Dynamo, le framework d'inférence open source de Nvidia ; sur DeepSeek-R1, sa bibliothèque TensorRT-LLM. Le chiffre de 3,7 fois est le pic parmi les scénarios, non un gain uniforme : le propre graphique de Nvidia montre Qwen3-VL à environ 1,8 fois le GB300 en hors ligne, 1,9 fois en serveur et 3,7 fois en interactif, comme le reproduit Wccftech. Le chiffre mis en avant correspond au cas interactif, la charge la plus légère et la plus sensible à la latence par jeton.

Nvidia attribue cet écart à des choix de conception qui comptent pour les modèles à mélange d'experts. L'entreprise affirme que Vera Rubin améliore à la fois les phases de préremplissage et de décodage grâce à des Tensor Cores améliorés et à un Transformer Engine, utilise la précision NVFP4 pour réduire l'empreinte mémoire des poids, de l'attention et du cache KV, et s'appuie sur une inférence désagrégée qui sépare le préremplissage du décodage avec un parallélisme d'experts à grande échelle. Le domaine de montée en charge de la baie repose sur le NVLink de sixième génération et le NVLink Switch, qui offrirait des taux de paquets dix fois plus élevés et une latence trois fois inférieure à l'Ethernet standard. L'interconnexion compte ici parce que le parallélisme d'experts déplace un gros volume de jetons entre les GPU, et une liaison lente annulerait les gains d'un calcul plus rapide.

Nvidia n'était pas le seul soumissionnaire sur ce matériel. Nebius a exécuté DeepSeek-R1 sur 36 GPU Rubin répartis sur neuf nœuds et rapporté 16 427 jetons par seconde et par GPU dans le scénario serveur, ce qu'elle présente comme le meilleur résultat serveur par GPU. Comme les soumissions en avant-première ont tourné sur des tailles de grappes différentes, le débit par GPU est la comparaison la plus juste, et Nebius note que son résultat portait le même label d'avant-première. Sa baie complète de 72 GPU GB300 NVL72, en revanche, était une soumission de production et s'est classée première en serveur et hors ligne sur DeepSeek-R1, avec 603 023 et 689 961 jetons par seconde.

Nvidia a aussi regardé au-delà des résultats officiels. Elle affirme que le Vera Rubin NVL72 a offert des performances 30 fois meilleures que le GB300 NVL72 sur SemiAnalysis AgentX, un test agentique, lors d'essais en avant-première. Ce chiffre ne fait pas partie de la soumission MLPerf et n'est pas comparable aux résultats examinés. Nvidia s'attend à ce que le prochain benchmark MLPerf Endpoints apporte une mesure normalisée de l'inférence agentique, le type de charge que vise sa revendication de 30 fois.

La montée en charge et le logiciel, le reste de l'argumentaire

Nvidia structure l'économie de l'inférence autour de trois leviers : le débit par baie, l'efficacité de montée en charge à mesure que les baies s'ajoutent, et l'amélioration logicielle dans le temps. La revendication sur la montée en charge est la plus concrète. Une soumission DeepSeek-R1 est passée d'une baie GB300 NVL72 de 72 GPU à quatre baies de 288 GPU en conservant 99 % d'efficacité de montée en charge dans le scénario hors ligne. Les chiffres sous-jacents, 679 740 jetons par seconde sur une baie et 2 705 130 sur quatre, montrent un débit qui croît presque proportionnellement au matériel ajouté. Cela compte parce que les GPU sont la part chère : si doubler le nombre de baies n'apportait qu'un faible gain de débit, la deuxième baie ne serait pas rentabilisée.

Le levier logiciel est réel mais plus difficile à percevoir pour les acheteurs. Nvidia indique que le débit du GB300 NVL72 sur Qwen3-VL a augmenté jusqu'à 1,6 fois par rapport à son résultat v6.0, grâce à une précision réduite du cache KV, une fusion de noyaux supplémentaire et une inférence désagrégée avec vLLM et Dynamo. Elle a aussi publié des chiffres après soumission sur GPT-OSS-120B et DLRMv3, qu'elle dit encore améliorés, même s'ils n'ont pas été vérifiés par MLCommons et doivent être traités comme des affirmations de fournisseur. Le motif qui traverse ce cycle, visible aussi chez AMD et Intel, est que le logiciel continue de faire bouger les scores sur un silicium inchangé.

Une plateforme de nouvelle génération sur un marché de la mémoire tendu

Le Vera Rubin NVL72 associe le GPU Rubin au CPU Vera de Nvidia, dont la livraison à grande échelle a commencé fin août. Nvidia présente Vera comme son « premier CPU conçu pour les agents », avec 88 cœurs Olympus personnalisés, 1,2 To/s de bande passante mémoire et jusqu'à 1,8 fois plus de performances par cœur sur les charges agentiques. Dans la baie NVL72, Vera sert de processeur hôte et se connecte par paires aux GPU Rubin via le NVLink-C2C de deuxième génération, partageant une architecture mémoire qui, selon Nvidia, alimente les accélérateurs sans interruption.

La plateforme arrive au moment où la mémoire est le maillon le plus rare de la pile. Les prix de contrat de la DRAM serveur ont fortement grimpé, le prix fixe des modules serveur DDR5 de 64 Go atteignant 1 500 dollars à la mi-septembre, 5,5 fois le niveau d'un an plus tôt, et Silicon Analysts rapporte que SK Hynix est passé à la livraison en volume de sa HBM4 16 couches pour Vera Rubin. L'approvisionnement en mémoire détermine la vitesse à laquelle ces systèmes peuvent être construits, ce qui relativise ce que représente un record de débit par baie à court terme : la contrainte pesant sur le déploiement de Vera Rubin pourrait bien être l'allocation de HBM plutôt que la demande pour ses jetons.

AMD et Intel répondent par l'échelle et le logiciel

La soumission phare d'AMD n'était pas la rivale directe de Vera Rubin, mais une version plus grande de son produit actuel. Crusoe, qui soumettait pour la première fois à MLPerf, a fait tourner 512 GPU Instinct MI355X sur 64 nœuds en Ethernet standard, atteignant 5,75 millions de jetons hors ligne par seconde sur GPT-OSS-120B et 2,90 millions sur DeepSeek-R1. AMD affirme qu'il s'agit des débits agrégés de jetons les plus élevés jamais soumis dans l'histoire de MLPerf et que la grappe a monté en charge de façon quasi linéaire d'un à 64 nœuds. Le résultat à 512 GPU relève d'un autre type d'affirmation que celui de Nvidia : il mesure le débit qu'un opérateur peut assembler, pas ce que délivre une seule baie.

AMD a aussi mis en avant la maturité de son logiciel. Sur les mêmes huit GPU MI355X, elle rapporte un débit GPT-OSS-120B en hausse de 28 % hors ligne et de 38 % en serveur en un seul cycle MLPerf, et affirme que 72 GPU MI355X en v6.1 dépassent le débit produit par 94 des mêmes GPU en v6.0. L'argumentaire d'Intel était presque entièrement logiciel. Elle rapporte que les performances de gpt-oss-120B sur les mêmes quatre GPU Arc Pro B70 ont progressé de 36 % en serveur et 27 % hors ligne par rapport à v6.0, et que le débit serveur du Xeon 6980P sur Llama 3.1-8B a été multiplié par 2,4 sur un silicium identique. Intel reste le seul fournisseur de CPU serveur autonome de la suite, avec cinq références Xeon 6 et 35 résultats de CPU.

Ce que le label d'avant-première laisse en suspens

Deux réserves méritent d'accompagner le chiffre phare de Nvidia. La première est qu'il s'agit de résultats produits par le fournisseur sur une suite de benchmarks figée, même si MLCommons les examine. MLPerf récompense le débit et la latence sur des modèles précis selon des règles précises, et un système optimisé pour cela n'est pas forcément le meilleur choix pour le mélange de charges, la cible de coût ou le budget de latence d'un client. La seconde est le statut d'avant-première lui-même : le Vera Rubin NVL72 n'est pas encore une soumission de production, et son vrai test viendra lors du cycle où il devra être disponible en général, avec des exigences annoncées de puissance, de refroidissement et de configuration.

Ce qu'il faut surveiller est simple. L'avantage de Vera Rubin devrait se confirmer sur un cycle complet de résultats de production, et la pénurie de mémoire est la variable la plus susceptible de déterminer la vitesse à laquelle ce matériel atteindra des clients payants. Les gains logiciels d'AMD et d'Intel montrent que le benchmark n'est pas statique, ce qui signifie que les ratios comparatifs d'aujourd'hui auront changé dans six mois. Pour l'instant, le signal le plus clair de la v6.1 n'est pas un vainqueur unique, mais un domaine où la vitesse, la montée en charge et le logiciel progressent tous en même temps.