NVIDIA a profité de la publication des résultats MLPerf Inference v6.1, le benchmark de référence géré par MLCommons, pour présenter les premières mesures de performance de sa plateforme Vera Rubin NVL72, successeur annoncé de Blackwell. L'entreprise met en avant trois leviers qu'elle juge décisifs pour l'économie de l'inférence à grande échelle : la performance brute du système, la capacité à faire croître le débit proportionnellement au matériel ajouté, et l'optimisation logicielle continue pour maximiser la valeur tirée des infrastructures déjà déployées.
Selon NVIDIA, ces trois facteurs se traduisent concrètement par davantage de tokens générés par unité de temps, donc potentiellement plus de revenus pour les opérateurs de centres de données qui facturent leurs services d'inférence à l'usage. L'architecture NVL72, qui relie 72 GPU dans un même domaine mémoire via NVLink, vise justement à limiter les goulets d'étranglement observés lorsque des modèles de très grande taille doivent être répartis sur plusieurs puces.
Ce débuts dans MLPerf intervient avant la disponibilité commerciale effective de Vera Rubin, ce qui souligne la stratégie de NVIDIA consistant à communiquer tôt sur les gains de performance de ses futures générations de puces, dans un contexte de concurrence croissante de la part d'AMD, de Google (TPU) et des puces maison des hyperscalers. Les chiffres MLPerf, bien que produits par NVIDIA elle-même dans cette soumission, sont généralement audités selon une méthodologie commune à l'ensemble de l'industrie, ce qui leur confère une certaine crédibilité comparative.
Pour les acteurs du secteur, ce type d'annonce a surtout une valeur d'anticipation : elle permet aux clients d'infrastructure cloud et aux grands laboratoires d'IA de planifier leurs investissements matériels à moyen terme, alors que la demande de calcul pour l'inférence de modèles génératifs continue de croître plus vite que celle destinée à l'entraînement.