NVIDIA Vera Rubin NVL72首次亮相MLPerf推理v6.1性能领先

据NVIDIA官网消息，系统性能、高效基础设施扩展和持续软件优化是决定AI推理经济性的关键因素。系统性能越高意味着生成的tokens越多，从而带来更高收入。高效扩展意味着吞吐量随硬件增加而成比例增长，以更少资源服务大规模用户。持续优化意味着从基础设施投资中创造更多价值。