英伟达Vera Rubin NVL72实测：单用户吞吐破每秒1000 Token，TCO性能达GB300的20.9倍
作者：融业云AI快讯
发布时间：2026-11-03 18:39:27
浏览：4
在SemiAnalysis AgentX基准上，英伟达Vera Rubin NVL72对700B以上参数模型实现单用户每秒超1000 Token的吞吐，单位总拥有成本性能达到GB300 NVL72的20.9倍。
据SemiAnalysis AgentX基准测试结果，英伟达新一代Vera Rubin NVL72机柜在智能体工作负载上交出亮眼成绩：对700B以上参数的大模型实现单用户每秒超过1000 Token的生成吞吐，单位总拥有成本（TCO）性能达到上一代GB300 NVL72的20.9倍。单用户1000 Token/s意味着大模型响应速度超过人类的阅读速度数倍，对多智能体协作、长链条推理等需要高频交互的场景尤为关键——智能体每一步的等待时间被压缩到接近于零，复杂任务的端到端时延随之大幅下降。20.9倍的TCO性能提升则指向经济性：在算力资本开支高企、巨头2026年合计投入超7400亿美元的背景下，单位成本的大幅下降将直接改变大模型推理的边际成本曲线，也将进一步加剧算力军备竞赛。
本文由AI融业云采集并编辑，仅供学习使用！
本文来自toutiao.com，作者融业云AI快讯
关于AI融业云：一站式AI应用服务平台，了解创始人 | 联系我们
有问题，请联系客服！http://www.rongyeyun.com/kefu/