ARTICLE VIEW

深入阅读内容脉络,在结构化信息中快速理解重点变化

谈球吧官网(中国)-Official Home通过更稳定的文章承载结构、更清晰的信息层级和更鲜明的未来感视觉表达,让深度内容更适合长时间浏览与再次检索。

Deep Read Insight / Review / Focus
深度阅读
便捷分享

英伟达震撼首测Vera Rubin,DeepSeek吞吐暴涨30倍!

新智元报道 太炸裂了。 就在刚刚,英伟达史上首次公布了下一代旗舰级机柜 Vera Rubin NVL72 的首次片上实测数据。 而且,这次实测直接拉来了DeepSeek-V4-Pro,跑最真实的「智能体编码」任务! 结果令人吃惊:对比当前的主力机皇GB300 NVL72,Vera Rubin的每兆瓦吞吐量最高飙升了30倍、Token成本最高暴降了35倍! 有人惊呼:「我连骗投资人的 PPT 都不敢这么写!」 还有网友神评:「以前嫌 H200 三万美元一张贵,现在回头一看,H200 居然连丐版都算不上了。」 让我们来仔细盘一盘。 从H200到GB300,真实Agent工作负载的吞吐量提升了最高30倍,成本大致翻倍。 从GB300到Vera Rubin,吞吐量再次飙升最高30倍,整机架价格大致再翻倍。 按照老黄的摩尔定律,合着这两年英伟达最大的技术突破不是GPU本身,而是让价格贵了4倍,却换来了整整900倍的速度飞跃! 这次,英伟达向所有人宣布了一个反常识的真相:LLM时代结束,Agent时代降临,以前的AI跑分基准,全部作废! 与此同时,专为智能体打造的Vera CPU,已被马斯克的SpaceXAI连夜装机,甚至准备直接打上太空. 同在今天,英伟达Groq 3 LPX也全面量产。 Gemma 4 31B在上面跑,速度简直绝了,直接干到每秒3400个Token。万亿参数模型吞吐,狂飙35倍。 这些新纪录,直接让Agent生态的商业格局,从今夜开始重写! 为什么英伟达必须推出Vera Rubin? OpenRouter的最新数据给出了答案:在真实世界里,一个Agent AI任务消耗的Token数量,是普通聊天对话的15倍! 比如,如果让一个Agent为投资决策去研究一家公司,在这个过程中,智能体和子智能体会不断推理,累积的Token成为下一步的输入,长上下文处理,就成为限制智能体AI的最关键要素。 智能体交互次数越多,吞吐量越大——智能体数量多了10倍,工具调用多了2倍,算力和算法的矛盾催生了新的需求。 别拿聊天当智能体,旧基准全废了! 这时候,传统的AI基准测试(如固定长度的8K/1K序列测试)就彻底无效了。 英伟达官方挑明:性能测量必须进化!不能再测单一的推理请求,必须捕捉完整的Agent工作流。 为此,他们使用了SemiAnalysis 旗下的 AgentX 基准测试。 这个测试不再是死板的问答,而是回放真实的、具有上下文增长、工具调用和子智能体生成的「代码编写会话」。 这就是为什么H200在新的Agent战场上显得力不从心,Vera Rubin注定要称王。 Vera Rubin NVL72 × DeepSeek-V4-Pro: 算力怪物来了 为了证明Vera Rubin NVL72的实力,英伟达直接使用开源王者——DeepSeek-V4-Pro (1.6T) 进行片上实测。 数据一出,结果惊人—— 在AgentX工作负载下,Vera Rubin NVL72的每兆瓦吞吐量,比GB300 NVL72最高提升了整整30倍! 请注意,这里对比的不是老旧的H200,而是炙手可热的主力GB300。 GB300在同样的DeepSeek-V4-Pro测试中,每兆瓦吞吐量已经比H200提升了15倍。 然而Vera Rubin却在GB300的肩膀上,又拔高了30倍,在整个帕累托曲线上又提高了! 这意味着什么? 对于受制于电力供应的「AI工厂」来说,这直接拓展了物理法则边界。 在同样的电力预算下,Vera Rubin能干30倍的智能体活儿。 对于兆瓦级甚至吉瓦级的数据中心来说,这相当于凭空变出了30倍的算力资产。 而且,NVIDIA DSX MaxLPS 技术可以在 GPU、机架和工作负载层面进行电源管理,能在相同的兆瓦预算内多配置高达 40% 的 GPU,让AI工厂进一步提升了每兆瓦吞吐量! Token成本暴降35倍!Agent行业的「账本」彻底重写 每兆瓦吞吐量,直接影响的就是每个生成 token 的成本。性能的飙升,带来的最直接后果就是商业模式的核爆。 英伟达宣布,Vera Rubin NVL72 生产每百万Token的成本,比 GB300 NVL72 最高降低了 35 倍! 当推理成本呈断崖式下跌35倍时,24小时无休的数字员工将成为现实,ToC端超级应用将迎来大爆发。 老黄这一刀,直接切开了Agent应用的时代大门。 极致协同设计:老黄是怎么做到的? 你可能会问:凭什么能提速30倍?靠的是单颗芯片的工艺吗? 显然不是。 Vera Rubin NVL72惊人的性能提升,靠的是「极致协同设计」。 比如分离式服务,分布式KV缓存,KV感知路由,MegaMoE等等。 另外,NVFP4 量化直接将模型权重压缩到 4 位精度,在不牺牲输出质量的情况

觉得有用?分享给朋友

让更多人看到这篇内容

RECOMMEND FEED

推荐阅读