英伟达Vera CPU拿下Modal:AI智能体负载性能翻倍
英伟达进军服务器 CPU 市场的野心,终于拿到了一个货真价实的客户背书。10 月 19 日,路透社报道,AI 云计算初创公司 Modal 宣布将把英伟达新款 Arm 架构服务器 CPU Vera 引入其基础设施,用于托管 AI 智能体工作负载。Modal 自家的早期测试显示,在高并发场景下,Vera 完成的智能体工作量最高可达同等英特尔服务器的两倍。
事件详情:Modal 首次脱离 x86 阵营
Modal 是一家专注于为 AI 开发者提供算力的云计算初创公司,其核心业务之一就是托管”智能体沙盒”——即让能够执行代码、调用工具、处理数据的多步骤 AI 智能体在云端长期运行。直到现在,Modal 的全部 CPU 舰队都由英特尔和 AMD 芯片构成,这次引入 Vera 是其历史上首次在该类负载上脱离 x86 阵营。
Modal 在公司博客中确认了这一决定。首席执行官 Erik Bernhardsson 表示,Modal 并不打算用 Vera 全面替换现有芯片,而是采用”混合舰队”策略:英伟达 Vera 将与英特尔、AMD 芯片并存,任务会被路由到”表现最好的那颗芯片”上。他还表示,竞争对手也在开发新一代芯片,”等它们上市我们也会测试”。
促成这一决定的关键是 Modal 的内部基准测试。Modal 搭建了一套包含约 50 项任务的测试集,涵盖软件编译、文件搜索、Git 操作、设备模拟等典型智能体工作动作,并剔除了网络调用以隔离纯 CPU 性能。测试对照组包括英特尔 Granite Rapids、AMD Zen 5 和 AWS Graviton 芯片。结果显示:当服务器处于高并发负载时,Vera 完成的工作量可达同等 x86 机器的两倍。Modal 把功劳归于 Vera 的高内存带宽——在任务拥挤时,它能容纳更多并行工作负载而不拖慢单个任务。
需要强调的是,这个”翻倍”数字来自 Modal 自己的早期测试,并未经过独立第三方验证。而且报道也指出,在服务器较为空闲、只跑单个任务时,Vera 的优势会小得多,也并非赢下了每一项测试。
此外,Modal 坦言,要把基础设施迁移到 Vera 上”需要对软件做大规模改造”。从 x86 切到 Arm 架构,从来不是换个插槽那么简单,工具链、依赖库、性能调优都需要重新适配。
背景:英伟达为什么死磕 CPU
Vera 是英伟达新一代 Arm 兼容服务器 CPU,最初是为 Vera Rubin GPU 平台设计的搭档芯片,但英伟达同时把它作为独立 CPU 服务器产品推向市场,定位直指英特尔、AMD 统治了几十年的约 2000 亿美元服务器 CPU 市场。
英伟达对这条产品线寄予厚望。公司对投资人表示,预计本财年 Vera 芯片收入至少达到 200 亿美元。路透社还提到,OpenAI、Anthropic、甲骨文和 Perplexity 也都计划使用 Vera 芯片。
这次并不是 Vera 第一次出现在公众视野。就在 10 月 13 日的 OCP 全球峰会上,英伟达宣布开放 Vera Rubin 机架设计,试图把”AI 工厂”的硬件标准战打到 CPU 层面(本站当时已有报道)。不到一周后,Modal 的采用就给了这个故事第一个真实客户注脚——从实验室演示变成了生产环境订单。
值得注意的是,整个行业的风向都在转向”智能体基础设施”。AMD 在同一届 OCP 峰会上发布了面向 AI 智能体的开放机架蓝图 Helion;亚马逊则在 10 月 19 日推出了开源工具 TorchNeuron,让 PyTorch 代码可以不经重写就跑在自研 Trainium 芯片上,直指 CUDA 的软件护城河。CPU、网络、软件栈,围绕智能体的算力竞赛正在全线开打。
分析:为什么是 Modal,为什么是现在
Modal 的选择之所以有分量,在于它是一家”靠智能体吃饭”的公司,而不是通用云厂商。通用云买 Vera 可能是战略布局,而 Modal 买 Vera,是因为它的核心业务——同时运行成千上万个长期、多步骤的智能体沙盒——恰好撞上了 Vera 的设计甜点:高内存带宽 + 高并发吞吐。智能体负载的特点是”单个任务不重,但任务数量极多、运行时间极长”,传统以单线程峰值性能见长的 x86 服务器在这种场景下未必最划算。
这也解释了为什么测试结论是”拥挤时翻倍、空闲时优势不大”:Vera 的强项不是跑分碾压,而是”扛得住人多”。对云厂商来说,这直接对应单位成本能服务的智能体数量,也就是毛利率。
但挑战同样真实。首先是软件生态:x86 积累了数十年的工具链和优化,Arm 服务器想吃掉生产负载,Modal 这样”大规模改造软件”的工程投入是每个客户都要交的学费。其次是竞争回应:英特尔和 AMD 不可能坐视,下一代产品如果缩小差距,Modal 的混合舰队策略随时可以把任务路由回去。Bernhardsson 的表态已经把这层意思说得很直白。
影响与展望
短期看,Modal 的订单是英伟达 CPU 战略从”讲故事”到”收订单”的关键转折。如果接下来 OpenAI、Anthropic、甲骨文这些已表态的厂商陆续落地,Vera 本财年 200 亿美元的目标就有了现实支点。
中期看,”混合舰队”可能成为 AI 云厂商的标准姿势:不再迷信单一架构,而是按工作负载特征把任务分发到最合适的芯片上。这对英特尔、AMD 是个警示——它们的对手不再只是彼此,还有带着智能体场景杀进来的英伟达,以及虎视眈眈的 Arm 阵营和云厂商自研芯片。
长期看,真正的考验是独立、可复现的第三方基准。Modal 的内部数据让人兴奋,但云厂商的采购决策最终要看 TCO(总体拥有成本):芯片价格、功耗、软件改造成本、运维复杂度缺一不可。Vera 能否在智能体这波浪潮里复制 GPU 的成功,答案要等更多 Modal 这样的客户用真金白银投票。