亚马逊TorchNeuron公测：挑战英伟达CUDA
亚马逊本周一宣布，面向自研 AI 芯片 Trainium 的软件兼容层 TorchNeuron 即日起向所有开发者开放公开测试。此前在 Trainium 上运行 PyTorch 代码需要改写调用亚马逊专用接口，现在同一份代码只需改动基础配置即可运行。这一动作被视为亚马逊正面挑战英伟达 CUDA 软件护城河的关键一步——而它甚至计划在本周二的 PyTorch 大会上把 TorchNeuron 开源。
事件详情：改个配置，PyTorch 代码就能跑在 Trainium 上
据 GeekWire 10 月 19 日报道，TorchNeuron 是一层介于 PyTorch 与亚马逊 Trainium 芯片之间的软件。自去年底进入封闭测试以来，已有 30 多家公司和亚马逊内部团队参与试用；本周一起，亚马逊向所有开发者开放公开测试。
在 TorchNeuron 之前，开发者想在 Trainium 上跑 PyTorch 代码，必须改写代码去调用亚马逊芯片的专用编程接口。亚马逊芯片设计部门 Annapurna Labs 技术软件副总裁 Colin Brace 在接受采访时表示，有了 TorchNeuron，同一份代码只需做一次基础配置变更即可运行。”If you know PyTorch, then you know Trainium.”（懂 PyTorch，就会用 Trainium。）Brace 说。
更关键的下一步是开源：亚马逊计划于本周二（10 月 20 日）配合在加州圣何塞举行的 PyTorch 大会，将 TorchNeuron 作为开源软件发布。为保证兼容开发者构建的海量模型，亚马逊每晚都会用 Hugging Face 上超过 10 万个模型对 TorchNeuron 做回归测试。
封闭测试期间的实际用例已经出现：
- 语音 AI 初创公司 Deepgram 的基准测试显示，Trainium 每美元处理的音频量比其现有 GPU 方案高出约 60%，该公司已在生产环境中采用 Trainium；
- 亚马逊内部 Prime Video 团队用 TorchNeuron 打造了 Prime 360——一套能把 NBA 比赛重建成 3D 画面、让观众从传统机位无法捕捉的角度观看回放的 AI 系统，运行在 Trainium 上，将在本赛季的部分 Prime Video 转播中上线。
背景分析：CUDA 护城河，与云大厂的”松绑”竞赛
英伟达之所以主导 AI 芯片市场，很大程度上是因为整个行业的 AI 软件都是围绕 CUDA 平台构建的。把代码迁移到其他硬件上往往需要数月的工程投入，这让许多公司即便有替代芯片可选，也不愿切换。TorchNeuron 瞄准的正是这道”软件护城河”：把迁移成本压缩到”改个配置”的量级。
这并非亚马逊一家在行动，而是一场云大厂集体”松绑”英伟达的竞赛：
- 谷歌正在推进类似项目 TorchTPU，让现有 PyTorch 代码以最小改动迁移到 TPU，该公司今年 4 月披露了这一计划，且已开始直接向部分外部客户销售 TPU 芯片；
- 微软上周表示，计划让多数 AI 服务运行在自研 Maia 芯片而非英伟达硬件上；
- 亚马逊还被曝正洽购初创公司 Decart——其软件专门帮助把为英伟达芯片构建的 AI 模型迁移到 Trainium 等替代芯片，交易估值约 70 亿美元，有意思的是，英伟达本身也是 Decart 的投资方。本站 10 月 12 日曾报道这笔洽购传闻。
值得注意的是，这些大厂一边”松绑”，一边仍是英伟达的大客户。被问及与英伟达的关系时，Brace 回应称亚马逊”始终关乎选择”，并举例 AWS 同时提供英特尔处理器和自研 Graviton 芯片。
从技术演进看，TorchNeuron 的时机也与 PyTorch 本身的变化有关。Brace 表示，PyTorch 框架已经成熟，其维护者正努力让框架减少对特定硬件的依赖；亚马逊也参与了这项工作，移除了 PyTorch 中与特定芯片绑定的代码。新版 PyTorch 能检测自身运行的硬件，某些情况下开发者甚至完全不需要改代码。
影响与展望：迁移成本，才是真正的战场
Trainium 目前最大的用户，恰恰是与亚马逊资本关系密切的 AI 实验室：Anthropic（亚马逊已向其投资数十亿美元）用 Trainium 训练和运行 Claude 模型；OpenAI 则在今年 2 月同意使用 2 吉瓦的 Trainium 算力，作为亚马逊向其投资 500 亿美元交易的一部分。TorchNeuron 的目标，正是把这种”关系户先行”的格局推向更广泛的开发者——Brace 将其称为普及 Trainium 的”加速器”。
亚马逊的芯片生意并非一时兴起：它源自 2015 年以约 3.5 亿美元收购以色列芯片公司 Annapurna Labs，其团队此后设计了 Trainium 以及 Graviton 处理器。今年 4 月，CEO Andy Jassy 在年度股东信中披露，芯片业务（含 Trainium 与 Graviton）年收入 run rate 已超 200 亿美元；若作为独立芯片业务对外销售，这一数字约为 500 亿美元。”我们的芯片需求如此旺盛，未来很有可能把整机架的芯片卖给第三方。”Jassy 写道。
对行业的直接影响有三层：其一，若 TorchNeuron 真能把迁移成本降到”改配置”级别，CUDA 的软件锁定效应将被实质削弱，更多工作负载可能流向性价比更高的自研芯片；其二，开源发布（本周二，PyTorch 大会）是生态战的关键一步——CUDA 的护城河恰恰是靠开发者生态挖成的，亚马逊显然想复制这条路径；其三，短期内英伟达的地位难以撼动，云大厂仍是其大客户，且真实迁移还涉及性能调优、工具链成熟度等多重因素，60% 的性价比数字来自特定语音场景，不宜直接外推。
对中文读者而言，这场竞赛的启示同样直接：AI 芯片的竞争早已不只是比拼算力参数，软件兼容层才是决定生态成败的关键。谁能让开发者的现有代码”无痛迁移”，谁才能真正撬动 CUDA 积累二十年的生态惯性。