谷歌发布TPU 8tx与8i Max:一年四款自研芯片
谷歌云 11 月 9 日宣布扩充第八代 TPU 产品线,推出 TPU 8tx 与 TPU 8i Max 两款新系统,分别面向机密推理与超大上下文窗口场景。这是谷歌今年内推出的第三、第四款第八代 TPU 系统,也是其十余年自研芯片历史上首次在一年内发布四款 TPU 系统。两款系统均瞄准智能体时代的新工作负载,但都没有公布价格与上线时间。
先说清楚:这是两款”系统”,不是两颗新芯片
谷歌在官方博客中特别强调了这一点:8tx 与 8i Max 并非重新流片的新芯片,而是基于已有第八代硅片,通过不同的封装、组网与内存配置重新组合而成的系统。谷歌云基础设施负责人 Amin Vahdat 向彭博社表示,这种做法是刻意的——以系统级重组的方式,可以在数月而非数年内交付针对特定客户需求的新硬件。
今年 4 月的 Google Cloud Next 大会上,谷歌已发布同代的两款系统:面向大规模训练的 TPU 8t 与面向实时推理的 TPU 8i。谷歌称,8t 与 8i 相比上一代产品,训练性能最高提升 2.7 倍,推理的性价比提升 80%。此次新增的两款系统,正是在这两颗芯片的基础上”拼”出来的。
TPU 8tx:把”保密”做进硬件层
TPU 8tx 采用与 8t 相同的硅片,搭配第五代 AMD EPYC 处理器作为主机,并引入源自 8i 的 Boardfly 组网技术。它的核心卖点是机密推理:芯片内置硬件安全区,数据与模型权重在被处理的过程中也处于受保护状态,而不只是在存储或传输时加密。
谷歌把目标客户指向受监管企业与政府机构:这些机构希望在同一套系统上运行前沿模型与自主智能体,同时处理最敏感的数据。谷歌称,8tx 在同一套机密系统内兼顾训练级算力与快速推理,机构无需在不同集群之间迁移数据,即可用私有数据微调模型、把大模型蒸馏为小模型,或通过强化学习训练智能体,从而降低敏感信息泄露的风险。谷歌还称,8tx 的推理延迟比 8t 最多低一半。
值得注意的是,保密计算正在成为云厂商竞争的新焦点:今年 10 月,英伟达已把 Confidential Bare Metal 支持扩展到谷歌云上搭载 GB300 NVL72 的 A4X Max 实例。谷歌此次用自研芯片正面回应,意味着机密推理的争夺已从软件方案延伸到芯片层面。
TPU 8i Max:两颗 8i 合一,专治”显存墙”
TPU 8i Max 针对的是另一类瓶颈:内存。智能体同时处理大型代码库、数小时视频或超长文档时,瓶颈往往不在算力,而在显存带宽与容量。谷歌把两颗 8i 芯片封装进同一个物理封装,算力、静态内存(SRAM)与高带宽内存(HBM)的容量和带宽均翻倍,同一机架内可容纳两倍硅片,从而实现更高的单位机架算力密度。
谷歌表示,8i Max 的研发与 Gemini 模型的大上下文窗口推进同步进行——Gemini 支持 100 万 token 的上下文,约合 75 万词或 1500 页文本。更大的上下文窗口让模型能一次性处理更长的文档、对话记录、音频、视频或代码库,但反复调用这些信息对芯片的片上内存与互联提出了更高要求;增加片上内存可减少芯片间的数据搬运,从而降低延迟与功耗。
背景:一年四款,谷歌自研芯片提速
TPU 是谷歌为自家数据中心设计的定制芯片,至今已有十余年历史,核心目标是降低 Gemini 等模型的运行成本,并建立围绕自家模型的算力生态。过去谷歌每年至多推出一到两款 TPU,今年连发四款,折射出智能体工作负载对硬件形态的多样化需求:训练、推理、长上下文、机密计算,正在从同一类芯片分化为不同的产品线。
市场需求端也在变化。据 Alphabet 财报电话会,谷歌云第三季度营收同比增长 103%,达到 307 亿美元;本站此前报道,OpenAI 正计划采购谷歌 TPU 以降低对英伟达的依赖,甲骨文则在 10 月宣布将于 2027 年起通过其云服务提供谷歌 TPU。谷歌的自研芯片正从”自用”走向”外供”,成为云业务增长的新引擎。
影响与展望
上市时间是目前最大的未知数。谷歌官方公告未给出两款系统的上线日期与价格;Vahdat 向彭博社表示,两款系统预计 2027 年推出,甲骨文云预计同年开始提供 TPU 服务。截至目前,也没有任何针对 8tx 与 8i Max 的独立评测,所有性能数据均为谷歌官方口径,实际表现仍需等产品上线后验证。
对英伟达而言,TPU 阵容的扩张意味着竞争对手不再只有 AMD 与一众 AI 芯片初创公司:云厂商的自研芯片正在把推理与训练负载留在自家体系内。对中文读者而言,TPU 不对外销售、只通过谷歌云提供服务,其意义更多在于云算力成本与智能体应用落地的风向标,而非可以直接购买的硬件——但它预示的趋势是明确的:AI 芯片的竞争,正在从”谁的算力更强”转向”谁更懂具体场景”。