Anthropic拟推联邦AI安全法案：10亿美元损失才可叫停模型
当一家 AI 实验室开始为自己”立法”，监管的天平会倾向哪一边？据 Politico 10 月 16 日报道，Anthropic 的代表已悄悄向美国国会山议员递交了一份联邦 AI 安全法案草案，试图为前沿 AI 模型划定政府干预的边界。而这条边界，被定在了一个极高的位置：只有当模型构成可预见的紧迫风险，可能造成超过 10 亿美元的经济损失，或导致 50 人以上死亡或重伤时，政府才能出手阻止模型的发布或使用。
事件详情：三道关卡，一条窄路
Politico 援引三位知情人士的报道披露了这份尚未公开的草案的核心设计。法案针对的是”前沿模型”——即处于能力最前沿、最强大的 AI 系统，而非普通的聊天机器人产品。政府干预必须同时满足两个条件：风险可预见且紧迫；风险属于三类”列举风险”之一——生物武器的制造或释放、模型逃脱开发者的控制、网络攻击。其他类型的危害，不在这套干预框架之内。
即便条件满足，政府也不能直接叫停。草案设计了一条三级通道：首先，由在商务部注册的独立评估机构定期评估 AI 实验室及其前沿模型，实验室可以向评估机构付费，但报酬不得与评估结果挂钩；一旦评估发现”紧迫的列举风险”，评估机构必须在完成评估后的 72 小时内上报商务部；随后，商务部可以向哥伦比亚特区联邦地区法院的法官申请暂停该模型。值得注意的是，草案条文明确禁止任何其他联邦部门、机构或官员暂停模型的开发、部署或内部使用——等于把干预权收拢到”商务部加联邦法官”这一条唯一的窄路上。
Anthropic 发言人向路透社证实，这份草案体现了公司今年早些时候发布的《Advanced AI Framework》（先进 AI 框架）中的政策主张。发言人称，法案将赋予政府”阻止或威慑最强大模型危险部署”的能力，同时要求开发者测试前沿模型、公开安全研究发现并接受独立评估。美国商务部则没有回应路透社的置评请求。截至 10 月 17 日，这份草案仅在议员和工作人员之间私下传阅，尚未正式作为法案提出，国会山也还没有排定审议日程。
背景分析：从框架到法案，Anthropic 的监管路线图
这不是 Anthropic 第一次向立法者”递纸条”。据报道，该公司自 2026 年 6 月起就一直在联邦和州议员中推广《Advanced AI Framework》，将其作为自身安全主张的纲领性文件。此次把框架转化为具体的立法草案文本，标志着 Anthropic 从”喊话”转向”写规则”——由被监管对象亲自下场起草监管规则，这在科技监管史上并不多见。
时间点同样值得玩味。就在同一周，Anthropic 一边以超过 10% 的收益率向黑石融资 90 亿美元用于采购 AI 芯片，一边传出三季度营收达 168 亿美元、冲击 2 万亿美元 IPO 的消息。一家正在以史上最大规模”烧钱”扩算力的公司，同时在华盛顿为自己争取一套”高门槛、窄通道”的监管框架——商业扩张与政策游说两条线并行，勾勒出这家 AI 实验室完整的权力版图。
草案最受争议的正是那两个数字：10 亿美元，50 人。有评论一针见血地指出，这两个阈值就是整场争论的全部——它们究竟是”窄到可以执行”，还是”高到永远不会触发”？支持者认为，高门槛能防止政府以安全为名过度干预技术创新，把监管火力集中在真正的灾难性风险上；批评者则认为，绝大多数现实中的 AI 风险事件——数据投毒、模型滥用、系统性偏见——都够不着这个门槛，法案一旦通过，等于给前沿模型发了一张”免干预金牌”。
另一个结构性质疑是”运动员兼裁判”。评估机构由被评估的实验室付费（尽管报酬与结果脱钩）、规则由行业头部公司起草，独立性能否保证，外界打了个问号。与之形成对照的是欧盟的《人工智能法案》，后者采用”不可接受、高、有限、最小”四级风险分类，对高风险系统施加贯穿全生命周期的合规义务。Anthropic 的草案走的则是另一条路：平时不管、只在灾难阈值处设置”司法熔断”。两种监管哲学，折射出欧美在 AI 治理上的根本分歧。
影响与展望：美国 AI 监管会走向”统一窄门”吗？
如果这份草案最终进入立法程序，它可能成为美国第一部专门针对前沿 AI 安全的联邦法律。其最大制度含义不在于”管”，而在于”统一”：把干预权集中到商务部和联邦法院，实质上压缩了其他联邦机构自行出手的空间，也可能为各州五花八门的 AI 安全立法（例如曾受阻的加州 SB 1047）树立一个联邦层面的”天花板”。有分析认为，这正是 Anthropic 下注联邦立法的原因——与其应对 50 个州的不同规则，不如推动一套全国统一、且门槛足够高的标准。
对行业而言，草案若落地，意味着前沿实验室将背上新的合规成本：定期接受独立评估、公开安全发现、建立 72 小时风险上报机制。对资金和人力本就紧张的小型实验室，这可能是沉重的负担；而对 Anthropic、OpenAI 这样的头部公司，合规反而可能成为护城河——”能通过评估”本身就是一种资质壁垒。
不过，变数依然很多：草案全文尚未公开，尚未正式提出，商务部没有表态，国会两党的立法意愿也不明朗。在美国大选周期与 AI 军备竞赛叠加的背景下，这份”10 亿美元门槛”的法案究竟是深思熟虑的治理方案，还是一次精明的行业游说，仍有待国会山的下一步动作来验证。对中文读者而言，值得关注的是：当美国开始为”什么样的 AI 风险值得政府出手”划线时，这条线的高度，将间接影响全球 AI 治理的话语权争夺。