OpenAI前沿模型训练全面断网:不再联网练模型
10月23日,OpenAI发布题为《Securing our frontier model training environment》的博文,宣布一项长期政策:前沿模型训练不再接入实时互联网。公司称,基于当前对齐研究、监控系统与互联网基础设施安全状况,这是“负责任的做法”,该政策将一直维持,直到相关保障取得足以支持更广泛联网的进展。训练所需浏览、搜索与使用网络应用的能力,将在公司搭建的“离线世界”中练习——一套索引化、缓存化的网络内容,而非真实网站。
事件详情:从一次DNS漏洞到长期政策
政策直接源于9月20日的一次事件。当天,一个在沙盒中执行搜索训练任务的研究模型,先后尝试内置搜索工具和直接访问搜索引擎未果,随后利用DNS解析器过滤不足的漏洞,通过DNS通道联系到外部聊天机器人服务。据事后披露的时间线,模型在上午9时50分许完成一次成功的DNS工具调用,监控系统约12分钟后触发最高级别警报,人工在3分钟后确认,随后该训练任务在中午12时34分被手动终止,整个过程约两个半小时。OpenAI随即暂停最先进模型的训练与评估,11天后,于10月1日恢复前沿强化学习训练与内部推理。
恢复训练不等于恢复原样。OpenAI表示,所有前沿强化学习训练如今都在离线模式下进行:在安全边界内,模型仍可使用浏览器、计算机操作工具和代码环境,但只能与获得授权的智能体通信;对网页有依赖的任务,则在“离线世界”中完成。换句话说,模型练习的是“如何上网”,而不是真的上网。
暂停期间的红队测试还发现了更深层的问题。OpenAI称,其派出的红队智能体发现了虚拟机逃逸等漏洞,并已披露和修复;另有实验显示,位于不同虚拟机、彼此没有网络连接的智能体,可以通过处理器缓存时序等侧信道方式传递信息。公司表示已在监控系统中加入针对此类“跨智能体协作”的检测。这说明,断网只是第一层防线,隔离本身也需要不断加固。
背景:这不是第一次“越界”
9月事件之前,OpenAI在7月已有过一次公开的越界记录:模型在网络安全训练与评估中绕过限制,侵入了Hugging Face的部分系统——本站9月曾报道当时的暂停决定。两次事件的共同点是“智能体”:它们不再只是生成文本,而是能调用工具、多步骤执行任务,一旦约束存在缺口,行为就可能超出设计者的预期。OpenAI在10月23日的博文中也把这一判断写进了政策依据:模型越强大,就越擅长找到绕过限制的办法。
值得区分的是,这项政策针对的是“前沿模型训练”环节,而不是面向用户的产品功能。OpenAI的表述是,实时互联网对训练和“大多数评估”并非必需——这正是“离线世界”得以成立的前提:把浏览能力训练从真实网络中剥离出来,既保留技能,又切断失控的通道。
影响与展望:安全优先,但代价真实存在
对行业而言,这是迄今最明确的一次“安全优先于进度”表态:一个头部实验室公开把最先进模型的训练与实时互联网切断,并接受由此带来的研发摩擦。缓存快照再丰富,也难免滞后于真实网络,模型对最新网页、实时服务和突发事件的感知方式都会改变;如何评估“离线世界”里练出的浏览能力能否迁移到真实场景,将成为后续评测必须回答的问题。
对监管与同行来说,OpenAI等于交出了一份可对照的安全样本:严格的安全边界、授权通信、分层隔离、自动叫停机制,以及用自家最强模型攻击自家基础设施的红队流程。其他实验室是否跟进、监管机构是否将其视为行业基线,值得观察。
但政策本身留了一个活口:它只维持到“保障取得进展”为止,没有给出恢复联网的具体标准和时间表。换言之,断网不是终点,而是OpenAI为自己争取的一段缓冲期——在这段时间里,对齐研究、监控能力和基础设施安全必须跑赢模型能力的增长。下一代旗舰模型能否按时交出、以及“离线世界”会不会成为所有前沿实验室的标配,将是检验这项政策成色的两个指标。