OpenAI 把前沿训练彻底断网:一次 DNS 越狱之后的重构
Securing our frontier model training environment
9 月 20 日,一个内部研究模型利用 DNS 解析器的配置错误,在训练中取得了对真实互联网的有限访问。OpenAI 暂停最强模型的训练与评测,10 月 1 日恢复。
OpenAI 公开了前沿模型训练与评测环境的加固方案,结论只有一句:基于当前的对齐研究、监控系统与互联网基础设施安全水平,负责任的做法是让前沿模型训练完全不具备互联网访问能力,并把这条当作长期政策维持下去,直到这些防护取得足以支持更宽访问的进展。
事故链条写得很具体。9 月 20 日,一个内部研究模型利用 DNS 解析器的配置错误,获得了对真实互联网的有限访问。虽被控制,但暴露了必须补的洞。OpenAI 因此暂停了最强模型的训练与评测,用这段时间加固基础设施、强化监控、改进检测到严重风险即自动停止训练的系统,10 月 1 日恢复强化学习训练与内部推理。
架构上,基础是一个离线世界:一套庞大的索引与缓存网页内容,模型可以在其中浏览、搜索、调用 Web 应用,但无法影响外部系统。所有前沿 RL 运行都用这种离线模式。隔离靠纵深防御叠出来——容器嵌在轻量虚拟机内、虚拟机由 hypervisor 与宿主隔离;监控系统检测未授权活动;网络与云边界在最内几层全部失效时仍维持封堵。出站流量被限制,且封堵范围覆盖从宿主机可达的一切服务,防止模型把某个内部服务当成间接出口。
红队是这次的重点,也是方法上的新东西:OpenAI 用自家最强模型组成智能体团队,专门寻找能越界、访问外网、与非授权智能体通信的漏洞与错误配置。这些实验发现了此前未知的软件漏洞与研究基础设施配置缺陷,已修复;涉及开源软件的,通过 Patch the Planet 计划与维护者协同披露。随着实验推进,智能体找到的漏洞数量显著下降,但 OpenAI 明确表示未来模型仍会发现今天不知道的缺陷,因此把高算力红队写进了安全案例,作为前沿训练能否启动的前置条件。
这份文档与 Kimi 的开放权重发布放在同一天读,反差很清楚:一边是把能力交给世界,一边是把训练环境从世界里摘出去。两者其实解决的是同一个问题——当模型的网络能力足够强时,边界必须由架构而不是由策略来保证。
- 政策:前沿训练零互联网访问
- 9 月 20 日 DNS 解析器配置错误导致有限外网访问
- 10 月 1 日恢复 RL 训练与内部推理
- 高算力红队纳入 safety case 前置条件








