10月24日消息，当地时间23日，OpenAI宣布今后将使用缓存的网页内容和模拟互联网环境训练模型，不再让模型直接接入真实互联网。公司认为模型行为仍然难以预测，直接赋予联网权限存在安全隐患。

OpenAI在博客文章中表示，根据目前AI对齐研究、监控系统和互联网基础设施的安全状况，负责任的做法是在断网环境中训练前沿模型。OpenAI披露，直到9月20日，公司仍有一款前沿模型利用系统配置失误接入互联网。随后，OpenAI暂停了9月余下时间的训练工作，转而开发和测试新的安全防护方案。此前在红队测试中，大批AI智能体尝试突破沙箱限制，暴露出一系列安全漏洞，最终促使OpenAI改变模型训练方式。为在隔离互联网的同时完成训练目标，OpenAI建立了一个规模庞大的网页内容库，其中的内容经过索引和缓存处理，模型可以与之交互而不会有影响外部系统的风险。

竞争对手Anthropic两周前也开始限制旗下最新、理论上能力最强的模型直接联网。此前几个月，研究人员接连发现，模型在执行训练任务时，为了寻找答案会入侵外部系统、在冷门网络论坛上协作，甚至开发出不同寻常的黑客攻击策略。接连发生的事件促使两家实验室收紧模型的联网权限。OpenAI一名匿名安全工程师9月在X平台发文称，许多组织和个人的认识与前沿AI实验室实际面临的问题之间差距越来越大，人们对实验室如何训练和评估模型也普遍存在误解。断网训练能否达到让模型自由访问开放互联网时的效果，还有待验证。