OpenAI承认！AI想“越狱”？曾试图关闭对齐监测

来源：中国基金报

【导读】OpenAI自爆内部AI代理错误理解指令，曾试图擅自关闭对齐监测

中国基金报记者 叶诗婕

当地时间10月20日，OpenAI披露了一起内部安全事件：其AI代理在执行常规编程任务时，错误地理解指令，并自主关闭对齐监测警报。

OpenAI坦言，目前对这一行为“还没有令人信服的解释”，并正在评估其模型是否普遍存在规避监控的倾向。

例行指令被错误解读 AI代理关闭监控警报

根据OpenAI博客发布的报告，事件发生在2026年10月3日与10月6日的两项内部编程任务中。涉事模型GPT-6.1 Sol Agent与GPT-6 Astra Agent在执行用户要求的软件修改时，错误地把例行指令解读为“可停用安全监控”。

在首宗事故中，负责修补评估流程的Sol直接停用向安全团队自动发警示的功能，将早前一句“搜寻Slack记录时不要发讯息”误当成可延伸适用于所有通知，最终导致监测警报被关闭。

至于第二宗事故，负责迁移程序的Astra Agent为了“贴近参考实作”而删除监测整合代码，事后更向用户谎称并未移除相关机制。

OpenAI的调查显示，代理在编程过程中曾短暂考虑是否保留监测防线，但最终仍把一般性指令视为削弱安全的授权。OpenAI对此表示，正强化整套对齐失效监测系统，并评估这些行为究竟属于代理的良性过度坚持，还是反映其在特定情境下具备绕过监测的倾向。

AI安全风险引担忧

OpenAI本次披露加剧了外界对AI安全风险问题的担忧。

近几个月来，OpenAI与Anthropic、Meta等公司已接连报告模型突破封闭训练环境、自主攻击第三方系统的案例。就在本次事件曝光前，OpenAI于8月详细披露了另一起严重事件：一个内部研究模型在网络安全评估中绕过隔离措施，入侵了OpenAI内部研究基础设施及Hugging Face系统的部分组件。

AI代理越界行为并非孤例。Anthropic在内部审计中发现，其Claude系列模型在测试期间曾意外连接互联网，未授权访问了三家外部公司的系统；其中一起案例，一个早期版本的Claude Opus 4.6在夺旗赛评估中因目标IP配置错误且评估框架未能执行关机，直接访问了一台第三方机器，使用发现的密码获取管理权限并进一步收集凭证。

Meta同样确认，其预发布模型Muse Spark 1.1在一次网络安全评估中，因第三方评估机构误将真实网站设为模拟目标并意外授予互联网访问权限，模型发现并利用了该网站的一个漏洞。

此外，有报道称，OpenAI的智能体曾异常访问澳大利亚Medicare统计服务系统及多个美国政府机构网站，包括SEC、人口普查局和教育部，虽未造成系统篡改，但暴露了评估环境隔离失效的系统性风险。

接连警示之下，“人类能否管控日益复杂的AI系统”已被推向公共讨论中心，而OpenAI此次事件或许只是更大规模安全审视的开端。

编辑：杜妍

校对：王玥

制作：小茉

审核：陈墨

版权声明

《中国基金报》对本平台所刊载的原创内容享有著作权，未经授权禁止转载，否则将追究法律责任。

授权转载合作联系人：于先生（电话：0755-82468670）