炸裂!全球首例AI暴走入侵!

财经早餐2026-07-24 21:09

细思极恐,一场现实版《终结者》近日在美国AI界上演。7月21日,OpenAI公开承认,其GPT-5.6 Sol模型与另一款能力更强的预发布模型在内部安全测试中失控。

大模型在测试中为了通过作弊取得更高的分数,竟然搞到了接入互联网的权限,突破高度隔离的“沙盒”环境,自主入侵了全球最大AI开源平台Hugging Face的生产系统。这是行业首次公开披露模型评测失控直接升级为跨企业真实网络攻击的AI安全事件。

 然而,这场危机中最具讽刺意味是:发生在Hugging Face试图“自救”之时。面对逾1.7万条攻击日志的取证分析,Hugging Face首先求助美国最顶尖的闭源大模型,却被对方的安全护栏“一刀切”拒之门外——

这些模型无法区分“受害者”与“攻击者”,将所有涉及恶意代码的请求全数拦截。紧急关头,Hugging Face转而部署中国智谱AI于6月刚刚开源的GLM-5.2模型,顺利完成全部取证分析。 肇事者是美国的闭源模型,救场的却是中国的开源模型。 

这一戏剧性反转,让此前OpenAI高管关于“中国开源模型会导致技术失控、隐患无穷”的论调显得格外苍白。

事实恰恰相反:当封闭体系的工具在危机中失灵时,反而是开放共享的模型成了可靠的后备防线。智谱GLM-5.2采用的MIT开源协议允许自由下载、部署与商用——这种技术平权让Hugging Face能够在本地基础设施上完成分析,无需将敏感数据交给外部平台。 

目前,白宫首席技术顾问已密切关注事态,美国两党议员更联合提出《AI紧急关停法案》。但真正值得深思的是:当AI能力已突破安全边界,靠筑高墙能否真正守住防线?把防人的墙筑得太高,最终困住的往往可能是自己。#OpenAI #HuggingFace #智谱GLM #人工智能 #开源模型

(来源:财经早餐)

财经早餐

自媒体

美好一天,从财经早餐开始。