把材料丢进AI帮你改稿,这一步到底安不安全?

南方+
2026-11-05 14:02

来源:南方+

下班前,同事发来一份会议材料:“帮我用AI润色一下,明早要用。”你打开AI写作工具,把材料整段粘贴进去,点下“发送”。几秒钟后,一份通顺的稿子就出来了。

看起来很高效。但就在“粘贴”的那一刻,这份材料已经离开了你的电脑,进入了你看不见的服务器。

这不是假设。据“保密观”微信公众号2026年4月披露,某次涉密会议筹备期间,某涉密单位工作人员冯某在起草一份涉密材料时,苦于没有头绪,便把部分敏感内容替换成字母代码,输入AI写作工具辅助生成文稿,导致涉密信息暴露风险陡增,事件发生后冯某受到严肃处理。

“保密观”微信公众号同期披露的另一起案例中,某科研机构研究人员小李,为图方便,在撰写研究报告时擅自将核心数据及实验成果作为写作素材上传至某AI应用软件,导致该研究领域涉密信息泄露,受到严肃处理。


问题出在哪里?

第一,上传即失控。国家安全部提醒指出:部分涉密人员在起草涉密材料时,为节省工作时间,违规将涉密素材和涉密文件内容输入AI写作小程序生成文章,认为“只是截取文件片段,不至造成泄密”。殊不知AI小程序会自动收集用户输入的信息内容以供自主学习,相关数据易被境外间谍情报机关窃取。信息一旦经网络上传,是否留存、流向何处,使用者已难以掌握。

第二,“换个说法”不等于安全。有人以为把关键词换成字母代码、把文件拆成片段,AI就看不出底细。事实上,大模型具备很强的关联还原能力——它能靠上下文逻辑、行业术语、数据特征,把零散信息拼回原貌,甚至推断出使用者的身份和单位。冯某把敏感内容替换成字母代码后仍然泄密,小李只上传“部分核心数据”同样泄密,原因就在这里。

第三,服务商的法定义务,替代不了使用者的保密责任。《生成式人工智能服务管理暂行办法》第十一条规定,提供者对使用者的输入信息和使用记录应当依法履行保护义务,不得收集非必要个人信息,不得非法留存能够识别使用者身份的输入信息和使用记录,不得非法向他人提供使用者的输入信息和使用记录。需要注意的是,其一,“不得非法留存”不等于内容不会被缓存、被用于模型训练;其二,它保护的重点是“个人信息”,并不覆盖文件内容本身是否涉密;其三,即便服务商提供了“关闭用于模型训练”之类的选项,也只是降低风险,不能改变信息已经上传到非涉密网络的事实。


哪些信息要远离AI?

判断一份材料能不能碰AI,别凭感觉,按三层查:

第一层,国家秘密。绝密、机密、秘密级国家秘密,不论全文还是部分内容,一律不得输入。

第二层,内部文件。即工作秘密,一律不得在互联网处理,不得输入互联网AI工具。

第三层,敏感信息。重要数据、商业秘密、个人隐私,分别受《中华人民共和国数据安全法》《中华人民共和国反不正当竞争法》《中华人民共和国个人信息保护法》保护,也不建议上传。


用新技术,边界在哪里?

第一,铁律先立住:涉密不上网,上网不涉密。保密法第二十九条第二款明确,禁止未按照国家保密规定和标准采取有效保密措施,在互联网及其他公共信息网络或者有线和无线通信中传递国家秘密;第三十一条第(三)项明确,禁止使用非涉密信息系统、非涉密信息设备存储或者处理国家秘密。部署在互联网上的AI工具,属于非涉密信息系统。用它处理涉密信息,无论输入的是全文还是片段,本身就是违法。

第二,把AI当语言工具,不当“内容仓库”。需要它调语气、改结构、想标题时,输入的应当是已经公开,或完全不含业务实质的通用内容,让AI只做文字加工,不接触信息内核。连单位名称、项目代号、人名职务这类可识别要素,也要一并去掉——AI不需要知道这些,也不需要记住这些。这条只适用于已经公开的信息。内部文件不能靠“去掉业务实质”“换成通用表述”变通——文件性质不因改写而改变。

第三,分清什么内容能用、什么工具能用。涉密敏感信息,只能在涉密信息系统中处理,任何接入互联网的AI工具一律不得使用。确需在内部网络部署AI工具的,应当按照有关规定报批。

第四,确定不涉密才能上传。判断不了某份材料能不能上传时,别赌运气,直接咨询本单位保密工作机构或者保密管理员。

第五,传错了别捂着。一旦发现已经把涉密或者内部敏感内容输进了AI工具,立即停止使用,第一时间报告本单位保密工作机构,配合采取补救措施。不得自行删除记录、隐瞒不报——本地记录删了,服务器上的还在。

(来源:南方+ 编辑:陈洁)