ChatGPT、AI换脸背后的关键技术迎来新规：应显著标识，提供真实身份信息

南方财经全媒体记者 李润泽子 21世纪经济报道记者 郭美婷 实习生 曹萩儿 广州报道

当真假交融难辨，眼见不再为实，如何规范化身双刃剑的深度合成技术应用便成为了关键。

日前，国家互联网信息办公室、工业和信息化部、公安部联合发布了《互联网信息服务深度合成管理规定》（以下简称《规定》）。《规定》明确了深度合成服务的一般规定、数据和技术管理规范以及监督检查与法律责任等内容。

国家互联网信息办公室有关负责人指出，深度合成服务治理需要政府、企业、社会、网民等多方主体共同参与，推动深度合成技术的依法、合理、有效使用，积极防范化解深度合成技术带来的风险，促进互联网信息服务健康发展，维护网络空间良好生态。

受访专家告诉南方财经全媒体记者，从目前我国正处于推动数字化转型，倡导文化产业数字化发展的大背景下，规范深度合成技术，并且出台有关人工智能治理的相关法规正是应有之义，不仅能够有利于我国数字经济发展，而且能够维护网络空间良好生态，为之后的进一步发展打下坚实的基础。

划定深度合成服务的“底线”和“红线”

AI聊天机器人、AI绘画、AI换脸、虚拟数字人、修复影像、合成语音……近年来深度合成技术应用场景正不断丰富。

据介绍，深度合成技术是指利用深度学习、虚拟现实等生成合成类算法制作文本、图像、音频、视频、虚拟场景等网络信息的技术。

中国互联网协会研究中心副主任、北京师范大学博士生导师吴沈括告诉南方财经全媒体记者，深度合成技术在影视制作、社交娱乐、新闻宣传、教育和电子商务等方面应用较多。商业上有丰富用户体验，增强用户粘性，拓展应用场景和增强业务生态等多重价值。

《深度合成十大趋势报告（2022）》显示，在国内外主流音视频网站、社交媒体平台上，2021年新发布的深度合成视频的数量较2017年已增长超过10倍。此外，深度合成内容关注度也呈指数级增长，通过对互动数据进行统计，2021年新发布的深度合成视频的点赞数已超过3亿。

然而，在深度合成技术向社会生活的各个领域渗透之时，其所带来的负面风险也日渐显现且逐步产生实质危害。

近两年，浙江、江苏、河南等多地就出现了不少利用深度合成技术实施犯罪的“变脸”诈骗案。这些案件的作案流程颇为雷同：不法分子非法获取他人照片或有偿收购他人声音等“物料”，仅需少量音视频样本数据，便可合成媲美真人的伪造音视频，用来实施精准诈骗，侵害他人人身和财产安全。

国家网信办在答记者问时指出，深度合成服务在满足用户需求、改进用户体验的同时，也被一些不法人员用于制作、复制、发布、传播违法信息，诋毁、贬损他人名誉、荣誉，仿冒他人身份实施诈骗等违法行为，影响传播秩序和社会秩序，损害人民群众合法权益，危害国家安全和社会稳定。出台《规定》，能够划定深度合成服务的“底线”和“红线”，维护网络空间良好生态。

事实上，在《法治社会建设实施纲要（2020—2025年）》中就曾明确提出制定完善对算法推荐、深度伪造等新技术应用的规范管理办法。其中，《互联网信息服务算法推荐管理规定》第一个正式出台的规制算法推荐运用的部门规章，已于今年3月施行。《规定》则是第二部专门针对算法的规范。

显著标识避免公众混淆

早在今年初，国家网信办就已针对深度合成管理征求意见。直至年末，《规定》正式稿才最终出台。

相比起此前的征求意见稿，上海汇业律师事务所律师史宇航认为，《规定》最大的区别在于引入了更多的监管部门，将电信主管部门与公安部门也引入到深度合成技术的监管之中。电信主管部门可能会从电信牌照与备案、网络安全漏洞等角度进行监管，公安部门则更关注公安联网备案、网络安全等级保护的问题。

在吴沈括看来，《规定》的亮点在于就深度合成服务明确设立了涉及算法、机理、科学伦理以及信息发布等多个方面的多项审查审核机制；同时，强调了包括加强技术管理、定期审核、评估验证，以及有关模板、模型、工具的安全评估等的平台主体责任内容；并且，强调实名认证，确保发布者的真实身份，否则不予提供相应的信息服务，并且在身份验证中提供了多种可选方式，包括电话号码、身份证以及网络身份认证机制等。

而《规定》中另一颇受关注的条款是对“深度合成标识”的要求。《规定》提出，深度合成服务提供者对使用其服务生成或者编辑的信息内容，应当采取技术措施添加不影响用户使用的标识，并依法依规保存日志信息。提供智能对话、合成人声、人脸生成、沉浸式拟真场景等具有生成或者显著改变信息内容功能服务的，应当在生成或者编辑的信息内容的合理位置、区域进行显著标识，向公众提示信息内容的合成情况，避免公众混淆或者误认；提供非上述深度合成服务的，应当提供显著标识功能，并提示使用者可以进行显著标识。任何组织和个人不得采用技术手段删除、篡改、隐匿相关标识。

“此项要求可能会推动深度合成技术与区块链技术更为紧密的融合，借助区块链上信息无法篡改的特点来履行该项义务。”史宇航说。

此外，《规定》与《互联网信息服务算法推荐管理规定》一脉相承，同样注重新闻信息安全。《规定》指出，具有舆论属性和社会动员能力的深度合成服务提供者仍要履行算法推荐服务的备案手续，深度合成服务提供者开发上线具有舆论属性或者社会动员能力的新产品、新应用、新功能也要按规定开展安全评估。

吴沈括指出，该规定是为实现深度合成服务的事前治理，以最大程度降低该技术伴生的社会风险。

同时，数据安全也是《规定》重点强调的规范之一。《规定》要求，深度合成服务提供者和技术支持者应加强训练数据管理，采取必要措施保障训练数据安全；训练数据包含个人信息的，应当遵守个人信息保护的有关规定；提供人脸、人声等生物识别信息显著编辑功能的，应当提示使用者依法告知被编辑的个人，并取得其单独同意。

促进深度合成服务规范发展

促进深度合成服务规范发展是此次《规定》出台的重要目的。据国家网信办介绍，制定《规定》，是落实《网络安全法》《数据安全法》《个人信息保护法》《互联网信息服务管理办法》等法律、行政法规，对应用深度合成技术提供互联网信息服务制定系统性、专门性规定，能够明确各类主体的信息安全义务，为促进深度合成服务规范发展提供有力法治保障。

在北京大成律师事务所高级合伙人肖飒看来，《规定》的发布一方面会使得目前行业内良莠不齐的情况得以整治，淘汰不规范的企业，促进行业健康发展，另一方面也会使得同深度合成技术相关的新兴技术行业有相似的法律依据提供参考，提前做好准备，合法合规运行。

“总的来说，对行业有着极大的促进作用，也能促使更多企业依照规范加入深度合成服务提供者的行列。”她表示。

史宇航也持有相同看法，他认为《规定》的制定有助于对新技术风险的监管，更好地发挥新技术的价值。

然而，《规定》作为规范前沿技术的具体规定，在落地时仍面临不少难点。肖飒指出，《规定》的落地难点主要在于深度合成技术本身的复杂性和易变性，实践中认定、取证和举证的难度可能会较高，影响《规定》的实施效果。同时，由于目前已经有许多企业已经在进行深度合成技术的应用，因此如何处置和使得这部分企业在《规定》实施后转为合规合法进行深度合成服务的提供也是落地的难点之一。以上这些问题，都需要司法和执法部门在不断地更新自己的能力，与时俱进。

因此，在未来进一步推动深度合成技术规范化发展的过程中，吴沈括建议，一方面要认可深度合成技术的积极意义，同时也要重点实现对于深度合成技术和服务的有序规范和引导，对于深度合成技术所形成的生态中的各方主体，要根据技术演进的实际情况，不断完善权利义务配置。同时，丰富监管工具手段，引入新监管机制，最大程度防范与深度合成技术应用相伴生的各种社会风险，划定必要的行为红线，及时惩处各类违法违规行为，构建安全可持续的发展环境。

“希望执法能够跟上，只有切实对违法行为进行查处、处罚，让执法更加公开透明，才有可能推动深度合成技术的规范化发展，否则一定会出现劣币驱逐良币的现象，导致违法活动难以遏制。”史宇航期待。

此外，值得注意的是，南方财经全媒体记者也观察到，除《规范》外，近期与人工智能治理相关的法规正密集出台。

对此，肖飒认为，这一方面意味着人工智能这一项技术已经在各个方面各个领域发挥出越来越重要的作用。面对这样的一种新型领域，自然会引申出许多固有的法律法规无法回应或妥善处理的难题，因而需要新的法律法规予以正面回应。另一方面也意味着我国对于人工智能这样一项新兴技术并未采取置之不理或者听之任之的态度，而是在积极接纳的基础上通过新的法律法规进行规范，以适应社会的不断发展之势。