2023预见AI①丨AI时代的算法治理：呼唤多领域规则供给，注重分类分级治理机制落地

南方财经全媒体记者 李润泽子 实习生 杨儒宇 广州报道

2023年伊始，《互联网信息服务深度合成管理规定》正式实施，标志着我国算法安全治理体系的进一步完善。

算法作为人工智能等新一代信息技术的核心，已嵌入经济社会的方方面面，无处不在。然而，随着人工智能技术的蓬勃发展，算法应用中也迅速出现了算法歧视、算法安全、算法操控等诸多问题。

在此背景之下，完善算法治理迫在眉睫，也成为了亟需各方共同面对的重要议题。2022年，我国便从立法、监管和司法层面推动算法治理体系逐渐深入。在这一年，《互联网信息服务算法推荐管理规定》等涉及具体算法问题的法规相继实施，相关监管执法行动陆续启动。与此同时，算法技术引发的法律争议也不断增多，多例算法技术引发的新型纠纷案件也有了裁判结果。

立于2023年的起点，回望过去，我国算法治理制度构建与监管落地同步，已率先在全球范围内形成了具体的法律规则并付诸于具体执法举措。远眺未来一年，随着技术不断发展，规则不断完善，算法治理又将走向何方？

2022，制度构建与监管落地同步

对于人工智能算法治理而言，2022年是意义非凡的一年。在这一年，我国算法治理进一步升级，治理体系日渐完善，制度构建与监管落地同步。

*结合郭兵受访内容整理

2022年3月，《互联网信息服务算法推荐管理规定》正式实施，明确反对算法歧视、大数据杀熟、诱导沉迷等算法的不合理应用。值得注意的是，这一规定是我国首个专门针对算法推荐的部门规章，也被视为世界范围内首次针对算法推荐的专门立法。

当年9月，《互联网弹窗信息推送服务管理规定》实施，针对弹窗信息推送应用中算法问题进行了专门规定。

而在年底12月，《互联网信息服务深度合成管理规定》发布，针对利用深度学习、虚拟现实等生成合成类算法制作文本、图像、音频、视频、虚拟场景等网络信息的技术进行规制。该规定也已于2023年1月正式实施。

相关监管执法行动亦在2022年陆续启动，如互联网信息服务算法备案系统于3月上线，“清朗·2022年算法综合治理”专项行动也在4月启动。

此外，浙江理工大学法政学院特聘副教郭兵告诉南方财经全媒体记者，2022年算法技术引发的法律争议也不断增多，法院针对全国首例短视频平台算法推荐侵权纠纷案、大数据杀熟第一案、首例涉及算法风控系统引发人身权益侵权纠纷案等算法技术引发的新型纠纷案件作出了裁判。

“算法被视为是人工智能的核心驱动力。正因如此，算法治理也就成为了人工智能治理的主要方面。”郭兵表示。

中国互联网协会研究中心副主任、北京师范大学博士生导师吴沈括解释，算法治理之于人工智能治理十分重要的另一原因是算法问题是人工智能治理之中各方关注度极高的一个公共议题，在智能社会语境中也事关每一个人的切身利益。

谈及2022年我国人工智能算法治理的特点，吴沈括指出，我国已率先在全球范围内形成了具体的法律规则，并付诸于具体的执法举措，有实际的制度建构和实际的配套监管落地工作。

他进一步分析认为，我国在算法、人工智能治理方面，比较侧重于从内容治理的角度切入，强调对于算法应用可能伴生的内容治理风险做出系统全面的规制。此外，算法治理强调多方参与、共建、共享、共治。在为各方设定权利义务的同时，努力通过制度建构来推动各方的协同治理。提高合作治理的水平，强化治理的实质效果。

“这一点跟我们整体的网络治理当中所秉持的生态型综合治理，是一脉相承的。”吴沈括说。

对外经济贸易大学数字经济与法律创新研究中心执行主任张欣则认为，2022年我国正式开启了针对人工智能治理的系统化、整体化、一体化路径。对人工智能的治理，从之前镶嵌在个人信息保护、电子商务、网络安全等主题之下，到现阶段单独成为一个重要的规制议题，具有在治理层面的重要意义。

2023年，算法治理走向何方？

步入2023年，算法技术仍在不断深入发展，算法综合治理也仍然在路上。 

在吴沈括看来，加强有关算法应用的技术要素治理是当务之急。这之中既包括了算法本身的基础技术要求和准入门槛，也包括了对其的价值要求。而另一方面，提升有关算法应用组织管理方面的治理水平也十分重要。“特别是针对算法从研发到应用全流程的权利义务配置，包括加强算法应用当中的业务指引。”

事实上，从2022年涉及算法技术的典型司法案例来看，法院的相关裁判仍然存在不少争议。郭兵解释，这些争议在一定程度上与相关制度规则不明确有关。“为了更有效地推动算法治理，还需要不断加强相关制度规则的供给。”

而针对具体领域的算法治理来说，除了商业领域的算法推荐、深度合成等问题外，其他领域的算法治理也还需要进一步深入拓展解决。

“随着数字政府的不断推进，政务领域的算法治理也应当不断强化，各级政府部门在算法技术应用的过程中应当深入吸取‘河南村镇银行千余名维权储户被赋红码事件’的经验教训。”郭兵指出。

展望新的一年，吴沈括预测，对于算法应用产业实际需求的回应将进一步提升，其中就包括完善和改进算法备案等各项监管举措，这将更好地实现风险监管和产业发展之间的协调互动。

张欣则认为，2023年我国将会以算法规制为引领，逐步深入到更为具体的场景和应用。目前我国对于推荐算法、深度合成均已出台了相关的规定。“接下来我们会更加注重人工智能应用层和技术层的规制。例如，对自动驾驶汽车规制的进一步完善。”

同时，她提到在算法层面，我国应当注重算法分类分级治理机制的落地。具体而言，应当注重形成算法影响评估、算法审计、算法认证等为内核的算法治理工具体系的设计，为算法分类分级治理提供抓手和依据。与此同时，也要注重算法治理与数据治理和平台治理的有机联结，注重平台分类分级、数据分类分级与算法分类分级的适当结合。

此外，国际合作或许也将成为2023年算法治理的新常态。吴沈括认为，在算法治理层面将会出现更多的国际对话、合作交流和博弈。“特别是在以联合国数字契约为代表的一系列国际议程当中，算法会有越来越突出的地位，也将引入更多的利益相关方积极参与，并在全球层面形成有关算法治理的若干共识。”