浦东新区发布AI企业数据合规指引,引导企业开展定期自评估

外滩科技眺望李览青 2022-09-04 17:20

《指引》适用于上海市浦东新区人工智能企业,以及其他从事数据收集、处理和算法研发应用的相关企业。

21世纪经济报道记者李览青 上海报道

9月3日下午,在世界人工智能大会“2022世界人工智能安全高端对话”主题论坛上,正式发布《浦东新区人工智能企业数据安全和算法合规指引(试行)》(以下简称“指引”)。

这也是继今年2月杨浦区出台上海首份《企业数据合规指引》后,第二份聚焦企业数据合规、算法合规的指引文件。

《指引》由上海市浦东新区检察院牵头,与浦东新区工商联、人工智能行业指导部门、行业协会以及专业机构共同编制。

《指引》适用于上海市浦东新区人工智能企业,以及其他从事数据收集、处理和算法研发应用的相关企业。《指引》分为八章共66条,包括总则、企业数据合规组织机构建设、数据安全制度建设、数据全生命周期安全管理、算法合规制度建设等内容。

上海市浦东新区人民检察院检察官夏静在接受21世纪经济报道记者专访时表示,人工智能产业是浦东新区的六大核心产业之一,出台《指引》对浦东新区发挥“引领区”作用,引领人工智能产业发展起到了非常重要的作用。

据了解,《指引》出台的目的,是聚焦浦东新区“智能造”“数据港”等六大硬核产业,进一步推动人工智能企业加强数据安全和算法合规管理,规范企业数据处理活动和算法研发应用,有效惩治和预防数据违法犯罪,进一步优化营商环境,助力浦东新区实施重点产业高质量发展行动计划,加快打造人工智能世界级产业集群,更好服务保障浦东引领区建设。

在日常的办案过程中,夏静发现人工智能行业的数据安全管理还存在一些漏洞,一些AI企业在数据安全保护或个人信息保护方面存在管理不到位的情况,数据安全保护意识较为薄弱。

据夏静介绍,与上海市其他区出台的人工智能企业相关指引相比,《指引》具有三大方面特色。

第一,《指引》首次将算法合规纳入到数据合规体系,进一步完善了数据合规的管理体系;

第二,《指引》进一步扩大了数据保护的范围,以往的数据合规指引往往侧重于个人信息保护,《指引》将保护范围由公民个人信息拓展到其他领域的重要信息与核心信息,更为注重数据合规的完整性;

第三,《指引》创新性引入数据合规的评价体系,通过外部评估与自评估两种方式相结合,帮助人工智能企业更好地发现数据合规管理中存在的问题,从而预防数据合规风险。

在算法合规制度建设方面,《指引》明确AI企业在算法研发和应用中应当遵循六大原则,分别是坚持正确导向、坚持风险防控、坚持依法应用、坚持技术创新、坚持防范算法歧视。《指引》还提倡企业应强化责任意识,对算法应用产生的结果负主体责任,提供算法推荐服务具有舆论属性或社会动员能力的应当进行互联网信息服务算法备案。同时,《指引》对人工智能企业的算法公开、算法评估、反垄断和反不正当竞争、自动化决防范算法歧视等方面均作出规定。

“《指引》中引入数据合规评估体系,引导人工智能企业通过定期自评估,同时将算法合规纳入其中,全面引导和规范人工智能企业数据处理活动和算法研发应用,为企业合理开发、利用数据资源,确保数据安全,提高合规治理能力提供指南。” 上海市浦东新区人民检察院党组书记、检察长曾国东在发言中表示。

夏静向记者介绍时提到,针对数据合规监管,早在2020年,由浦东新区人民检察院牵头,已试点建立了上海自贸区涉案企业合规第三方机制管委会,并组建了首批76人第三方机制专业人员名录库,囊括来自不同领域和不同行业的专家,为人工智能企业有针对性地展开专业性的指导评估。

“希望通过《指引》建立更为完备的数据合规管理体系,共同推动数据合规从个案办理向行业治理延伸,为浦东人工智能企业发展保驾护航。”夏静表达了她的期待。

(作者:李览青 编辑:陶力)

李览青

记者

专注金融科技领域报道,关注消费金融、第三方支付、大数据风控、债券、房企融资等。欢迎探讨交流!联系邮箱:lilanqing@sfccn.com