《人工智能示范法1.1(专家建议稿)》重磅发布

合规科技冯恋阁 2023-09-07 14:35

人工智能产业向前的脚步一刻未停。9月初,百度、百川等公司宣布其旗下大模型进入《生成式人工智能服务管理暂行办法》备案名单,将陆续向公众开放。

产业狂奔向前,治理亦需跟进。8月15日,由中国社会科学院法学研究所主办,中国社会科学院法学研究所网络与信息法研究室、南财合规科技研究院等共同承办的“全球治理话语竞赛下人工智能立法的中国方案”研讨上,中国社会科学院国情调研重大项目《我国人工智能伦理审查和监管制度建设状况调研》课题组(以下简称“课题组”)主持人、中国社会科学院法学研究所网络与信息法研究室副主任周辉正式发布《人工智能法(示范法)1.0》(以下简称“《示范法》”)。

《示范法》涵盖总则、人工智能支持与促进、人工智能管理制度、人工智能研发者和提供者义务、人工智能综合治理机制、法律责任和附则七大章节。总体来看,《示范法》坚持发展与安全并行的中国式治理思路,提出了负面清单管理等治理制度,并对人工智能产业链条各主体责任义务分配等核心问题进行了回应。

《示范法》发出后,引发了各界的讨论,也收到了许多反馈。基于此,课题组在1.0版本的基础上,参照各方反馈与最新动态对文本进行了修订,并发布《人工智能示范法1.1(专家建议稿)》。在1.1版中,课题组调整了违法罚款数额、风险评估记录保存日期等,并新增行政救济、人工智能提供者备案豁免等条款,以期建构更加具备生命力的人工智能监管治理体系,帮助行业健康成长。

以下为《人工智能示范法1.1(专家建议稿)》全文:

人工智能示范法1.1(专家建议稿)

中国社会科学院国情调研重大项目

《我国人工智能伦理审查和监管制度建设状况调研》课题组

第一章  总则

第一条(立法依据) 为了促进人工智能发展,规范人工智能的研发、提供和使用活动,维护国家主权、发展和安全利益,保护个人、组织的合法权益,根据宪法,制定本法。

第二条(适用范围) 在中华人民共和国境内从事人工智能的研发、提供和使用活动及其监管,适用本法。

在中华人民共和国境外从事人工智能的研发、提供和使用活动,影响或可能影响中华人民共和国国家安全、公共利益或者个人、组织合法权益的,适用本法。

第三条(治理原则) 国家统筹发展和安全,坚持促进创新和依法治理相结合,实施包容审慎监管。

第四条(以人为本原则) 从事人工智能研发、提供和使用活动应当以人为本、智能向善,确保人类能够始终监督和控制人工智能,始终以促进人类福祉为最终目标。

第五条(安全原则) 从事人工智能研发、提供和使用活动,应当采取必要措施保障所研发、提供和使用的人工智能及相关网络数据的安全。

第六条(公开透明可解释原则)

从事人工智能提供活动应当遵循公开原则,对所提供的人工智能予以适当标注。

从事人工智能研发、提供活动应当遵循透明、可解释原则,采取必要措施对所研发、提供的人工智能的目的、原理和效果予以说明。

第七条(可问责原则) 从事人工智能研发、提供和使用活动,应当分别对其研发、提供和使用活动负责。

第八条(公平平等原则) 从事人工智能研发、提供和使用活动应当遵循公平原则,应当采取有效措施避免对个人、组织实行不合理的差别待遇。

从事人工智能研发、提供和使用活动应当充分考虑未成年人、老年人、残障人士等特殊群体的需求。

第九条(绿色原则) 国家鼓励人工智能研发、提供和使用活动应用节能技术,高效利用资源,保护生态环境。

第十条(促进发展创新原则) 国家支持人工智能基础设施建设,推动公共算力、公共数据和其他相关公共资源开放共享,鼓励个人、组织依法开放共享算力、数据和其他相关资源。

国家鼓励人工智能研发和应用,依法保护人工智能领域知识产权,健全适应人工智能发展的知识产权制度。

第十一条(国际合作) 国家积极开展人工智能领域的国际交流与合作,参与人工智能相关国际规则和标准的制定和实施,推进形成具有广泛共识的国际人工智能治理框架和标准规范。

国家鼓励人工智能领域的人才引进、技术引进和跨国技术合作。

第十二条(主管机关) 国家人工智能办公室是人工智能发展和管理的主管机关。其他有关部门和军队有关部门按照职责分工,密切配合,加强协调,依法做好有关工作。

省、自治区、直辖市,省、自治区的人民政府所在地的市,经济特区所在地的市和国务院已经批准的较大的市人工智能主管机关和其他相关部门,按照国家有关规定,在本辖区范围内负责人工智能发展和管理工作。

第十三条(协同共治) 国家建立和完善政府管理、企业履责、行业自治、社会监督、用户自律的人工智能治理机制,促进多元主体协同共治。

第十四条(合法正当) 从事人工智能研发、提供和使用活动应当遵守法律、行政法规,尊重社会公德和伦理道德,遵守以下规定:

(一)坚持社会主义核心价值观,不得生成煽动颠覆国家政权、推翻社会主义制度,危害国家安全和利益、损害国家形象,煽动分裂国家、破坏国家统一和社会稳定,宣扬恐怖主义、极端主义,宣扬民族仇恨、民族歧视,暴力、淫秽色情,以及虚假有害信息等法律、行政法规禁止的内容;

(二)尊重知识产权、商业道德,保守商业秘密,不得利用算法、数据、平台等优势,实施垄断和不正当竞争行为;

(三)依法保护消费者、劳动者权益,尊重他人合法权益,不得危害他人身心健康,不得侵害他人肖像权、名誉权、荣誉权、隐私权和个人信息权益。

第二章  人工智能支持与促进

第十五条(人工智能发展规划) 国家实施新一代人工智能发展规划,坚持人工智能研发攻关、产品应用和产业培育共同推进,全面支撑科技、经济、社会发展和国家安全。

省级以上人民政府应当将人工智能发展纳入本级国民经济和社会发展规划,并根据需要制定人工智能发展规划。

第十六条(算力基础设施建设)国家建立人工智能公共算力资源供给制度,推动公共算力资源平台建设与利用,加强算力科学调度,为人工智能技术与产业发展提供公共算力支持。

鼓励和支持高等院校、科研机构、企业和其他组织建设人工智能算力基础设施,开展算力资源市场化交易,引导各行业合理有序使用算力资源,提升算力基础设施利用效能。

第十七条(算法和基础模型创新) 国家支持人工智能算法创新,支持相关主体建设、运营开源开发平台、开源社区和开源项目等,推进开源软件项目合规应用,依法加强基础模型保护,促进基础模型创新开发、应用推广。

第十八条(数据要素供给) 国家支持建设人工智能领域基础数据库和专题数据库,促进数据资源高效汇聚和共享利用,扩大面向人工智能应用的公共数据供给范围,全面实施部署全国一体化大数据中心体系建设,优化数据中心基础设施建设布局,培育壮大数据中心集群,保障人工智能领域数据要素供给。

鼓励引导相关主体开展大数据与人工智能技术协同研发,支持相关主体将数据与行业知识深度融合,开发数据产品,服务算法设计、模型训练、产品验证、场景应用等需求。

第十九条(产业发展与应用创新) 加快人工智能关键技术转化应用,促进技术集成与商业模式创新,推动重点领域智能产品创新,积极培育人工智能新兴业态,打造具有国际竞争力的人工智能产业集群。

推动人工智能与各行业融合创新,在重点行业和领域开展人工智能应用试点示范,推动人工智能规模化应用,支持人工智能新技术、新产品、新服务、新模式的应用推广。

第二十条(专业人才培养) 国家支持高等院校完善人工智能领域学科布局,设立人工智能专业,推动人工智能领域一级学科建设。

鼓励高等学校、科研机构和企业等开展面向人工智能领域重大科学前沿问题的基础理论研究和关键共性技术研发,承担重大科技和产业创新专项。

国家支持建立有利于促进人工智能发展的项目管理创新机制、创新人才评定机制、科技成果转化激励机制等。

第二十一条(财政资金支持) 国家鼓励各地方各部门发挥投资引导基金扶持作用,聚焦人工智能核心领域与关键环节开展专项扶持。

国家鼓励社会资本参与人工智能产业发展。

第二十二条(国家机关先行先试) 鼓励政府机关、事业单位、国有企业及其他依法具有管理公共事务职能的组织,在政务服务、公共管理等领域开展人工智能技术应用先行先试,优先采购和使用安全可靠的人工智能产品和服务。

第三章  人工智能管理制度

第二十三条(分类管理制度) 国家建立人工智能负面清单制度,对负面清单内的产品、服务实施许可管理,对负面清单外的产品、服务实施备案管理。

国家人工智能主管机关根据人工智能在经济社会发展中的重要程度,以及一旦遭到攻击、篡改、破坏或者非法获取、非法利用,对国家安全、公共利益或者个人、组织合法权益、经济秩序造成的危害程度,牵头制定并定期更新人工智能产品、服务负面清单。

第二十四条(负面清单管理制度) 开展人工智能负面清单内产品、服务的研发、提供活动前,应当取得国家人工智能主管机关的行政许可。

禁止未经许可或超越许可范围开展负面清单内人工智能研发、提供活动。

第二十五条(负面清单许可条件) 申请负面清单内人工智能研发、提供许可,应当具备下列条件:

(一)在中华人民共和国境内依法设立的法人;

(二)主要负责人是中国公民;

(三)有与风险相适应的具备质量保障、安全保障、人类监督、合规管理等专业知识的专职人员;

(四)有健全的人工智能质量管理体系、网络数据安全管理制度、科技伦理审查制度;

(五)有安全可控的人工智能技术保障措施;

(六)有与风险相适应的人工智能应急处置机制;

(七)有与人工智能研发、提供相适应的场所、设施和资金;

(八)法律、行政法规的其他规定。

第二十六条(负面清单许可的申请) 人工智能研发者、提供者申请负面清单内人工智能产品研发、提供许可,应提交以下材料:

(一)申报书;

(二)法人资格、场所、资金等证明;

(三)主要负责人为中国公民的证明;

(四)质量保障、安全保障、人类监督、合规管理专职人员的资质情况;

(五)人工智能质量管理体系、网络数据安全制度、科技伦理审查制度、风险管理制度及执行情况;

(六)人工智能安全评估报告;

(七)法律法规规定的其他材料。

第二十七条(负面清单许可的审批) 国家人工智能主管机关受理负面清单内人工智能研发、提供许可申请后,在10个工作日内进行初步审查。

经初步审查,发现人工智能的研发者和提供者提交的申请材料不符合要求的,国家人工智能主管机关可以要求其补充或者更正。人工智能研发者、提供者无正当理由不补充或者更正的,该申请即被视为撤回。

初步审查材料齐全的,国家人工智能主管机关应当自受理申请之日起45日内审查完毕,作出许可或者不予许可的决定。予以许可的,向申请人颁发人工智能研发、提供许可证;不予许可的,应当书面通知申请人并说明理由。

45日内不能作出决定的,经国家人工智能主管机关负责人批准,可以延长十日,并应当将延长期限的理由告知申请人。

第二十八条(负面清单许可的撤销) 人工智能研发者、提供者在研发、提供活动中违反本法规定,发生重大安全事件、多次发生安全事件、多次受到行政处罚的,国家人工智能主管机关可以中止许可并责令限期改正;期限届满未改正,或中止许可后再次发生安全事件或受到行政处罚的,国家人工智能主管机关可以撤销许可。

第二十九条(负面清单许可的再次申请) 负面清单内人工智能研发、提供许可证应当载明使用许可的期限和范围。

超出许可范围,或技术改进、使用场景变更、用户群体调整等导致人工智能的风险发生变化的,负面清单内人工智能研发者、提供者应当再次申请研发、提供许可。

使用许可期限届满前六个月,负面清单内人工智能研发者、提供者可以申请更新研发、提供许可。

负面清单内人工智能研发者、提供者停止许可内人工智能研发、提供的,应当在停止之日起三个月内,向国家人工智能主管机关申请注销研发、提供许可。

第三十条(许可证公开) 负面清单内人工智能研发者、提供者应当在所提供的人工智能产品、服务的显著位置,注明许可证编号。

第三十一条(投诉、举报、释疑机制) 个人和组织发现违法从事负面清单内人工智能研发、提供活动的,有权向国家人工智能主管机关投诉、举报,国家人工智能主管机关应当及时核实、处理。

个人和组织对负面清单内人工智能研发、提供活动有疑义的,有权请求国家人工智能主管机关予以说明,国家人工智能主管机关应当及时答复、处理。

第四章  人工智能研发者、提供者义务

第一节  一般规定

第三十二条(安全性义务) 人工智能研发者、提供者应当在将人工智能投入使用或投放市场前进行安全测试,防范安全风险,保障全生命周期的安全、稳健运行。

人工智能研发者和提供者应当及时发布安全最佳实践,引导使用者安全、正确地使用人工智能。

人工智能研发者、提供者按照本法规定的记录、技术文件等要求,保证可追溯性,在发生事故时可以及时并准确地追溯、定位问题,保障人工智能的安全性。

鼓励相关组织和个人向人工智能研发者、提供者通报其产品、服务存在的安全漏洞。

人工智能研发者、提供者应当按照相关规定履行安全漏洞管理义务,确保其安全漏洞得到及时修补和合理发布,并指导支持使用者采取防范措施。

任何组织、个人不得从事非法避开、侵入、干扰、破坏等活动,影响他人人工智能正常运行。

第三十三条(补救和通知义务) 人工智能研发者、提供者应当加强风险监测,发现安全缺陷、漏洞等风险时,应当立即采取补救措施。

人工智能研发者发现所研发的人工智能发生安全事件时,应当立即采取处置措施,并通知人工智能提供者,人工智能提供者按照本条第三款规定履行通知义务。人工智能提供者应当立即采取处置措施,按照国家有关规定及时告知使用者并向主管机关报告以下事项:

(一)安全事件的发生过程、影响范围;

(二)人工智能提供者已采取的补救措施和使用者可以采取的减轻危害的措施;

(三)人工智能提供者的联系方式。

人工智能提供者采取措施可以有效避免对使用者造成实质损害的,可以不通知使用者;国家人工智能主管机关认为可能造成危害的,有权要求其通知受影响的使用者。

人工智能研发者在发现安全事件或收到提供者通知发生安全事件后应当立即进行评估。如果评估发现研发阶段存在问题风险的,应当立即通知其他人工智能提供者,在问题风险解决前,暂停或下架人工智能产品、服务。其他人工智能提供者收到通知的,应当立即采取处置措施,管控产品、服务风险。

第三十四条(公开透明性义务) 人工智能提供者提供与自然人互动的人工智能服务,应当在使用者使用人工智能前,以简洁、清晰、易于理解的方式,告知与人工智能产品、服务进行交互的自然人,其正在与人工智能服务进行交互。但是,自然人从使用的场景中可以判断的除外。

提供深度合成服务的人工智能提供者还应当根据国家有关规定,对合成内容进行合理标注,向公众提示深度合成情况。

人工智能提供者应当在使用者使用人工智能前,以适当的方式告知使用者以下信息:

(一)产品、服务的基本原理、目的意图和主要运行机制;

(二)产品、服务的许可或备案公示信息;

(三)使用者享有的权利和救济渠道;

(四)法律、行政法规规定的其他信息。

人工智能提供者应当综合考虑产品、服务的场景、性质、受众和行业技术发展水平等因素,充分保障未成年人、老年人、残障人士等特殊群体可以理解上述信息。

人工智能研发者应当配合提供者履行上述义务。

任何组织、个人不得采取技术措施删除、篡改、隐匿人工智能标注。

第三十五条(可解释性义务) 人工智能产品、服务对个人权益有重大影响的,人工智能使用者有权要求提供者对产品、服务决策的过程、方式等作出解释,有权对不合理的解释进行投诉。提供者应当综合考虑风险、场景和行业技术发展水平等因素,对使用者的要求及时作出反馈。研发者应当配合提供者履行本条义务。

第三十六条(公平性义务) 人工智能研发者应当在训练数据处理和标注、算法模型设计研发和验证测试过程中,采取必要措施,有效防范有害的偏见和歧视。

人工智能提供者应当在提供产品、服务过程中,加强对输入数据、输出数据的管理,有效防范有害的偏见和歧视。

第三十七条(风险管理) 人工智能提供者综合考虑产品、服务的场景、性质、受众和行业技术发展水平等因素,建立健全和实施全生命周期风险管理制度。在产品、服务投入使用前以及使用过程中,人工智能提供者应当对人工智能的风险进行识别、评估,并采取合理必要措施防控风险。人工智能提供者应当保留风险识别、评估和管理的记录,保存期限不少于两年。

人工智能研发者应当对设计、数据收集训练、模型选择、测试验证等研发过程,建立并运行风险管理制度,并对人工智能的风险进行识别并采取合理必要的措施降低风险。人工智能研发者应当在保障商业秘密的前提下,配合提供风险评估和管理记录,支持人工智能提供者完成人工智能服务的风险管理义务。人工智能提供者应当保留风险评估和管理的记录,保存期限不少于三年。

第三十八条(安全评估) 人工智能研发者、提供者应当按照国家有关规定开展安全评估。

第三十九条(科技伦理审查) 人工智能研发者、提供者应当按照国家有关规定开展科技伦理审查。

第四十条(授权代表) 本法第二条第二款规定的中华人民共和国境外的人工智能研发者、提供者,应当在中华人民共和国境内设立专门机构或者指定代表,负责处理人工智能相关事务,并将有关机构的名称或者代表的姓名、联系方式等报送国家人工智能主管机关。

第二节  人工智能研发者义务

第四十一条(负面清单内人工智能研发者增强义务) 负面清单内人工智能研发者应当履行以下义务:

(一)制定并保存符合本法要求的技术文件,并配合提供者履行相关义务;

(二)在研发过程,制定并运行符合本法要求的质量管理体系,并配合提供者履行相关义务;

(三)在研发过程,进行安全评估,配合提供者履行相关义务;

(四)法律、行政法规规定的其他义务。

第四十二条(基础模型研发者特殊义务) 基础模型研发者应遵守以下规定:

(一)负面清单内的研发活动,依法取得国家人工智能主管机关的行政许可;负面清单外的研发活动,经自行开展或由第三方组织的风险评估后,没有风险或风险可控。

(二)按照国家规定建立健全安全风险管理制度,及时有效预防、监测、处置对国家安全、公共利益或者个人、组织合法权益、经济秩序造成的风险;

(三)按照国家规定建立健全基础模型的模型管理和数据管理制度;

(四)遵循公开、公平、公正的原则,制定基础模型的使用规则,明确使用基础模型的研发者、提供者应当履行的义务,不得滥用市场支配地位;

(五)为其他研发者、提供者履行本法规定的相关义务提供必要协助;

(六)对严重违反本法规定的研发者、提供者,应当采取停止提供服务等必要措施;

(七)成立主要由外部成员组成的独立机构对基础模型的研发情况进行监督;

(八)每年发布社会责任报告,接受社会监督。

第三节  人工智能提供者义务

第四十三条(备案义务) 不在负面清单内的人工智能提供者,应当在提供产品、服务之日起十个工作日内,向国家人工智能主管机关备案以下信息:

(一)人工智能提供者的姓名或名称、联系方式;

(二)人工智能产品、服务的商标或名称、提供形式、应用领域、算法类型、安全自评估报告;

(三)备案拟公示内容;

(四)法律、行政法规规定的其他信息。

备案信息发生变更的,应当在变更之日起十个工作日内办理变更手续。

完成备案的人工智能提供者应当在其对外提供服务的网站、应用程序等的显著位置注明其备案编号。

第四十四条 (备案流程) 国家人工智能主管机关收到备案材料后,应当确认材料是否完整。主管机关认为材料齐全的,应当在五个工作日内予以备案,发放备案编号并进行公示;发现材料不齐全的,应当在三个工作日内通知备案人补充材料。

第四十五条 (备案的豁免) 同时符合以下条件的人工智能提供者,可以不履行备案义务:

(一)提供的产品或服务不影响公民人身安全;

(二)提供的产品或服务不具有舆论属性或者社会动员能力;

(三)提供的产品或服务不具有处理个人敏感信息的功能;

(四)不属于法律、行政法规规定的应当备案的情形;

法律、行政法规或者国家人工智能主管机关可以规定免于履行备案义务的其他情形。

第四十六条(审计义务) 人工智能提供者应当至少每两年进行一次审计,核验输入数据、算法模型、输出数据等的合规性,对人工智能产品、服务活动是否遵守法律、行政法规的情况进行审查和评价。

第四十七条(内部管理制度) 人工智能提供者应当采取下列措施确保人工智能符合法律、行政法规的规定:

(一)制定内部数据安全、风险控制、质量管理等制度和相应的操作规程;

(二)保存提供人工智能产品、服务自动生成的日志;

(三)定期对从业人员进行教育和培训;

(四)采取保障鲁棒性、抗攻击性等合规技术措施;

(五)法律、行政法规规定的其他措施。

第四十八条(终止机制) 人工智能提供者终止提供产品、服务的,应当采取以下妥善安排措施:

(一)提前三十个工作日公示终止方案、使用者权利等;

(二)自终止之日起三十个工作日内,删除使用者的个人信息;根据国家有关规定,对人工智能产品、服务提供过程中产生的数据、训练数据、算法模型作出必要处理;

(三)法律、行政法规规定的其他措施。

第四十九条(许可注销) 负面清单内人工智能提供者应当提前三十个工作日通知主管机关,说明有关情况,并在终止服务后将许可证交回原许可机关。

不在负面清单内人工智能提供者应当在终止服务之日起二十个工作日内办理注销备案手续。

第五十条(负面清单人工智能提供者增强义务) 负面清单内人工智能提供者,还应当履行如下义务:

(一)按照本法要求进行安全评估,确保安全、稳健;

(二)制定并保存符合本法要求的技术文件,以证明所提供的人工智能符合本法对负面清单内人工智能的要求;

(三)建立并运行符合本法要求的全生命周期质量管理体系;

(四)在人工智能产品、服务自主运行过程中,确保人类可以随时采取介入、接管等措施;

(五)法律、行政法规规定的其他义务。

第五章  人工智能综合治理机制

第五十一条(国家人工智能主管机关职责) 国家人工智能主管机关依法履行以下人工智能监管职责:

(一)开展人工智能伦理、安全教育与宣传,指导、监督人工智能开发、提供和使用;

(二)制定人工智能监管规则、指引,组织制定人工智能伦理、安全、管理等方面标准;

(三)组织人工智能技术监测、评估、审计工作,指导专业机构依法开展活动;

(四)建立人工智能风险监测预警机制,组织人工智能领域风险信息的获取、分析、研判、预警工作;

(五)建立人工智能安全事件应急处置机制;

(六)接受、处理与人工智能技术及产品开发、提供和使用有关的投诉、举报;

(七)调查、处理违法人工智能开发、提供和使用活动;

(八)法律、行政法规规定的其他职责。

第五十二条(安全审查制度) 从事人工智能研发、提供活动,影响或可能影响国家安全的,应当按照国家有关规定通过安全审查。

依法作出的安全审查决定为最终决定。

第五十三条(前置程序期限) 人工智能研发者、提供者、使用者依照本法及国家有关规定,就人工智能新技术新应用申报安全审查、备案或申请行政许可的,国家人工智能主管机关应当明确工作期限,并在期限内及时处理、作出答复。

第五十四条(约谈) 国家人工智能主管机关和地方各级人工智能主管机关在履行职责中,发现人工智能研发、提供活动存在较大风险或者发生安全事件的,可以按照规定的权限和程序对该人工智能研发者、提供者进行约谈,要求其采取下列措施:

(一)按照要求进行整改,消除隐患;

(二)对其研发、提供活动作出适当的解释,说明人工智能服务的开发、管理和运行的责任,为保障公平性、安全性和稳定性采取的措施,以及对利益相关方的影响等;

(三)委托专业机构对其人工智能研发、提供活动进行合规审计。

人工智能研发者、提供者承诺限期整改合规,且能够有效避免人工智能研发、提供或使用活动造成危害的,可以不暂停相关活动。国家人工智能主管机关认为可能造成危害的,可以责令暂停相关活动。

第五十五条(创新监管) 国家人工智能主管机关就人工智能产业研发、提供和使用活动中的轻微违法行为等情形,依法决定不予行政处罚的,应当通过批评教育、指导约谈、组织会商研讨等措施促进当事人依法合规开展人工智能产业研发、提供和使用活动。

第五十六条(监管沙盒) 国家人工智能主管机关建立人工智能监管试验机制,就以下事项出台具体规定、指引:

(一)参与监管试验的条件;

(二)监管试验的运行机制;

(三)监管试验的风险监测与防控措施;

(四)参与监管试验的人工智能研发者、提供者的义务、责任减免机制。

第五十七条(执法机制) 国家人工智能主管机关应当加强专门队伍和专业技术建设,提升人工智能监管执法工作效率。

国家人工智能主管机关应当依法确定本系统行政执法程序,建立行政执法监督制度。

第五十八条(技术治理) 国家支持企业、科研机构等研究开发有关人工智能监测预警、安全评估、应急处置等技术,鼓励在人工智能领域应用监管科技、合规科技。

第五十九条(境外反制) 境外的组织、个人从事侵害中华人民共和国公民的合法权益,或者危害中华人民共和国国家安全、公共利益的人工智能研发、提供或使用活动的,国家人工智能主管机关可以依法采取限制或禁止其在中华人民共和国境内研发、提供或使用人工智能等措施,并予以公告。

第六十条(对等措施) 任何国家或者地区在与人工智能有关的研发、投资、贸易等方面对中华人民共和国采取歧视性的禁止、限制或者其他类似措施的,中华人民共和国可以根据实际情况对该国家或者地区对等采取措施。

第六章  法律责任

第六十一条(一般违法责任)

违反本法规定开展研发、提供活动,由国家人工智能主管机关责令改正,给予警告,没收违法所得,责令暂停或终止相关业务;拒不改正的,处一百万元以下罚款;对直接负责的主管人员和其他直接责任人员处一万以上、十万以下罚款。

有前款规定的违法行为,情节严重的,由国家人工智能主管机关责令改正,没收违法所得,并处一千万元以下或者上一年度营业额百分之四以下罚款,并可以责令暂停相关业务或者停业整顿、通报有关主管机关吊销相关业务许可或者吊销营业执照;对直接负责的主管人员和其他直接责任人员处十万元以上一百万元以下罚款。

第六十二条(行政罚款的裁量方式) 本法规定的罚款可以作为责令整改等措施的补充或替代,国家人工智能主管部门决定行政罚款金额时,遵循合法原则、过罚相当原则、公平公正原则、处罚和教育相结合原则、综合裁量原则,应当充分考虑以下因素:

(一)违法行为及后果的性质、严重性和持续时间、受影响的范围和损害程度;

(二)违法行为是故意还是过失;

(三)对违法行为是否采取了补救措施并减轻可造成的损失;

(四)是否依照本法规定通知国家人工智能主管部门;

(五)是否依照本法规定采取了合理有效的组织和技术措施管理人工智能的风险;

(六)是否遵守了人工智能和安全等相关标准或获得了相关认证;

(七)此前的违法行为;

(八)其他法律法规规定的加重或减轻处罚的因素。

第六十三条(备案违规责任) 人工智能提供者应备案而未履行备案手续的,由国家人工智能主管部门给予警告;情节严重的,并处一万元以上十万元以下罚款。

人工智能提供者通过隐瞒有关情况、提供虚假材料等不正当手段取得备案的,由国家人工智能主管部门予以撤销备案,给予警告、通报批评;情节严重的,并处十万元以上一百万元以下罚款。

人工智能提供者终止服务未办理注销备案手续,或者发生严重违法情形受到责令关闭网站、吊销相关业务许可证或者吊销营业执照等行政处罚的,由国家人工智能主管部门予以注销备案。

第六十四条(信用惩戒) 有本法规定的违法行为的,依照有关法律、行政法规的规定记入信用档案,并予以公示。

第六十五条(民事侵权责任) 研发、提供的人工智能侵害个人权益造成损害,应当承担损害赔偿等侵权责任,但研发者和提供者能证明自己没有过错的除外。

前款规定的损害赔偿责任按照使用者或受影响的个人、组织因此受到的损失或者研发者、提供者因此获得的利益确定;使用者或受影响的个人、组织因此受到的损失和提供者因此获得的利益难以确定的,根据实际情况确定赔偿数额。

第六十六条(行政救济)公民、法人或者其他组织对人工智能主管机关作出的行政行为不服的,可以依法申请行政复议或者向人民法院提起行政诉讼。

第六十七条(公益诉讼) 违反本法规定提供人工智能,侵害众多个人的权益的,人民检察院、法律规定的消费者组织和由国家人工智能主管部门确定的组织可以依法向人民法院提起诉讼。

第六十八条(治安管理处罚和刑事责任的衔接) 违反本法规定,构成违反治安管理行为的,依法给予治安处罚;构成犯罪的,依法追究刑事责任。

第六十九条(合规不起诉) 人工智能研发者、提供者违反本法规定,承担行政责任的,行为主体合规建设经评估符合有效性标准的,则列入轻微违法行为依法免予处罚。

违反本法规定,构成犯罪的,纳入企业合规改革试点工作,涉案企业合规建设经评估符合有效性标准的,人民检察院可以参考评估结论依法作出不批准逮捕、变更强制措施、不起诉的决定,提出从宽处罚的量刑建议,或者向有关主管机关提出从宽处罚、处分的检察意见。

第七十条(国家机关不履职的责任) 国家机关开展人工智能研发、提供、使用活动,应当模范遵守本法规定义务;不履行本法规定的义务的,由其上级机关或者国家人工智能主管部门责令改正;对直接负责的主管人员和其他直接责任人员依法给予处分。

国家机关工作人员玩忽职守、滥用职权、徇私舞弊,尚不构成犯罪的,依法给予处分。

依法不构成行政执法过错的情形,不追究有关工作人员的行政执法责任。

第七章  附则

第七十一条(定义) 本法下列用语的含义:

(一) 人工智能,是指以一定自主程度运行,服务于特定或通用的目标,能够通过预测、推荐或决策等方式影响物理或虚拟环境的自动化系统,包括数据、特征、模型、服务提供接口和所嵌入的终端设备等。

(二) 人工智能研发者,是指仅从事算法设计、训练数据标注、特征提取、模型训练和优化、测试部署、免费且开源提供等人工智能研究和开发活动的个人、组织。

(三) 人工智能提供者,是指出于商业目的提供人工智能或者为其提供相关技术支持的个人、组织,或者无论是否出于商业目的,面向公众提供人工智能或者为其提供相关技术支持的个人、组织,但免费且开源提供人工智能的个人、组织除外。

(四) 人工智能使用者,是指依照人工智能的性能和用途对其加以利用的个人、组织。

(五) 基础模型是指在大量数据上进行算力密集的训练,服务于通用的目的,能够为广泛的下游服务提供技术支持的人工智能模型。

第七十二条(施行日期)  本法自 年 月 日起施行。

第七十三条(负面清单公开制度) 国家人工智能主管机关应当不晚于本法实施之日前六个月发布人工智能负面清单,并在定期更新后及时公开。

关于本示范法有任何建议和问题,可以联系:zhouhui@cass.org.cn 

起草组

组长:周辉、李延枫

秘书长:王俊

成员:朱玲凤、朱悦、傅宏宇、何波、苏宇、姚志伟、王伟、孙牧原、金僖艾

助理:王睿、朱凌云、黄继龙、李宇航、苏爱奇

(作者:冯恋阁 编辑:王俊)

冯恋阁

记者

关注人工智能、知识产权、数据合规等互联网科技领域新动向。微信:isfenglg