“AI幻觉”侵权、“网络开盒”“大数据杀熟”如何处理？最高法明确！

来源：金融时报

当前，全球人工智能技术创新进入前所未有的活跃期，万物智联、人机协同的智能技术，叠加释放巨大能量，既蕴含历史性机遇，也面临治理挑战。

司法如何充分发挥职能作用，促推人工智能健康发展，服务国家和社会治理，保障经济社会高质量发展，是人民法院面临的时代课题、必须回答的时代之问。

9月7日，最高人民法院举行《最高人民法院关于依法审理涉人工智能纠纷案件的意见》新闻发布会。发布会上，最高人民法院副院长陶凯元发布了《最高人民法院关于依法审理涉人工智能纠纷案件的意见》（以下简称《意见》）。

《意见》是首部由国家最高审判机构发布的涉人工智能司法裁判规则文件，是为促进全球人工智能向上向善发展贡献的“中国司法智慧”。

依法规制利用人工智能的侵权行为等

《意见》分为5个部分，共24条。《意见》明确提出坚持以人为本、支持创新发展、筑牢安全防线等三个基本原则，确保涉人工智能纠纷案件司法裁判始终保持正确政治方向，有效贯彻坚持发展和安全并重、促进创新和依法治理相结合的理念要求。

此外，明确了涉人工智能侵权责任的归责原则，其后针对利用人工智能侵害人格权、个人信息权益、消费者权益等不同场景，明确了侵权责任的认定和承担。此外，对生成式人工智能服务提供者的侵权责任、人工智能产品责任、涉自动驾驶汽车和辅助驾驶功能汽车交通事故的赔偿责任等作出了明确。

例如，依法规制“AI换脸拟声”“AI复活逝者”等利用生成式人工智能侵害人格权益的行为。利用生成式人工智能处理特定自然人或者死者的姓名、肖像等，不得违反法律、法规，不得违背公序良俗。除法律另有规定的外，未经自然人同意，利用人工智能处理自然人的姓名、肖像等，生成可识别该自然人的虚拟数字形象并使用、公开，该自然人主张行为人侵害其姓名权、肖像权等人格权益的，人民法院依法予以支持。除法律另有规定的外，未经自然人同意，使用自然人的声音作为训练语料，模仿该自然人的音色、语调和发音风格等生成能够识别该自然人的合成人声，该自然人主张行为人侵害其声音权益的，人民法院依法予以支持。

对于利用人工智能实施“网络开盒”“人肉搜索”等侵害自然人隐私权的行为、“大数据杀熟”“仿冒名人带货”等侵害消费者合法权益的行为，《意见》也明确了相应责任。

最高法相关部门负责人表示，当前AI换脸、AI仿声、“网络开盒”等违法行为时有发生，社会各界高度关切。为此，《意见》对利用人工智能侵害肖像权、名誉权、隐私权、声音权益等行为的责任追究作出了明确规范，以充分发挥司法裁判规范、引领功能，促进人工智能向上向善。

此外，对涉自动驾驶汽车、具备辅助驾驶功能汽车交通事故的赔偿责任也予以明确，强调自动驾驶汽车、具备辅助驾驶功能汽车上道路行驶，发生交通事故造成损害的，依据民法典和道路交通安全法有关规定承担赔偿责任。因车辆存在产品缺陷导致交通事故造成损害，当事人请求生产者或者销售者依照民法典第七编第四章的规定承担赔偿责任的，人民法院应予支持。具备辅助驾驶功能的汽车因车辆缺陷与驾驶人的过错行为结合导致同一损害，当事人依据民法典第一千一百七十二条等规定同时请求驾驶人和车辆生产者或者销售者承担赔偿责任的，人民法院依法予以支持。

依法审理涉人工智能知识产权纠纷案件

当前人工智能生成内容引发的新型知识产权纠纷频发，引发广泛关注。

对此，《意见》第三部分对涉人工智能知识产权纠纷案件的审理作出专门规定，涉及侵权责任认定、开源软件法律责任、专利授权确权、技术合同履行以及数据使用规范等五个方面，积极回应人工智能技术快速发展给知识产权司法保护带来的新课题和新挑战，在鼓励人工智能技术创新与维护权利人合法权益之间寻求平衡，为人工智能高质量发展和高水平安全提供明确的司法裁判规则。

具体情况有三个方面：

一是明确了人工智能生成内容侵害著作权案件中认定相关主体责任的考虑因素。人工智能生成内容被诉侵害他人著作权的，不能以被诉侵权内容系人工智能生成为由免除相关主体责任，而应当坚持责任承担与控制能力、注意义务相匹配。关于控制能力、注意义务的确定，一般要综合考虑涉案人工智能的技术和商业模式特点、当事人在内容生成过程中发挥的作用、相关训练数据系由何方“投喂”、采取的必要措施、获利情况等因素。在此基础上，依法认定当事人是否具有侵权的主观过错及过错程度，合理划分侵权责任。

二是明确了人工智能生成内容侵害著作权纠纷的举证规则。人工智能开发者提出不侵权抗辩的，应当就模型的训练数据来源、训练过程、运行模式等事实举证，必要时还应提供有关科学理论依据予以佐证。人工智能使用者知道或者应当知道在先作品，利用人工智能生成与在先作品实质相似的作品，且没有合理使用等免责事由的，应当认定构成侵权。

三是依法规制利用人工智能生成内容实施的不正当竞争行为。近两年，利用人工智能实施不正当竞争的纠纷日渐增多。经营者利用人工智能生成的图文、视频、虚拟人物形象等，虚构流量和好评，甚至通过利用AI换脸虚构科普视频进行虚假宣传，这些行为不仅损害了他人合法权益，还严重误导消费者，扰乱市场竞争秩序，应当依法认定为构成仿冒侵权、虚假宣传等。

此外，由于人工智能技术发展一日千里，新情况新问题不断涌现，对于一些有争议的领域，《意见》做了适当“留白”。最高法表示，下一步，将继续密切关注人工智能等新兴领域的知识产权保护问题，在实践中不断认识和把握规律，不断总结审判经验，完善裁判规则，努力推动形成共识。