当AI开始“替人行动”,谁来为它负责?

21世纪经济报道 柳宁馨 杭州报道
2026-11-10 07:00

当AI智能体开始替人行动,法律如何确定授权边界与责任归属?

“前些年还能一眼看出来是AI的、假的,但最近越来越逼真了。AI的陈建斌在走向我,什么时候能够跟我一模一样?我觉得可能用不了很久。”11月7日,2026年中国电影金鸡百花电影节期间,演员陈建斌正式回应了“AI陈建斌泛滥”话题。

陈建斌遇到的“被AI”的情况,正在演艺界乃至日常生活中广泛出现。不仅生成式人工智能带来了法律风险,而且随着当前智能体正加速从“对话交互”向“自主执行”跃升,相关领域也需要清晰可行的法律规则。

当技术跑得比规则快时,如何划定人工智能相关的权责边界?如何明确授权边界、合理分配责任、保障用户权益?11月7日,《人工智能法专家建议稿》(浙大2.0版)发布会暨“AI智能体的立法选择与规则设计”论坛在杭州举行。

智能体的发展需要技术创新,与此同时,相关法律规则正在快速补上。

6-人形机器人-摄图网_402660521.jpg

图片来源:摄图网

智能体跨生态协作需要共识

智能体跨平台协作不仅是技术问题,也是利益协调与信任问题。

“如果要让智能体真正跨越不同应用和平台,为用户完成复杂任务,仅实现技术上的互联互通还不够。”浙江大学光华法学院百人计划研究员李汶龙表示,当前智能体跨生态协作的主要挑战在于不同平台之间的商业利益、接入规则和合作信任尚未形成有效协调。

李汶龙发布了《智能体授权互操作基础规则倡议》,提出10项基础原则。第一个原则便是“自主授权”。智能体依据用户真实、明确且有效的授权,或者法律明确规定的其他依据,在合法权限范围内访问第三方服务。智能体的代理权限应与用户依法享有的权利及其可授权范围相适应,并受个人信息保护、网络安全、交易安全及其他相关法律规定的约束。

另一个重要原则是“适度互操作”,即倡导在用户合理使用、服务开放与安全保障之间寻求适度平衡,既为智能体完成授权任务提供必要的访问与操作能力,也充分尊重第三方服务的安全、资源及合理经营需求。

11月6日,工信部发布《关于加强智能体终端设备进网管理的通知》(以下简称《通知》),从终端适配、进网检测、现网升级、应用分发四方面完善监管规则,明确智能体权限调用、数据安全及用户权益保护要求。

此前的11月4日,2026年世界互联网大会乌镇峰会上,中国信息通信研究院、华为、阿里、腾讯、小米等20家单位联合发布了《智能体发展自律公约》,提出八条自律措施,包括健全智能体信任体系,建设智能体互联基础设施,提升智能体互操作水平等。

李汶龙借助博弈论中的“囚徒困境”和“猎鹿博弈”分析这一现象。他指出,不同平台可能因竞争利益而倾向于封闭生态,即使开放合作能够创造更大的整体收益,也未必愿意率先行动。而在具有合作意愿的情况下,缺乏对其他参与者的信任,同样可能使各方选择相对保守的策略。推动智能体互操作,需要协调各方利益,还要建立稳定、可信的合作预期。

“智能体就像是数字世界中的一个‘数字动物’。”同济大学法学院副院长徐钢表示,传统上以互联网平台作为流量入口的情况正在改变,智能体正在成为新的流量入口。

“智能体是一个行动者,它能够围绕目标组织信息获取、推理和工具调用,并且连续执行相关的任务。”清华大学公共管理学院政府法治研究中心主任陈天昊认为。这带来的相应变化是,智能体会提升普通使用者的生产传播和适应能力,进而使得风险更加分散。因此,监管重心从纯粹的信息内容转向基于信息的行动、工具调用。

智能体调用权限如何划定

在用户的授权下,智能体写一份PPT、下单一杯奶茶,它进行的大量操作是否涉及法律行为?用户有一块运动手表,希望手表监测的数据可以无障碍导入某医疗健康智能体,智能体可以直接调用数据吗,还是需要运动手表App的授权?

当智能体走入数字世界,大量的现实问题出现。如何建立信任的基础设施?关键是做好身份管理、划定智能体的行为边界,并追溯到相应的责任方。

“智能体的信任基础设施要先建立起来。”徐钢认为,一个重要的工作是智能体的身份管理。其好处是能够追溯智能体的权限和背后的主体,为追责提供可操作的抓手。

监管层面正在回应法学界的这一讨论。《通知》明确,终端上使用的智能体应参考智能体互联系列国家标准配备唯一身份码。

智能体跨平台的访问是否需要第三方大平台的授权,这是当前争论的另一个重点。

互联网时代,我国司法实践中运用了“双重授权”原则,应用方访问大平台的时候,既需要用户的授权,也需要大平台的授权。人工智能时代是不是仍然适用这一原则?

一个最直观的体现是,AI手机要真正让用户放心使用,必须有一套极其严密的法律和授权规则。

一类是GUI(图形用户界面)操作路线,备受争议的是其权限太高。今年9月,搭载豆包手机助手的努比亚NaviX Ultra正式发布并开售,其采用的是GUI操作路线,简单来说,大模型在理解指令后,通过视觉识别屏幕上各类App的页面和按钮,最后模拟人类用户点击操作。

同样在9月,豆包手机助手推出一份《屏幕自动化操作声明协议》(SAEP)并设置了30天公示期。公示期内,未明确同意的App默认不开放自动化操作。公示期结束后,对于既未同意也未拒绝的App,豆包可以根据应用风险等级逐步开放操作权限。

10月14日,随着公示期结束,当天公布的豆包手机助手SAEP拒绝操作名单包含155款应用,包括微信、淘宝、支付宝、美团、小红书等。

另一类智能体调用则采用接口路线,走API模式。10月,阶跃星辰发布了搭载Step AOS 1.0和智能体Amoo的STEPX Neo先行版,采用接口调用的路线,把约束转移到API和授权层。

在应用分发领域,工信部划定了清晰监管红线。《通知》提出,应用分发平台应推动应用程序开发者,通过电子签名主动声明是否同意智能体调用,未经声明同意的,智能体不得强制调用或调取应用。

也就是说,如果App厂商没明确拒绝,但也没声明自己同意,那智能体就不能调用App。这意味着对此前豆包在SAEP中探索的默认授权机制,监管层面提出了更明确的约束。

(作者:柳宁馨 编辑:陈洁,强燕)

柳宁馨
向TA提问

记者

经济政声工作室记者,常驻浙江,关注长三角经济动态,聚焦外贸、区域产业及教育。欢迎交流分享。