许可：AI手机面临多重法律挑战 隐私保护首当其冲

21世纪经济报道记者 王俊 实习生 崔嘉豪 北京报道 

2023年起，从苹果到三星的手机厂商争相推出AI手机。DeepSeek大模型的火爆更是掀起了新一轮合作热潮，国内多家手机厂商陆续宣布接入，为疲软的手机行业注入一剂强心针。

但伴随着AI手机的发展，隐私风险逐渐显露。

2月15日，21世纪经济报道、南财合规科技研究院主办学术交流会“AI手机隐私危机：新秩序中的安全挑战与抉择”，探讨AI手机时代面临的隐私挑战。这是业内首个端侧AI治理的研讨会，基于21世纪经济报道、南财合规科技研究院此前对端侧AI长期的关注与研究。

端侧AI是否处于法律裸奔地带？还是一个新瓶装旧酒的问题？个人隐私如何保护？对外经贸大学数字经济与法律创新研究中心主任许可在学术交流会中从法律角度进行了分析。

隐私保护成AI手机面临的首个问题

面对AI手机全新的课题，许可认为，AI手机治理并非无人地带。

“在过去十年左右的时间内，我国整个互联网立法已经非常全面，基本上覆盖到了每个领域，无论是《个人信息保护法》《数据安全法》《网络安全法》，还是各种条例，以及更加细致的监管规则，可以说是纤悉无遗。”许可指出。

基于完整全面的网络领域立法，许可认为，AI手机治理并非真空状态，而是新旧问题的新组合，其背后的AI Agent、边缘计算等，亦有相应的规制。

在此背景下，许可认为，AI手机面临的第一个问题便是个人信息与隐私保护问题。 

端侧大模型与云侧大模型的配合将是未来一段时间内的常态。许可指出，单纯的本地存储信息的技术不会落入到《个人信息保护法》所规制的范围之内，但当下完全本地部署的AI无法完成“智能”目标，而一旦端云结合，那就自然会落入到《个人信息保护法》里面讲的个人信息的收集和处理。

类似地，端侧AI调用的App信息时，难以避免地会收集到与本机机主互动的其他用户的信息，而用户可能并未知情和同意，这也侵犯了用户的隐私。

此外，由于手机厂商自身无数据，需要依赖第三方App获取用户数据，如买咖啡时需获取美团等App上的浏览记录、偏好及历史订单等信息。这种跨多个主体的信息汇聚，可能引发违反《个人信息保护法》的问题，包括信息汇聚如何产生、是否经单独同意与告知，以及汇聚后信息的后续使用等。

那么，出于自律和合规的要求，为了尽量避免违反规定，手机厂商自身会出台隐私政策，在形式上告知用户并征得同意。

但在实际测评中，南财合规科技研究院、21世纪经济报道发现AI手机会对几乎所有AI功能进行拆分，各个功能都拥有自己单独的隐私政策，极度纷繁复杂，用户难以真正理解，更不必提完全知情。

对此，许可指出，本应赋权用户的知情同意，在实践中成为企业卸责的工具，用户在AI手机隐私保护中处于相对弱势的地位。因此，不能将个人信息保护的所有重心都压在用户这一端，相关监管部门在出台政策时应考虑到个体和企业在能力和地位上的不对等，不仅为个人权利提供司法保障，也为国家监管提供行政依据、为权力提供行使依据。

同时，许可也强调，无论怎样，个人还是隐私保护的第一责任人。他用“远水解不了近渴”来形容国家的保障措施，AI手机时代，个人的权益的保护，首先还是有赖于个人算法素养和AI素养的提升。用户的自我学习和自我驱动对于自我保护很有意义，而且实际上用户也有自己应尽的主体义务。

令人更具希望的是，在广大的消费者群体中，仍然存在极少数“强有力”的用户，有时他们强势的介入甚至能够改变整个生态。许可指出，虽然不需要每个消费者都达到这样的水准，但我们要给那些真正愿意去学习、且具有专业能力的消费者充足的空间，让其积极主动地在AI手机时代的隐私保护议题中有所作为，让用户本身成为共治的关键一环。

新的空白亟待填补

尽管AI手机隐私保护在法律上并非真空，新的挑战也出现于法律的缝隙当中。

许可首先提到了AI agent代理带来的问题。当AI agent代替人们操作甚至决策，它扮演了怎样的角色？AI agent可以被看作代理人吗，到底要不要承担所谓的忠实勤勉的义务，如果出现了错误该怎么处理，谁来承担责任？

如今，在手机上进行缔约或付款时，即使是AI手机也需要用户亲自输入密码和点击确认，因为厂商认为这份合同的达成必须由个人来做出。但是在未来个人是否可以把这个权利委托给AI agent？如果出现错误，对第三方来说这个错误的履约会怎么样呢，会不会带来第三方的追责问题呢？许可认为，这些问题将来会在代理法层面展开。

视角换到另一边，当AI agent作为B端的代表出现，为用户进行推荐，许可指出，AI手机算法推荐存在是基于用户偏好还是营销目的的疑问。当推荐出现错误时，责任分担复杂，用户该归咎于厂商还是第三方大模型？例如，苹果手机与第三方大模型合作，用户认为是与苹果签订协议，而从专业角度似乎是第三方大模型算法责任，涉及多主体责任分担难题。

许可还提到，AI手机将给未来行业生态带来极大改变。从前，人们会自行决定调用美团或者饿了么来点外卖，App需要自行竞争来争夺用户。但AI手机场景下，会使市场由众多App竞争转变为由端侧大模型主导，端侧大模型在底层负责调度，进行资源调配。

他提醒到，如果未来端侧大模型领域内出现几家独大，甚至一家独大的格局，可能会给市场竞争带来新的挑战，以至于触及现有《反垄断法》和《反不正当竞争法》未曾涉及的问题，已有法律是否能有效应对市场有效竞争问题存在疑问。

最后一个空白之处则更加涉及根本。许可认为，AI agent可能反客为主，改变人类地位，颠覆“以人为本”的理念，打破人类与AI的传统关系。在人类能力不如AI时，如何确保人类的主导地位？这在伦理和国家制度层面都缺乏完善回应。