2024年竞争秩序场：算法治理仍在路上，端侧AI带来隐私新课题

竞争秩序，永远是常说常新的话题。尤其是在新旧产业交替的时刻。

在过去一年，我们看到，互联网平台旧脚本的问题尚未解决，在存量竞争中矛盾越发突出；人工智能带来的新故事里，亦充满了安全与治理的迷惑。

即日起，我们将推出《2024年竞争秩序场报告》，聚焦电商、社交平台和端侧AI三大领域，从过去一年的典型案例入手，梳理竞争秩序的裂隙与演变。这不是一份解决问题的清单，而是一份抛出问题的地图：哪些秩序出现了裂隙？又将如何塑造未来的市场格局？

一 实测六大社交平台：推荐算法大起底

推荐算法的双重难题

推荐算法的本质是内容分发，旨在提高信息分发的效率。2012年，最典型的推荐算法产品今日头条诞生；2017年，抖音引入智能推荐算法。推荐算法从星星之火到烈火烹油，各大社交平台都开始通过分析用户的历史行为、兴趣偏好和个性特征，精准预测用户的喜好，并构建出信息流式的内容推荐体系。

从工作原理来看，目前的推荐算法系统大多由三个要素组成：用户、项、用户对项的操作行为。

简单理解，“用户”指的是每个用户独特的兴趣特征、身份特征等等；“项”是用户与内容之间的相似性，比如算法会找到与某个用户兴趣最相似的人群，再给他们互相推荐一方感兴趣、另一方还没接触过的内容；“操作行为”则主要包括每个用户的点击、购买、观看、浏览数据。

在这些大数据的基础上，推荐算法能够越来越精准地“猜你喜欢”，也引起越来越多的争议，其争议点可以归纳为客观上的“不安全”和主观上的“不安全感”。

一方面，推荐算法是平台提高用户黏性的主要竞争手段，它越能精准向用户推荐符合其偏好的内容，用户看到的信息就越单一，长此以往可能停留在算法构造的“过滤气泡”中。

另外，推荐算法越来越能“读人心”，而透明度没有及时跟进。面对新技术的艰深造物，公众难免会产生怀疑和不信任感。

需要提到的是，也有不同观点认为平台在实践中有追求算法多样性的内在动力，因为用户能消费更多种类的内容和商品，反而是更利好平台商业变现的做法。国外学者在研究算法成瘾问题时进一步发现，平台留住用户的最好方式其实是“提供两条不感兴趣的内容，再提供三条感兴趣的内容”，这种间歇性的“内容奖励”会让人们产生更多多巴胺，心理原理类似“老虎机”的赌博成瘾过程，因此带来的算法成瘾问题同样值得关注。

测评：“算法透明”长路漫漫

针对信息茧房和上瘾问题，2024年11月，国家网信办下发的《关于开展“清朗·网络平台算法典型问题治理”专项行动的通知》要求相当明确：严禁推送高度同质化内容诱导用户沉迷。不得强制要求用户选择兴趣标签，不得将违法和不良信息记入用户标签并据以推送信息，不得超范围收集用户个人信息用于内容推送。规范设置“不感兴趣”等负反馈功能。

结合专项行动的要求，南财合规科技研究院-21世纪经济报道对微信公众号、微博、抖音、快手、小红书、B站的推荐算法的合理性进行了测评，测评分为算法可解释性、用户自主性、防沉迷措施三个方面。

在算法可解释性上，目前只有微博对推荐内容给出了非常简略的原因解释。在“关注”页面，如果刷到了纯粹由算法推荐的博文，顶部会有一行小字解释：看到该内容是因为您关注的好友“xx关注了”或您关注的好友“xx点赞了”。至于为什么在众多内容中算法选择推荐了这一条，并没有给出更多维度的解释。不过，在抖音推荐页面，如果好友点赞会提示“××推荐”；在朋友页面，则可以看到关注好友发布的视频。

与此同时，微博、抖音、哔哩哔哩都采用了相似的兴趣标签管理设计：长按一条内容，可以看到“减少xx用户”“减少xx频道”“减少xx标签推送”的选择，一定程度上解释了这条内容在算法中的分类，也让用户更便捷地管理算法偏好。但微博和哔哩哔哩也因此没有设置统一的、全方位的偏好管理页面。

这就说到了在自动算法面前，用户能掌握多少自主性的问题。测评发现，小红书、快手、抖音都有统一的标签管理页面，用户能在这些页面里调节每种内容的算法推荐强度，内容标签约一百种。

但必须指出的是，这些标签管理页面的入口都隐藏很深，比如抖音的点开步骤为：Tab栏中的“我”→右上角的“设置”→“更多功能”→“使用管理助手”→“内容管理”，五步操作后才能进入最终页面，而且“使用管理助手”的名字也很难让普通人直观理解含义。相比之下，快手的“内容偏好设置”直接放在了侧边栏。

用户需要能够关闭“个性化推荐”，已经是近三年反复提及的要求。将个性化推荐的开关放在“隐私设置”中，也是较为普遍的做法，但测评仍然注意到两个问题：一、关闭入口隐藏较深，起码需要经过四次操作，并且几乎每一次操作都需要下拉到页面最底部；二、所有平台的个性化内容推荐和个性化广告推荐都需要分开关闭，甚至有些关闭按钮在完全不同的目录中。比如，抖音的“个性化广告”在单独的“了解与管理广告推送”功能里。

最后，在防沉迷问题上，视频平台的措施相对完善——抖音和哔哩哔哩都有单独的时间管理功能，用户可以为自己限制使用时间或者设置提醒。而其他平台只有用户打开青少年模式后，才能使用类似功能。

二 实测多款AI手机：技术发展背后蛰伏风险

市场现状：AI注入新活力

继2023年创下10年来最低纪录后，全球智能手机市场下行趋势出现逆转。据市场调研机构Counterpoint的报告，全球智能手机市场2024年销量同比增长4%，在连续两年下滑后首次迎来复苏。

对于未来，Counterpoint还预测到，2025年全球智能手机市场还将会继续增长，其中收入将增长8%，销量增长4%，前景较好。

直观的数字客观折射出现状：2023年前，以手机为代表的消费电子行业已低迷多年，各路手机厂商在外观、芯片、续航等功能上下功夫，收效微薄。

2022年底ChatGPT的爆火引发了生成式人工智能热潮，大模型成为市场押注的风向。伴随着技术的发展迭代，大模型逐渐走向手机、汽车、智能设备等端侧，AI与端侧的融合被视为新的创新锚点，成了手机厂商刺激增长的抓手。

2023年起，各个手机厂商纷纷推出自己的大模型。手机厂商布局大模型并非噱头，而是切实可以带来手机性能的提升以及商业模式创新。

端侧大模型指在终端设备（如智能手机、平板、PC、智能穿戴设备、自动驾驶及具身智能等）上运行的大型预训练模型。实时性、低延时等是端侧AI最诱人的优势。借助端侧大模型，用户大部分数据处理均在本地完成，只有少量高算力需求的场景会调用云端算力，大幅提高响应速度。

在手机上落地大模型具有天然优势。手机终端直接触达用户，拥有丰富的用户数据，可以与模型交互，提升模型性能，并反哺提升用户体验。

这正是手机厂商新商业故事的起点，荣耀手机原CEO赵明曾表示，AI手机的核心是基于算力的个人定制化操作系统，“不是拥有生成式AI功能的手机就叫AI手机，未来的AI手机是一个可以真正懂你的手机”。

可以看到，从2024年下半年开始，各个手机厂商推出新机型主打的卖点是AI智能体，其类似于大模型的肉身，作为用户与数字世界的交互入口。比如用户只需要跟智能体聊天，就可以实现修图、配文一键转发朋友圈；一句话的指令，智能体就能直接点外卖、打车、购物。

在更广阔的未来中，智能体将是你最忠实的助手、最熟悉的伙伴，理解用户，预测用户需求，提供个性化服务和情感共鸣，为商业拓宽边界。

目前的市场预测印证了对智能体商业逻辑的认可：最新市场研究，预计到2030年，全球AI智能体市场规模将从2024年的51亿美元激增至471亿美元，年均复合增长率达到44.8%。

隐私保护：AI手机商业故事的起点

大模型的技术特点以及智能体的功能定位，决定了AI时代隐私保护问题的复杂性。

首先，数据是AI模型的“食粮”，AI模型的建立，依赖于大量的数据进行训练和优化，以提升其准确性和性能。

其次，为了提供更加精准的个性化服务，必须收集和分析用户的行为习惯、偏好等信息。

各个手机智能体还会嵌入“智能加强”之类的功能，来搜集更多的个人数据。比如荣耀YOYO的“个人记忆”会收集日程信息、交易信息、重要人物/地点、纪念日信息；小布的意图感知服务会收集：位置信息、应用使用信息、亮灭屏状态、开关机信息、运动健康信息（步数、睡眠）等。

此外，在运行AI任务时，也需要充足的数据来处理和分析。这些数据可能来自手机内置的传感器、用户输入的信息以及从云端获取的数据等。

可以看到，AI手机的功能须“吞下”大量的个人数据才能够成立。因此，隐私保护也就成了一切商业故事的起点。隐私保护做不到位，将直接影响用户的信任度。

测评：我的隐私是否被滥用？

测试多款AI手机后，一个明显的感受是：隐私政策变得前所未有的复杂。

AI时代，手机厂商既是功能聚合的中心，也是数据流转的节点，隐私政策变得更加细密而难以解读。

“AI功能”下设的每一项功能，几乎都会有单独的隐私政策，好比不同的App，负责不同模块，随即衍生出了多个说明文档。

这种“分工明确”的隐私条款，一方面体现了厂商对数据保护的重视，另一方面却让消费者稍不留神就陷入信息迷宫，难以真正了解自己的数据被如何收集与使用。

而更令人担忧的是，手机厂商是否“挂着羊头卖狗肉”，更加难以辨明。

在实测过程中，南财合规科技研究院-21世纪经济报道发现了不少与手机厂商的宣传有出入的地方，首当其冲的是端侧处理与云侧处理之争。

上述提到，端侧AI的用户大部分数据处理均在本地完成，这决定了端侧AI在私密性上的优势。荣耀宣传时强调“端侧AI更个人化、人性化、隐私保护的智慧体验。”vivo也对外表示“今年我们有十几个、数十个功能都端侧化了，以后可能闲聊、识别、决策、执行全部都端侧化了。”

但现实中，目前国内AI手机的许多功能依然高度依赖云侧处理。

一旦数据上传云端，隐私泄露的风险成倍增加。

聪明的厂商未雨绸缪地强调自己的数据保护手段：采取优先本地化（端侧）处理+加密上传云端处理的措施。尽管机制上保证安全，但数据上云确实放大了数据隐私保护的风险，也与端侧大模型的卖点不相符。

此外，智能体对用户的响应，大多依靠“识屏+模拟点击”技术路线，业内安全技术专家告诉21世纪经济报道记者，背后的技术逻辑大概是“无障碍权限”，这便引发了更深的问题。

无障碍权限本身是为残障人士提供无障碍支持，包括iOS的VoiceOver（旁白）功能、Android的TalkBack功能。但这些年，无障碍权限成为不少厂商钻空子的切入口，成为绕过用户授权的隐秘通道。

比如自动抢红包的App、游戏自动外挂等，均是利用了无障碍权限。与第三方App不同的是，智能体是手机厂商自己打造的超级助手，拥有更接近技术系统的优势和更高的权限调用能力，这让无障碍权限被滥用的话题更为敏感。

在实测中，21世纪经济报道记者发现OPPO、vivo、荣耀的手机的隐私政策里，无障碍权限的说明均不够清晰。比如荣耀在其“荣耀AI·基础服务”中的情景感知功能中提及，会动态借助系统的无障碍功能，但是哪些具体操作用到无障碍功能未做说明。

相比之下，OPPO的小布识屏隐私政策则稍显清晰，提到该功能会调用无障碍权限用于防误触和朗读文章，但未要求用户在开启权限时进行明确授权。荣耀与vivo因其表述较为模糊，不明确哪些功能涉及无障碍功能，因此实测中无法确定是否询问用户。

对此，OPPO回应21世纪经济报道记者称，无障碍服务仅会被用于帮助使用有困难的用户更好的使用智能设备，因为便利性等一些客观原因，所以调用无障碍服务可以无需授权；但是无障碍服务的使用前提依然是需要遵循用户隐私规范。