21世纪经济报道记者肖潇 实习生 袁清渠 北京报道
竞争秩序,永远是常说常新的话题。尤其是在新旧产业交替的时刻。
在过去一年,我们看到,互联网平台旧脚本的问题尚未解决,在存量竞争中矛盾越发突出;人工智能带来的新故事里,亦充满了安全与治理的迷惑。
即日起,我们将推出《2024年竞争秩序场报告》,聚焦电商、社交平台和端侧AI三大领域,从过去一年的典型案例入手,梳理竞争秩序的裂隙与演变。这不是一份解决问题的清单,而是一份抛出问题的地图:哪些秩序出现了裂隙?又将如何塑造未来的市场格局?
推荐算法的双重难题
推荐算法的本质是内容分发,旨在提高信息分发的效率。2012年,最典型的推荐算法产品今日头条诞生;2017年,抖音引入智能推荐算法。推荐算法从星星之火到烈火烹油,各大社交平台都开始通过分析用户的历史行为、兴趣偏好和个性特征,精准预测用户的喜好,并构建出信息流式的内容推荐体系。
从工作原理来看,目前的推荐算法系统大多由三个要素组成:用户、项、用户对项的操作行为。
简单理解,“用户”指的是每个用户独特的兴趣特征、身份特征等等;“项”是用户与内容之间的相似性,比如算法会找到与某个用户兴趣最相似的人群,再给他们互相推荐一方感兴趣、另一方还没接触过的内容;“操作行为”则主要包括每个用户的点击、购买、观看、浏览数据。
在这些大数据的基础上,推荐算法能够越来越精准地“猜你喜欢”,也引起越来越多的争议,其争议点可以归纳为客观上的“不安全”和主观上的“不安全感”。
一方面,推荐算法是平台提高用户黏性的主要竞争手段,它越能精准向用户推荐符合其偏好的内容,用户看到的信息就越单一,长此以往可能停留在算法构造的“过滤气泡”中。
另外,推荐算法越来越能“读人心”,而透明度没有及时跟进。面对新技术的艰深造物,公众难免会产生怀疑和不信任感。
需要提到的是,也有不同观点认为平台在实践中有追求算法多样性的内在动力,因为用户能消费更多种类的内容和商品,反而是更利好平台商业变现的做法。国外学者在研究算法成瘾问题时进一步发现,平台留住用户的最好方式其实是“提供两条不感兴趣的内容,再提供三条感兴趣的内容”,这种间歇性的“内容奖励“会让人们产生更多多巴胺,心理原理类似“老虎机”的赌博成瘾过程,因此带来的算法成瘾问题同样值得关注。
测评:“算法透明”长路漫漫
针对信息茧房和上瘾问题,2024年11月,国家网信办下发的《关于开展“清朗·网络平台算法典型问题治理”专项行动的通知》要求相当明确:严禁推送高度同质化内容诱导用户沉迷。不得强制要求用户选择兴趣标签,不得将违法和不良信息记入用户标签并据以推送信息,不得超范围收集用户个人信息用于内容推送。规范设置“不感兴趣”等负反馈功能。
结合专项行动的要求,南财合规科技研究院对微信公众号、微博、抖音、快手、小红书、B站的推荐算法的合理性进行了测评,测评分为算法可解释性、用户自主性、防沉迷措施三个方面。
在算法可解释性上,目前只有微博对推荐内容给出了非常简略的原因解释。在“关注”页面,如果刷到了纯粹由算法推荐的博文,顶部会有一行小字解释:看到该内容是因为您关注的好友“xx关注了”或您关注的好友“xx点赞了”。至于为什么在众多内容中算法选择推荐了这一条,并没有给出更多维度的解释。
不过,在抖音推荐页面,如果好友点赞会提示“××推荐”;在朋友页面,则可以看到关注好友发布的视频。
与此同时,微博、哔哩哔哩都采用了相似的兴趣标签管理设计:长按一条内容,可以看到“减少xx用户”“减少xx频道”“减少xx标签推送”的选择,一定程度上解释了这条内容在算法中的分类,也让用户更便捷地管理算法偏好。但微博和哔哩哔哩也因此没有设置统一的、全方位的偏好管理页面。
(图:微博的推荐内容解释和“不感兴趣”页面)
这就说到了在自动算法面前,用户能掌握多少自主性的问题。测评发现,小红书、快手、抖音都有统一的标签管理页面,用户能在这些页面里调节每种内容的算法推荐强度,内容标签约一百种。
但必须指出的是,这些标签管理页面的入口都隐藏很深,比如抖音的点开步骤为:Tab栏中的“我”→右上角的“设置”→“更多功能”→“使用管理助手”→“内容管理”,五步操作后才能进入最终页面,而且“使用管理助手”的名字也很难让普通人直观理解含义。相比之下,快手的“内容偏好设置”直接放在了侧边栏。
(图:抖音“内容管理”页面 )
用户需要能够关闭“个性化推荐”,已经是近三年反复提及的要求。将个性化推荐的开关放在“隐私设置”中,也是较为普遍的做法,但测评仍然注意到两个问题:一,关闭入口隐藏较深,起码需要经过四次操作,并且几乎每一次操作都需要下拉到页面最底部;二,所有平台的个性化内容推荐和个性化广告推荐都需要分开关闭,甚至有些关闭按钮在完全不同的目录中。比如,抖音的“个性化广告”在单独的“了解与管理广告推送”功能里。
最后,在防沉迷问题上,视频平台的措施相对完善——抖音和哔哩哔哩都有单独的时间管理功能,用户可以为自己限制使用时间或者设置提醒。而其他平台只有用户打开青少年模式后,才能使用类似功能。
秩序规则:监管与自治双线并行
从政策与监管行动、平台自主治理三方面来看,社交平台在2024年有不少新秩序的建立。
在算法治理上,最引人瞩目的无疑是去年年末四部委联合发起的《关于开展“清朗·网络平台算法典型问题治理”专项行动的通知》。按照规定,2024年11月24日至2025年2月14日,将重点整治同质化推送营造“信息茧房”、违规操纵干预榜单炒作热点、盲目追求利益侵害新就业形态劳动者权益、利用算法实施大数据“杀熟”、算法向上向善服务缺失侵害用户合法权益等重点问题,督促企业深入对照自查整改。
随后,多个社交平台平台发布了回应举措。
抖音在2025年1月3日发布了拟推出的10项措施。针对算法透明度问题,抖音表示会在2025年建设安全与信任中心网站和线下公示展厅,面向社会“全面深入地”公开抖音的算法基础运作原理、运营机制,也将对外公布各类热点榜单的计算原理和机制。
1月3日,小红书也在回应中表示,用户可在小红书App内“隐私设置”-“个性化选项”下了解个性化推荐算法的运行原理,并可自主开关个性化推荐功能。如果用户对推送内容不感兴趣或希望减少某些信息推送时,小红书建议用户长按笔记内容,点击“不感兴趣”,并反馈具体原因。
同日,B站在平台内的社区公告发布了3项治理措施。为避免信息茧房、同质化推送等问题,将提高用户自主选择权,在用户反馈面板新增“此类内容过多”“推荐过”的反馈理由,用户可通过负反馈来降低某类内容的展现密度。
1月4日,微博宣布7项具体措施,其中最直观的变动是热搜解释标签:微博将对热搜榜单中前 50 位的热词增加简明直观的解释标签,主要是为了展示每个热词的热度来源与上榜成因。
参考资料:
[1]QuestMobile. 2024年新媒体生态盘点:五大平台覆盖10.71亿用户,内容商业化进入爆发期. https://www.questmobile.com.cn/research/report/1871401635281997826
[2]新榜.2024内容创作者生态报告.https://www.newrank.cn/article/detail/28550
[3]中国人民大学高瓴人工智能学院. 算法向善与个性化推荐发展研究报告. http://ai.ruc.edu.cn/docs/2022-01/d69416554eef44a0bcab6e419809f0d6.pdf
[4]洪延青.“清朗·网络平台算法典型问题治理”专项行动中的推荐和决策算法的工作原理. https://mp.weixin.qq.com/s/isahuFq_9giq9WF14E0gHg
[5] Bader A. Ali. Hanady M. Abdulsalam. Sabah Almadani. Paul Manuel. A study of a hybrid Fogg-Hook based social media addictive algorithm from the perspective of Kuwait Society. https://doi.org/10.1016/j.jer.2023.09.008
(作者:肖潇 编辑:王俊)
南方财经全媒体集团及其客户端所刊载内容的知识产权均属其旗下媒体。未经书面授权,任何人不得以任何方式使用。详情或获取授权信息请点击此处。