算法推荐将迎新规:不得控制热搜影响舆论,用户可关闭推荐

合规科技张雅婷,见习记者,郭美婷 2021-08-27 20:43
算法监管元年开启:剑指“大数据杀熟”,新闻推荐平台需获服务资质 算法新规出台:剑指“大数据杀熟”与“二选一”,不得利用算法实施垄断和不正当竞争

21世纪经济报道记者张雅婷、见习记者郭美婷 广州报道8月27日,国家互联网信息办公室发布《互联网信息服务算法推荐管理规定(征求意见稿)》(以下简称“《意见稿》”)并公开征求意见。 

《意见稿》对具有舆论属性或社会动员能力的算法推荐服务提供者进行重点规则,从内容推荐要求坚持主流价值导向,到不得实施流量造假、控制热搜等影响网络舆论,剑指微博、今日头条、百度、快手、抖音等资讯信息及短视频平台。

对于平台用工权益及消费者权利的保障,《意见稿》要求,外卖及网约车平台对劳动者、消费者的双重算法需规范,保证劳动者算法的公正透明,抵制算法对消费者“大数据杀熟”。

如何平衡平台对算法使用及用户权利保障?多位专家向21世纪经济报道记者表示,企业合规应注意《意见稿》所提出的技术、管理和内容价值层面的多层次要求。 

坚持主流价值导向,算法向上向善 

网络信息内容生态治理,是我国近年来互联网治理重点。

2019年12月,国家网信办公布《网络信息内容生态治理规定》,标志着我国建立了完整的网络信息内容生态治理框架。今年1月,国家网信办就《互联网信息服务管理办法(修订草案征求意见稿)》公开征求意见,进一步规定信息传播的各项要求。国家网信办、全国扫黄打非办等部门也多次对平台内容进行整顿。

然而,网络生态治理目前仍然存在难题。中国政法大学网络法学研究所副所长商希雪介绍,一方面,淫秽色情、赌博诈骗以及负能量内容充斥网络空间;另一方面,在“流量为王”的畸形观念下,平台利用算法模型通过热搜、超话、炒作、聚集等信息推送方式投放给用户“刺激”的话题和“热点”的信息,大众在被动“吃瓜”时也会感到精神的不适。

《意见稿》指出,算法推荐服务提供者应当坚持主流价值导向,优化算法推荐服务机制,积极传播正能量,促进算法应用向上向善。

第九条从手段方面规范内容服务平台的信息推送行为,要求加强信息内容管理,建立健全用于识别违法和不良信息的特征库,完善入库标准、规则和程序。发现未作显著标识的算法生成合成信息的,应当作出显著标识后,方可继续传输。

内容本身的治理固然必要,但在海量的内容中,良性内容常常被埋没,低俗吸睛的内容却更容易被“刷”出,陷入了“劣币驱逐良币”的窘境中。

《意见稿》第十一条强调“建立完善人工干预和用户自主选择机制”,也即不仅依赖算法进行内容推荐,还需要增加人工识别及筛选的过程,“在首页首屏、热搜、精选、榜单类、弹窗等重点环节积极呈现符合主流价值导向的信息内容。”

“相当于在平台夯实主体责任的过程中,除对谣言及其他不法信息的治理外,还多加了一道对算法决策的抓手。”中国政法大学传播法研究中心副主任朱巍表示,平台通过何种算法和逻辑使用数据,是互联网监管的关键。

对于未成年人的保护,《意见稿》第十六条特别提出“通过开发适合未成年人使用的模式、提供适合未成年人特点的服务等方式,便利未成年人获取有益身心健康的信息内容。”

《意见稿》公布当日,网信办发布加强“饭圈”乱象治理的通知,提出“取消明星艺人榜单”“优化调整排行规则”等10条工作措施。网信办指出,在音乐作品、影视作品等排行中,降低签到、点赞、评论等指标权重,增加作品导向及专业性评价等指标权重。不得设置诱导粉丝打榜的相关功能,引导粉丝更多关注文化产品质量。

不得控制热搜,影响网络舆论 

热搜榜单是注意力经济最集中的体现,是新媒体时代议程设置最典型的样本。

《意见稿》多项内容规制排序精选类平台,如资讯类的今日头条与百度、短视频类的快手与抖音、综合类的微博与知乎等,剑指热搜榜单这项功能服务。

关于热搜排序、流量造假等问题,监管部门此前曾多次出手,对平台的监管趋严。

2020年6月,国家网信办指导北京市互联网信息办公室约谈新浪微博负责人,针对微博在蒋某舆论事件中干扰网上传播秩序,以及传播违法违规信息等问题,责令整改,暂停更新微博热搜榜一周,严肃处理相关责任人并从严予以罚款的行政处罚。

《意见稿》对算法推荐服务提供者在算法规则及公示方面进行要求。第十二条提到,应综合运用内容去重、打散干预等策略,并优化检索、排序、选择、推送、展示等规则的透明度和可解释性。第十四条规定,应以显著方式告知用户其提供算法推荐服务的情况,并以适当方式公示算法推荐服务的基本原理、目的意图、运行机制等。

今年8月23日,微博曾回应“花钱买热搜”“花钱压热搜”等质疑,首次公布热搜产品规则和管理细则。微博表示,热搜根据微博用户的真实行为进行计算,并根据搜索量、发博量、互动量等数据指标,形成实时榜单。榜单算法中包含了严格的排水军和反垃圾机制,以确保公正客观。

对于平台在影响舆论及社会动员方面的规制,《意见稿》第十三条要求,不得利用算法虚假注册账号、非法交易账号、操纵用户账号,或者虚假点赞、评论、转发、网页导航等,实施流量造假、流量劫持;不得利用算法屏蔽信息、过度推荐、操纵榜单或者检索结果排序、控制热搜或者精选等干预信息呈现,实施自我优待、不正当竞争、影响网络舆论或者规避监管。

同时,《意见稿》要求赋予用户选择权。第十五条提到,算法推荐服务提供者应向用户提供不针对其个人特征的选项,或向用户提供便捷关闭算法推荐服务的选项。用户选择关闭的,应立即停止提供相关服务。这与8月20日出台的《个人信息保护法》中,关于个人信息权及撤回同意的相关内容一脉相承。

网约车、外卖平台双重算法受监管  

近年来,外卖小哥、网约车司机等新就业形态劳动者队伍不断壮大。 2019年,餐饮外卖员总数已突破700万人。全国网约车监管信息交互平台统计显示,截至2021年7月31日,全国共有241家平台取得网约车经营许可,各地共发放网约车驾驶员证351万本。

《意见稿》对于网约车、外卖等调度决策类等平台的算法也作出规制,从劳动者及消费者的双重算法进行约束。

针对劳动者,《意见稿》要求算法公正透明。第十七条提出,算法推荐服务提供者向劳动者提供工作调度服务的,应当建立完善平台订单分配、报酬构成及支付、工作时间、奖惩等相关算法,履行劳动者权益保障义务。 

今年5月,交通部、市场监管总局等八部门联合约谈滴滴出行、曹操出行、高德、货拉拉等10家平台。约谈要求,平台应主动公开定价机制和计价规则,持续优化派单机制。曹操、滴滴等平台已提出推进抽成公开。曹操出行表示,已通过司机端展示等方式对现行分成比例公开。滴滴则在5月宣布将推进公开订单抽成,推动司机账单透明化。

7月,人社部等八部门和市场监管总局等七部门先后发布了《关于维护新就业形态劳动者劳动保障权益的指导意见》和《关于落实网络餐饮平台责任 切实维护外卖送餐员权益的指导意见》,督促企业合理制定订单分配、计件单价、抽成比例、报酬构成及支付、工作时间、奖惩等制度规则和平台算法,提出通过“算法取中”等方式,替代“最严算法”的考核要求。

针对消费者,算法则需限制“大数据杀熟”。《意见稿》第十八条规定,算法推荐服务提供者向消费者销售商品或者提供服务的,应当保护消费者合法权益,不得根据消费者的偏好、交易习惯等特征,利用算法在交易价格等交易条件上实行不合理的差别待遇等违法行为。

中国政法大学网络法学研究所副所长商希雪分析,当前商业应用场景中自动化决策算法愈加频繁,引发威胁用户正当权益的社会风险。

关于“大数据杀熟”,《网络交易监督管理办法》《电子商务法》《国务院反垄断委员会关于平台经济领域的反垄断指南》,以及将于今年11月1日起施行的《个人信息保护法》等多部法律法规中都有明确规定,要求不得在交易中对个人实施“差别待遇”。

平衡算法使用与用户权利保障

算法规则的背后是商业利益,面对算法推荐技术的各项要求,企业应如何平衡算法的使用与保障用户权利?

北京师范大学网络法治国际中心执行主任吴沈括建议,企业合规应注意《意见稿》所提出的技术、管理和内容价值层面的多层次要求。

具体而言,包括三个方面:在技术层面,产品自研发阶段就要关注算法可能带来的风险,尤其是歧视、虚假和与正能量不符的内容倾向;在组织管理层面,需要构建从用户注册、管理到风险评估等的全生命周期的组织管理制度,全面落实从制度到人的治理;在算法应用过程中,注意内容本身的价值伦理要求跟社会主义价值观相符合,与正能量传播要求的相匹配。

“从狭义的用户权利保护角度来看,数据安全、个人信息保护,需要在现有的法律顶层设计下,做到制度间的交叉匹配,实现用户的自主权利以及其他安全利益的综合全面保护。”吴沈括说。

自动化决策是算法监管之重。“平台根据用户的兴趣爱好、消费习惯等特征向其提供商品或者服务的搜索结果时,应当同时提供不针对其个人特征的选项。”商希雪表示,一方面,在遵守法律规定的前提下,企业应当遵循公开、公平、公正的原则设计算法模型与制定自动化决策规则,不得对用户提供歧视性的差异化待遇;另一方面,在履行“告知-同意”的义务前提下,企业应当保障用户对算法设计与自动化决策的同意权、规则解释权和选择权。

借助外部力量,或许能让企业从更客观的角度解决问题。上海大邦律师事务所高级合伙人游云庭认为,企业可以通过组建第三方的算法监管委员会,例如第三方机构、用户代表、行业协会人员等,均可定期对企业内部的算法伦理落实情况,辅助企业内部的自查自纠和审计,由外部人士提出中肯建议,能有效减少算法风险。

(作者:张雅婷,见习记者,郭美婷 编辑:张星)

张雅婷

记者

关注与数据相关的一切,聚焦个人信息保护、反垄断、数字政府、数字经济等。常驻广州,微信:ellenmiuo