算法推荐广告涉歧视,Meta认罚并与美国司法部达成和解协议

算法进化论李润泽子,实习生高艺 2022-06-22 21:06

南方财经全媒体记者 李润泽子 实习生 高艺 广州报道

美国当地时间6月21日,美国司法部宣布与Meta就“广告算法歧视”案达成和解。此前,Meta被指控涉嫌算法歧视,利用基于用户种族、肤色、宗教、性别、身体状况、家庭状况和国籍等信息的算法推送房地产广告。

根据和解协议,Meta将在2022年12月31日前停用具有“歧视算法”的住房广告推荐工具,并开发新的广告推荐系统。此外,Meta还需支付11.5054万美元罚金。

Meta被诉广告算法推荐涉歧视

据了解,此次Meta被指控是基于美国住房与城市发展部(HUD)的一项调查。该调查发现,Meta(原Facebook)的广告投放系统存在利用算法歧视性筛选用户的行为,违反了《公平住房法》。

美国司法部介绍,《公平住房法》禁止基于种族、肤色、宗教、性别、家庭状况、国籍和残疾的住房歧视。

HUD认为,Meta支持并鼓励广告商通过《公平住房法》禁止的个人信息来筛选目标用户。同时,Meta专门开发了一款名为“特殊广告受众”的广告定位工具供广告商使用。

6月21日,司法部宣布与Meta达成和解。根据和解协议, 2022 年 12 月 31 日前,Meta必须停止使用名为“特殊广告受众”的住房广告工具,并开发新的住房广告系统,以解决目前个性化算法造成的歧视问题。新系统实施后,各方将选择独立的第三方审查员持续调查和验证其是否符合合规标准。根据协议,Meta必须向审查员提供任何必要的验证信息。此外,Meta不应向住房广告商提供直接描述的或与受《公平住房法》保护特征相关的筛选选项。如果Meta打算添加任何筛选信息,必须通知司法部。而根据《公平住房法》规定,Meta必须支付 11.5054万 美元的民事罚款。

但如果问题未得到解决,此次和解协议将终止,美国司法部将在联邦法院对Meta提起诉讼。

据介绍,这是美国司法部根据《公平住房法》处理算法歧视的第一起案件,也是Meta 将首次因其广告定位和投放系统而受到法院监督。

算法歧视治理已成全球话题

金融借贷平台借贷歧视、平台型企业大数据“杀熟”、人工智能相貌歧视、AI机器人发表歧视性言……近年来,算法歧视的例子数不胜数。而针对层出不穷的算法歧视问题,监管也愈发严格。

2019年,美国发布了《算法问责法2019(草案)》,其要求大型互联网平台企业评估并消除其自动决策算法给消费者信息隐私和安全带来的风险,以及因种族、肤色、宗教、政治信仰、性别或其它方面差异带来的算法歧视与偏见。2020年6月,美国参议院发布的《数据问责和透明度法2020》则将算法自动化决策纳入监管,提出消费者应当有权质疑收集数据的理由并要求人工对算法自动化决策进行审查和解释。

欧盟《通用数据保护条例》第13条则规定,当数据控制者收集个人数据时,如采用自动化决策对用户进行画像或存在类似情况的,应当向数据主体提供关于此类问题处理的逻辑及预期后果的有效信息。

在我国,目前针对算法歧视的法律规制文件多涉及“大数据杀熟”。2019年1月1日实施的《电子商务法》规定,电子商务经营者根据消费者的兴趣爱好、消费习惯等特征向其提供商品或者服务的搜索结果的,应当同时向该消费者提供不针对其个人特征的选项,尊重和平等保护消费者合法权益。2021年2月7日,国务院反垄断委员会发布《关于平台经济领域的反垄断指南》,明确差别待遇情形下滥用市场支配地位的情形,规定“大数据杀熟”属于差别待遇。2021年11月,我国《个人信息保护法》正式实施,规定保证自动化决策的透明度和公平,不得在交易条件上实行差别待遇。

技术是一把双刃剑,如何促进科技向善是科技平台的责任,也已监管部门的关注重点。

(作者:李润泽子,实习生高艺 编辑:郭美婷)