21世纪经济报道记者边万莉 北京报道 9月3日，在北京首钢园召开了2021中国国际金融科技论坛，该论坛由北京市地方金融监督管理局、北京市朝阳区人民政府主办，中国互联网金融协会、中国银行业协会等单位支持。

会上，中国证监会科技监管局局长姚前就“算法可能隐含的风险，探讨算法监管”的话题，发表了主题演讲。他表示，不可否认，算法催生了新的经济模式，带来了社会整体效益的提升，有其独特的优势，但有利必有弊，近年来算法的作恶、算法道德、算法伦理问题已引起了广泛关注。

姚前指出，“马克思曾在1844经济学哲学手稿中对机器工业化时代人类异化现象提出警示，就像机器流水线凌驾于工人之上，算法也有可能凌驾于芸芸众生之上，其中风险同样值得我们关注和警惕，为此加强算法监管以监管科技应对新型科技，既是顺应之策又是必然之举。”

算法带来的便利

近年来随着云计算、大数据、人工智能、区块链等创新技术的发展和应用，数据作为生产要素的价值日益体现，算法在经济活动中的重要性日趋凸显。

一是算法拓展了互联网经济的深度与广度。姚前表示，比如基于平台上的交易数据、用户自身提供的数据以及其他的另类数据开展大数据的分析，对用户进行千人千面画像，深入分析每个消费者个体的行为模式和特点，形成独特的客户洞察，开展精准营销、服务和风控。基于算法的自然调度使得云计算很好的解决了实施海量交易和数据处理的性能要求。智能客服提升客户服务的响应速度，降低成本，提高效率。

二是出现了以算法为核心的新型经济模式。姚前表示，“以算法为核心的新型经济模式，我称之为算法经济，算法经济是指人们将生产经验、逻辑和规则总结提炼后固化在代码上，使生产经营交易融资等活动无须人工干预自动执行的智能化经济模式。”

在姚前看来，算法经济的典型代表是算法金融，以数据为核心，以算法为驱动，以算力为保障，构建强大的数据分析能力，开展智能营销、智能风控、智能投顾、智能理赔，为客户提供量身定制的金融服务和产品，并将专家分析、决策经验与人工智能技术融合，通过风控模型的自学习、自进化分析过程，实现基于海量数据机器学习的实时复杂风控，更好地量化风险，更好地应对反欺诈反洗钱信用风险等关键的业务风险。

姚前指出，“算法经济大幅改善了市场经济的匹配效率和交易成本，人们一方面欢迎和享受智能算法带来的便利，另一方面却担心被智能算法替代导致个人价值的丧失。”

算法背后隐藏的风险

需要注意的是，随着算法经济的加速发展，算法的渗透力和影响力越来越强调，其背后隐藏的风险和作恶的可能引起了关注。比如，算法的滥用和算法偏见，以及在特定领域，算法还可能引致特定的危险。

首先是算法的滥用。算法规则的背后是商业利益，为了追求利益最大化，算法有可能违背社会公平、道德和人心，比如大数据杀熟。只推荐给能潜在带来商业利益的东西，而不是给最合适最恰当的东西，滥用人性弱点、诱导客户，使人习惯被喂养，不自觉地对算法推送的商品上瘾，将人异化简单的数据、商品和工具，算法的具体原理和参数只有运营企业的少数人才能知道，有可能产生利益清算问题。

其次，算法偏见。算法的数据可能不一定全面，片面的数据得到的结果必然导致某种偏见，算法的设计者是人，算法设计师乃至企业管理者价值观的偏见有可能被嵌入算法。算法的技术关怀容易让人盲从所谓的科学，但实际上有些算法却存在很大程度的不可解释性。算法鸿沟也值得重视，算法通常是隐秘的，或是专利或是商业秘密，即便公开也因技术门槛不是每个人都能看懂，这就形成新的数字鸿沟，不懂算法的人群在利益受损时有可能并不知情，即便知情也可能无力举证和对抗。

此外，在特定领域，算法还可能引致特定的危险。比如智能领域金融算法给出的资产配置算法有可能推荐与金融机构自身利益高度相关的商品，涉嫌利益侵占。智能算法形成的信息茧房容易掩盖金融风险的复杂性，引入过度消费和负债，甚至误导投资者。智能算法趋同导致羊群效应，加大了金融的顺周期风险等等。

探索算法监管

正是因为算法背后的风险，各国监管部门高度关注算法隐含的风险。姚前表示，欧盟一般数据保护条例第22条对自动化决策加以限制，如果某种包括数据分析在内的自动化决策会对数据主体产生法律效力或对其造成类似的重大影响，数据主体有权不受上述决策的限制。针对智能算法在投资顾问中的应用，美国证券交易委员会、英国金融业监管局、澳大利亚证券和投资委员会出台了具体的智能投顾的监管指引。

姚前指出，“总的来说，智能算法已在很多行业大量采用，考虑到其生态规模趋大、潜在风险不容忽视，我国算法监管制度正在逐步完善和健全，具体内容还有待完善。”他认为，算法监管具体内容至少包括六个方面的内容。

一是信息披露，即作为算法的设计者，相关主体和利益相关者应该披露算法设计执行使用过程中可能存在的偏见和漏洞、数据来源以及可能对个人和社会造成的潜在危害。

二是解释即作为采用算法自动化的机构，相关主体和利益相关者有义务解释算法运行原理和算法具体决策结果。

三是留痕与可审计，算法系统的设计测试运行表现及变动留有记录，全程监测并可审计。

四是质询与申诉，确保受到算法决策负面影响的个人或组织享有对算法进行质询并申诉的权利。

五是内部治理，相关主体应建立清晰有效的内部治理框架、内部控制机制和责任体系，防止算法滥用，防范算法风险并提高算法的对抗性，避免算法攻击。

六是加强行业自律，通过行业自律机制加强算法道德和算法伦理的建设。

(作者：边万莉 编辑：李伊琳）