本力
拜互联网、大数据所赐，近年来人工智能的发展突飞猛进，进化速度令人吃惊，并且带来一系列技术、制度、社会关系方面的变化。2017年，著名物理学家斯蒂芬·霍金曾在北京举行的GMIC大会上称，“我目前见证的最深刻的社会变化是人工智能的崛起。”而这位伟大的科学家还有一个更广为人知的观点：人工智能很可能是人类文明的终结者。
其实，这两个观点说的是一回事。在一个互联网已经得到广泛应用，越来越“去中心化”、“分布式”的世界，人工智能的崛起也意味着许多我们永远无法预知的危险。所以霍金强调，人工智能应该在符合伦理道德和安全措施要求的情况下开发，因为脱离人类控制的机器将很难被阻止。
腾讯研究院的一项研究指出，缺乏伦理价值、常识、争议观念的算法系统，在现实的交互中，很容易造成歧视和其他形式的不公。《科学》杂志中最新的研究也表明，机器越容易习得类人的语言能力，也就越容易习得语言应用范式中根深蒂固的偏见，这种偏见如若被强化放大，后果将不堪设想，这类存在性格缺陷的AI相比穷凶极恶的无耻之徒更加危险。
道德是人类缓慢进化的产物，但人工智能的迭代又在加速，其复杂性和风险也不可同日而语，伴随人工智能兴起，必要的“人工道德”该如何实现，越来越成为一个当今世界不可回避的重大问题。人工智能和神经科学伦理学专家温德尔·瓦拉赫与认知哲学家科林·艾伦合著的《道德机器——如何让机器人明辨是非》正是这一领域的奠基之作。这本书之所以具有如此关键的开创性，很大程度上有赖于对该问题在解决路径上所做的基础性探讨。
如果按照模拟人类道德演进路径的解决思路，那么最好的办法无疑是“自下而上”的发展思路，其关键在于创造一个环境生态能让智能体探索自己的行为方式，在作出道德上值得赞扬的行为时适时得到奖赏，并将这种是非观念和行为模式稳定下来。这种解决方案符合波普尔、哈耶克等社会科学大师“开放社会”、“理性的自负”的经典理论，而且也为罗伯特·阿克塞尔罗德等行为分析及博弈论专家持续多年的研究所支持，无疑有坚实的学术基础。更重要的是，这种思路很符合人类的历史和经验。
然而，人类道德经验的一个核心特征就是，人们经常会在自私的行为和利他的行为之间徘徊。伟大的行为科学家诺瓦克在他的《超级合作者》一书中曾得出结论：通过计算机对许多类型的博弈行为进行模拟实验，发现无条件合作者能够逐渐摧毁“以牙还牙”策略和“宽宏以牙还牙”策略，却无法击败“赢定输移”策略。“赢定输移”只关注自身得失，以确保自己在博弈中占得先机，并不需要理解并记住其他人的行为，所以可以对无条件合作者加以盘剥。因此，正像人们在现实社会中看到的那样，如果人工智能的道德来自“自下而上”，那么也有可能让“背叛者”或“投机者”取胜。所以，“自下而上”的过程也就是“试错”过程，期间的不安全感带来的威胁始终存在。
相对而言，“自上而下”的道路似乎更能获得安全保障。在这一伦理原则上最典型的是阿西莫夫提出的机器人三定律：一是机器人不得伤害人类，或因不作为使人类受到伤害；二是除非违背第一定律，机器人必须服从人类的命令；三是除非违背第一及第二定律，机器人必须保护自己。
这里就出现了一个非常矛盾的局面。一方面，机器在自动运行执行定律的过程中，必须要以认知、情感和反思能力来分析具体的情境，担负道德责任，从而具有类似康德的绝对律令中的自由意志；另一方面，阿西莫夫定律又将机器人变成了人类的奴隶，使其丧失了独立承担道德责任的自主行为能力。
所以这种源自宗教、哲学、文学等各个方面，以摩西十诫、法律和职业守则、黄金法则、道德箴言、乡规民约等表现出来的“自上而下”的路径恐怕也很难成就人工道德。
因此，这本书提出了一个重要思路，认为虽然很难有完备的解决方案，但有可能开始建构一种功能性道德，即人工道德智能体（AMAs），让人工智能具有基本的道德敏感性，在基于开放型、交互性的前提下，会逐步使人工智能和机器具备道德决策能力，并随着智能技术和人机交互的进步而进化、发展。
显然，这是一种自上而下式与自下而上式的混合道路，这样才能够使美德和特殊的情境相结合，使人工道德智能体更像人。
无论如何，能分辨是非对错的人工道德的重要性，一点儿也不亚于人工智能本身。而且其中所揭示的关于人类道德决策的知识本身，也如陪伴孩子成长所得到的启示一样，会成为人类的一面镜子。
事实上，人工智能如果在道德决策问题上无法承担其责任，那么最大的受害者可能还是人工智能本身。因为人恐怕是最会推卸责任的一种物种。国内某著名互联网公司在研究中曾信誓旦旦强调：歧视在很多情况下都是算法的副产品，是算法一个难以预料的、无意识的属性，而非编程人员有意识的选择，这更增加了识别问题根源或者解释问题的难度。
所以，要让人工道德成为可能，不仅需要在设计上走对方向，促进机器心灵与人类伦理统一。也需要加快相关的立法，规范人的行为，使人能够应对人工智能对人性的挑战，发展出人工智能时代作为人本身的道德进化。(编辑 董明洁 许望)
21世纪经济报道及其客户端所刊载内容的知识产权均属广东二十一世纪环球经济报社所有。未经书面授权，任何人不得以任何方式使用。详情或获取授权信息请点击此处。
分享成功
