人类与智能世界如何共处

2019年三季度以来，多家第三方大数据公司业务负责人被警方带走协助调查。用大数据和人工智能技术为“套路贷”平台提供系统、数据和催收，不但是当下个人隐私和数据安全问题的集中爆发，也是智能时代引发人文危机的一个缩影。

一方面，数字化、自动化、智能化技术的指数增长把人类带入了激动人心的繁荣时代；另一方面，机器人、人工智能、生物工程和遗传学不受约束地对人类生活甚至人类本身渗透和融合，将最终导致系统性忽视人类存在的基本原则。未来学家戈尔德·莱昂哈德在《人机冲突——人类与智能世界如何共处》中，将人类的这种处境形容为：“我们正处在天堂与地狱的混合体中，这被称之为天狱（HellVen）。”

在他看来，人机冲突的基本逻辑在于：信息技术遵从的“摩尔定律”这种指数发展的速度已经扩展到很多领域，但人类道德、文化、社会体系却并没有相应的指数化增长。人工智能的发展速度更是高于摩尔定律，这种反差和冲突将越来越大。

如此，不但技术已经发展到从强化自然到替代自然的程度，人类的大脑算法也正在被各种智能化的理性计算替代，甚至人类已经成为这些技术产品控制的对象。当地球上既有的伦理文明、价值观无法跟得上技术的脚步，人类的基本尊严就会受到空前的挑战。

“人机冲突”最大的动力来自巨大的商业利益驱动。莱昂哈德指出，利用技术的指数发展特征连接大众，提供廉价而容易上瘾的移动设备，可能是有史以来最大的生意。在这方面，由于能够创造每年上万亿美元的生意，数据确实已经成为新的石油，从大数据和网络社会中挖掘资源的公司，正在迅速成为新一代的埃克森美孚石油公司，迫不及待地要为大众提供新鸦片。用莱昂哈德的话，就是“如果搜集数据的能力被人工智能和物联网放大一千倍，你一定可以听到他们数钞票的声音。”

“人有病，天知否？”在这种技术变革与商业利益共同带来的伦理困境中，莱昂哈德认为人类成为了数字精神分裂、数字肥胖、数字综合征的受害者。包括人工智能、生物工程、认知运算在内的所有指数型技术，尤其是人类基因一旦进入到数字肥胖这种状态，再想减肥，回归到之前的生活模式就很难。我们会变得越来越像机器，以便更好地适应机械化的世界，比如大量的点赞、评论和加好友很容易让人们沉迷到无法自拔。人们承受了太多毫无意义的人际关系，线下生活反而成为一种新的奢侈。

人类总是拒绝不了效率的诱惑，莱昂哈德警示道：我们终将被一个巨大的机器操作系统支配，这个操作系统不断地自我学习，并把输出反馈给我们，指导它不再需要我们贡献的输入。届时，我们的价值将低于我们创造和训练的技术。

《人机冲突》一书提出了“保护自然生理状态的权利”“可以效率低下的权利”“断网的权利”等5项新人权，也提出了15项不应该做的事情，还有9项原则。但是，如何保障这些权利和原则？如何激励人们能够认识到这些权利和原则？却仍然是乌托邦式的一厢情愿。

从经济学的角度看，由于强大的负外部性，伦理问题已经成为智能时代最严重的一个“公地悲剧”。

面对人类空前的人文危机，首当其冲的是需要组建适应智能时代的伦理委员会等组织，比如，中国已于2019年7月正式组建了国家科技伦理委员会。但是，笔者认为，更关键的在于需要让道德融入人类智能化的发展过程，与指数化增长的技术同步进化。

莱昂哈德在书中也提出了，必须考虑所有指数型技术（包括人工智能、生物工程、认知运算，尤其是人类基因编辑）应具备的伦理准则——这既指发明者或创建者精心或无意嵌入机器中的准则，也包括机器可能随时间推移自主学习和进化形成的准则。

但这仍然远远不够。诚如贝索斯所言，我们需要注重不变的地方。人性亘古不变，伦理作为人类长期进化来的一种管理人性的机制，如何在人机冲突中演进以解决这些重大问题，恐怕还得回到对人性的探究和伦理学本身。所以，与其说是智能时代的人文危机，倒不如说是伦理学承载着新的关于人类命运的使命。

（编辑：董明洁）

21世纪经济报道及其客户端所刊载内容的知识产权均属广东二十一世纪环球经济报社所有。未经书面授权，任何人不得以任何方式使用。详情或获取授权信息请点击此处。