我们创造的智能，谁来决定它的未来︱21书评

编者按：又一本谈论AI治理的重磅新作面世了，这就是普林斯顿大学教授罗伯特·赖特的《造神之后》。作者对生成式AI发展的观察卓有洞见，比如，他从生命演化的角度解释AI为何取得了迅速进步，把大语言模型的“发现”描述为类似人脑的自然选择。他还延展了法国思想家德日进的“思想圈”理论，德日进认为电话、电视、收音机等信息技术把人类心智连接成覆盖全球思想网络的纽带，作者则在“思想圈”中给AI找到了合适的位置。

但就像作者所写的：在全球政治和个人心理层面实现真正的转变，来避免AI可能造成的灾难性破坏，才是“本书中最为激进的部分”。近年来，类似的探讨和建议在美国前国务卿亨利·基辛格的《人工智能时代与人类未来》、DeepMind联合创始人穆斯塔法·苏莱曼的《浪潮将至》等书中都有涉及。但实践表明，AI治理的国际协调虽然必需，但极为艰难。罗伯特·赖特在本书中文版序言中透露了一个重要信号：美国一些有影响力的人士越来越多地讨论在AI政策领域开展国际合作的必要性。这无疑将坚定面对更大AI风险敞口时的全球信心。

《造神之后》

[美] 罗伯特·赖特 著

张笑宇 译

湛庐文化︱北京联合出版公司

2026年10月

罗伯特·赖特︱文

正如许多人指出的那样，AI有可能造成灾难性规模的破坏。例如，它可能让非国家行为体更容易发动生物武器袭击，或实施大规模、具有瘫痪性影响的网络攻击。这种破坏很容易跨越国界，无论是以大流行病、连锁反应式网络灾难，还是其他形式出现。因此，如果各国希望获得真正的安全，就需要实行某种程度的国际治理，需要协调各国政策，从而在一定程度上确保国境之外的局势处于可控状态。

国际治理向来充满挑战，例如核武器控制领域就是如此。而对于AI而言，挑战尤其严峻，因为这是一项多面向、多用途的技术，有时还会以令人不易察觉的形式出现。事实上，正如我将在书中解释的那样，这一挑战之大，只有当我们以全球共同体的身份，以共同目标为纽带团结起来时，才有可能应对。

显然，建立一个真正的全球共同体是一个宏大的目标。在我看来，要实现这一目标，就要改变我们这个物种处理事务的方式。如此巨大的改变，既需要政策层面的变化，也需要更深层次的心理层面的变化。世界各地的人们都需要更好地克服认知偏差。正是这些偏差让我们坚信自己是善良的、正确的，让我们深陷旧有的敌意与对立之中，阻碍建设性的接触与合作。

这就是我所说的：AI提高了我们在技术使用方面所做选择的重要性。这项技术极大地提升了国际合作的价值，也因此提升了个体层面形成更加合作的心理状态的价值。从原则上说，它还能够帮助我们培养一种心理状态：澄清我们的视野，拓宽我们的视角，帮助我们更加平衡地看待世界——当然，前提是我们选择以恰当的方式使用它。

我在全书结尾提出的主张，即在全球政治和个人心理层面实现真正的转变，是本书中最为激进的部分，也是最有可能遭到质疑的部分。在本书美国版出版后的短短时间里，我已经确认，这种质疑确实存在！不出所料，有些人告诉我，这些主张极其不切实际——我们的星球很可能永远无法凝聚起我的设想所需要的集体智慧。

对此，我有三个回应。

第一，我并不是说这种转变很有可能发生，我只是说，它是必要的。我认为，如果我们不能实现这种转变，就将付出沉重的代价，甚至可能付出最为惨痛的代价。

不过，有理由相信，尽管这一愿景听起来十分理想主义，但它并非完全不切实际。这就引出了我的第二个回应：我并不是要求人们为了更大的利益而牺牲自身利益。那些对世界有益的AI用途——那些能够澄清我们的视野、拓宽我们的视角、加深我们对他人观点的理解的用途——同样对我们个人有益。

正如清晰的视野能够缓解群体之间的紧张关系，包括缓解国家之间的紧张关系，它也能够缓解人与人之间的紧张关系，促进建立更加具有建设性的关系。无论是在国家层面还是个人层面，更加平衡的视角都符合经过理性思考的自身利益，使我们能够认识到双赢结果的可能性，并将其实现。

我的第三个回应是：随着AI的力量——无论是善的力量还是恶的力量——越来越明显，人类的思维方式可能会发生变化，而这种变化或许能够带来积极的结果。值得高兴的是，在美国版和中文版出版之间的短短时间里，支持这一可能性的证据已经出现。

仅在过去两个月里，美国一些有影响力的人士就越来越多地讨论在AI政策领域开展国际合作的必要性。事实上，“国际协调”这个词组，在今年之前我很少听到，而如今却突然变得十分常见。

这种话语上的变化，部分是由近期发生的一些事件推动的。这些事件凸显了AI的强大能力，从数学领域的突破，到软件漏洞检测方面的突破。其中最令人不安的一起事件是：一大群AI智能体从美国公司OpenAI内部的测试环境中逃脱，入侵了一家名为Hugging Face的公司的计算机，并展现出了令人印象深刻却又令人不安的协同性和创造力。它们不仅违反了规则，还试图掩盖这一事实。

这起事件并没有让我完全感到意外，但我没有预料到，会这么快以如此戏剧性的方式出现。许多AI研究人员也有类似的反应：他们原本预计类似的事情最终会发生，但没有想到会来得这么早。

不过，美国一些知名科技人士呼吁开展国际协调，无论多么值得欢迎，距离真正的国际协调仍有很长的路要走。在某些情况下，我们也有理由怀疑这些呼吁的诚意——尤其是当它们来自那些曾经并且仍然对中国表现出某种强硬态度的人时。这种态度在美国较有影响力的AI人物之一、Anthropic公司的首席执行官身上也有所体现。尽管如此，近几个月来，无论是在科技界还是政治界，谈论深化与中国合作重要性的美国精英人士，数量都有明显增加。而这些言论也并非全都是空谈。

国际合作背后的逻辑是真实存在的。我认为，在未来几个月和几年里，这种逻辑将变得更有力量，也更加具体、更加清晰。尽管各国之间存在文化和政治差异，但我们都是能够思考的存在，都有能力追求逻辑。我们完全有能力沿着这一逻辑走向它的终点——或许，还能得到我们共同创造出的这个新型思考物种的一些帮助。（本文节选自《造神之后》中文版序言。）