两大AI巨头联合国发声呼吁建全球安全机制，西方领导人竞相“拉群”

来源：澎湃新闻

当地时间24日，两大人工智能公司OpenAI和Anthropic的首席执行官在联合国安理会演讲时均表示，世界各国必须通过联合国安理会设立某种安全防护机制，以防止该技术变得过于强大而无法加以约束。他们同时呼吁，国际社会应确保AI的力量不会被单一公司或国家所垄断。

Anthropic首席执行官达里奥·阿莫迪表示，如果管理不善，他甚至认为AI可能会给人类带来风险。其竞争对手、OpenAI首席执行官萨姆·奥特曼也给出了这样的评估：“我们可能会将未来的控制权拱手让给AI。”

奥特曼和阿莫迪发表此番讲话之际，其公司正面临着越来越严格的产品安全审查。本月早些时候，Anthropic的研究人员警告称，该技术可能在十年内毁灭人类，引发了公众对人工智能的日益恐慌。此后，包括奥特曼和阿莫迪在内的人工智能公司创始人呼吁放缓推进人工智能的步伐，加强AI安全标准的国际合作。

在10分钟的演讲中，奥特曼盛赞人工智能在提高生产力方面的好处，但警告其被滥用的潜在风险。他也谈及了Anthropic研究人员对AI存在性风险的部分担忧，但警告称切勿陷入“末日论”。奥特曼主张在安全辩论中应当采取一条建立在三项原则之上的“中间路线”：AI系统必须始终处于人类控制之下；AI必须造福人类（从协助医生治疗病患到助力创业者）；这项技术必须“赋能于个人”。

阿莫迪在视频连线中重申了他在9月12日撰文中提出的诸多观点，该文曾呼吁加强对AI的全球合作与监管。他倡议达成多项国际协议，包括禁止利用AI研发生物武器，以及制定用于测试新型AI模型的全球标准。

Hugging Face首席执行官克莱门特·德朗格当天也在联合国发表讲话，呼吁提高开发尖端人工智能模型的私营公司的透明度。他力主广泛传播开源人工智能模型。尽管Hugging Face是OpenAI内部测试模型所发起的的AI黑客攻击]的受害者 ，但德朗格表示，人工智能行业不应该煽动公众的恐惧。

“我们坚信，基于恐惧的叙事方式，对于对这项基础性、赋能性技术的未来做出正确决策，或者让公众与我们保持一致，都是行不通的。”德朗格说道。

英国外交大臣埃德·米利班德在安理会会议上表示，这些科技领袖“正在毫不隐晦地告诉我们：绝不能仅指望由他们来防止灾难降临世界”。

在科技界领袖发表讲话之际，多名政界人士对AI的发展提出了担忧。联合国秘书长古特雷斯此前一天对“杀手机器人”发出警告，专家和欧洲领导人表示这并非夸大其词，而是已成为“严峻的现实”或“迫在眉睫的威胁”。法国外交部长让-诺埃尔·巴罗将当前的AI现状形容为电影《2001太空漫游》中失控的超级计算机HAL9000。

乌克兰总统泽连斯基在联合国大会上发言时指出，必须尽快实现人类对机器的某种控制。否则，对于已经陷入四年半战争的乌克兰来说，可能就为时已晚了。“如今已经存在一种真实的可能性，即战场局势将开始由AI而不仅是由人类来决定。我们必须在走到那一步之前实现和平。”泽连斯基说。

上个月，一架疑似使用人工智能的俄罗斯无人机“自主做出目标选择，导致三名乌克兰人丧生。制造杀手机器人从技术上讲很容易，而且它们确实存在。我们不应该抱有任何幻想。”密歇根大学信息技术教授外山健太郎告诉美联社。

稍早前，加拿大总理卡尼在法国大西洋群岛圣皮埃尔和密克隆群岛与法国总统马克龙讨论了人工智能监管问题。本周，挪威首相斯托雷和芬兰总统斯图布发表了一份两页文件，认为人工智能“必须始终处于人类的指导、监督和控制之下”，并建议建立一个全球监管机制。另据《华尔街日报》披露，斯托雷已发短信给卡尼，邀请加入他们正在制定的监管计划，卡尼表示同意。

然而，美国总统特朗普总统22日在联合国发表讲话时表示，美国将拒绝任何控制人工智能的“全球主义计划”。