谷歌DeepMind研究员离职发文警告：AI可能“害死所有人”

来源：金融界

来源：环球市场播报

一位最近从谷歌DeepMind辞职的AI研究员警告说，人类能够阻止AI造成广泛危害的时间已所剩无几；他是最新一位公开对这项技术发展方向表达忧虑的业界人士。

“在谷歌，我亲眼见证了AI的发展。我同样对这项技术照目前趋势发展下去感到极度忧心。我真心相信，AI可能害死我们所有人。”Bilal Chughtai周一在X和领英分别发文指出。他表示，自己在DeepMind主要从事AI安全与对齐研究。

Chughtai是近期最新一位对这项技术发出严重警告的AI研究人员。他们担心，AI的能力不断演进，却未必与人类目标一致，最终可能摧毁人类。基层AI开发人员Jacob Coxon本月稍早辞职，并指控两位前东家Anthropic PBC和OpenAI为了“竞逐超级智慧AI”，正在“拿我们的性命下注”。

周末期间，Anthropic首席执行官Dario Amodei发表了一篇3800字的长文，敦促AI界放慢最先进系统的开发脚步，以免这些系统脱离人类控制，造成灾难性伤害。Amodei的呼吁罕见获得OpenAI首席执行官Sam Altman及SpaceXAI首席执行官埃隆·马斯克的声援。

但Chughtai表示，他仍乐观认为，人类有可能让AI安全发展，他的下一份工作也聚焦于此。领英个人资料显示，他目前就职于非营利组织BlueDot Impact；该机构为不同领域的人士提供AI安全相关培训。