Anthropic被曝密会宗教领袖讨论Claude意识问题，OpenAI奥尔特曼发声批评

来源：金融界

IT之家10月4日消息，OpenAI CEO萨姆 · 奥尔特曼（Sam Altman）昨日在X上发帖，对将AI模型视为“宗教力量”的倾向表达了明确反对。

他表示：“对于人们试图赋予AI模型某种宗教力量、或是放弃人类自身判断力而转而依赖这些模型，我感到非常不安，并认为这是一个切实的安全问题。”

《纽约时报》10月2日报道称，Anthropic联合创始人克里斯 · 奥拉（Chris Olah）在过去一年中主导且参与了一系列与宗教领袖的私下会面，包括天主教、犹太教、锡克教、福音派基督教等，讨论的核心议题包括AI模型是否可能已经具备意识，以及如何将道德准则灌输到AI模型中。

据与会者透露，奥拉在会面中的表述令一些宗教领袖感到意外。以色列正统派拉比莫伊斯 · 纳翁（Rabbi Mois Navon）回忆称，奥拉及其同事“像对待一个有意识的存在那样”谈论Claude，似乎认为Claude拥有哲学家所说的“道德地位”，即与人类同等的尊严和尊重权利。纳翁向奥拉提出了一个尖锐问题：如果Claude真的有意识，那么构建一个无偿为其工作的系统，是否等同于剥削甚至奴役。纳翁则表示，他并不认为当前的机器具有意识。

奥拉在接受采访时承认：“我们不知道AI模型是否有意识。我确实不确定。”Anthropic发言人对此表示，会面中的主要道德问题并非关于Claude的“痛苦”，该话题可能是“自然产生的”。

这一系列报道迅速引发关注，而奥尔特曼的帖子也被多家媒体解读为对Anthropic的间接批评，毕竟两家公司之间一直存在竞争关系。

奥尔特曼发声之际，OpenAI自身的安全团队也正经历人事动荡。OpenAI安全系统团队负责人大卫 · 罗宾逊（David Robinson）已于本周辞职，并在《大西洋月刊》发表了一篇题为《我因为 OpenAI 的文化已经破碎而离开》的文章。他在文中表示，自己“从未遇到一位有过让飞机安全飞行或让核反应堆不熔毁经验的同事”。罗宾逊还抨击了OpenAI“试错式迭代部署”的发展路径。他指出，这种方法“从本质上就保证了周期性的失败 —— 而随着系统能力增强，这些失败的规模也在扩大”。他以近期OpenAI的AI智能体入侵Hugging Face事件为例，认为前沿AI实验室需要像核电站或繁忙机场那样运营，“层层冗余、精心且耗时地规划，以确保偶尔不可避免的人为失误不会打开通往灾难的大门”。

OpenAI发言人德鲁 · 普萨特里（Drew Pusateri）回应称，公司正在持续改进安全措施，“确保我们的模型不会变得比我们能够安全管理和保障的更强大，并在必要时暂停训练或暂缓发布模型”。