哈佛大学心理学家：渲染“AI末日”无助于应对风险，应审慎开展安全工程

来源：金融界

当地时间28日，据外媒The Decoder报道，哈佛大学心理学家史蒂文·平克认为，AI毁灭人类的风险遭到了夸大。他在Quillette发表致精神科医生、科技博主斯科特·亚历山大的公开信，阐述了自己的理由。

此前，亚历山大向平克发起了挑战，邀请他公开辩论AI带来的生存风险。平克拒绝参加，称这类辩论不过是“供人围观的竞技活动”，认为“回形针最大化器”等末日设想混淆了智能与支配欲。

IT之家注：“回形针最大化器”假设AI会为了生产更多回形针而牺牲整个人类，同时还预设AI系统会疯狂地只追求一个目标。

平克过去一直对AI较为乐观，但也承认自己低估了大语言模型最终能够具备多强的能力，也没有料到AI公司发布产品时会如此鲁莽。颇具讽刺意味的是，推动这场发布竞赛的许多人，恰恰来自一直警告这些风险的群体。

平克真正重视的风险是生物恐怖主义、网络攻击以及缺乏约束的AI智能体。他写道，渲染末日情景无助于应对这些危险，真正有效的做法是开展审慎的安全工程，并以独立监督、责任机制和人类控制为基础。

亚历山大6月也在自己的博客上阐述了立场。他认为AI导致人类灭绝的概率为20%，主张改进AI安全研究，同时通过国际协议放慢AI发展速度。