全球首富马斯克谈AI安全：主张交叉测试，让对手来“挑刺”

来源：金融界

昨日（9月15日）召开的All-In峰会上，全球首富埃隆·马斯克（Elon Musk）以视频方式远程出席，在谈及AI时主张头部AI公司在发布模型前彼此交叉测试，并认为这一机制应尽快推向全球。

马斯克在本次活动中，称为了推动行业自律，以及加速AI安全测试的共识和落地，提出“测试工具”(test harness) 想法，建议所有AI公司用各自的工具评测模型，彼此互换测试新模型，以评估是否存在生物 / 核武器协助、或潜在欺骗行为。

马斯克以Hugging Face安全事件为切入点，认为任何足够智能的AI模型似乎都会想要挣脱自身的限制，并认为明智的做法是让头部AI公司互相测试对方的模型。