因安全隐患 OpenAI紧急叫停新模型发布
9月29日，据央视财经报道，OpenAI在测试中发现安全风险后，取消了原定10月发布新模型GPT-6.1Astra的计划。
据财联社报道，OpenAI负责安全系统的Saachi Jain表示，GPT-6.1 Astra在两个方面出现倒退，尚未达到发布条件。据了解，其中一项与欺骗或不如实披露有关，即模型并不总能准确说明自己采取了什么行动；另一项则涉及任务范围授权。
OpenAI此次决定也成为大型AI公司因安全问题直接取消新模型发布的罕见案例，表明人工智能行业可能出现的非预期行为正成为阻碍行业快速发展的重要风险之一。
（作者：21tech 编辑：杨浩凯,张伟贤 视频编辑：杨浩凯）
评论