直击WAIC丨加州大学伯克利分校副教授Anca Dragan答21：AI或成人类“经纪人”，警惕控制能力缺失

21世纪经济报道记者 吴斌 上海报道

2023世界人工智能大会于7月6-8日在上海举办，以“智联世界 生成未来”为主题，聚焦通用人工智能发展，营造良好创新生态，拥抱智能新时代，共话产业新未来。

在上海期智研究院主办的世界人工智能大会主题论坛“具身通用人工智能”上，多位海内外人工智能专家齐聚，探讨如何定义并实现能深入人类生活、真正通用的人工智能。

加州大学伯克利分校副教授Anca Dragan在接受21世纪经济报道记者采访时表示，在目前的范例中，我们训练模型进行自我监督，让他们获得预测世界的能力是可能的，特别是如果他们接受了多模式、数据、文本、视频、物理和身体数据等方面的训练，得到一个很好的世界预测模型是可能的，让他们变得非常擅长优化也是可能的。

Anca Dragan是加州大学伯克利分校电子工程与计算机科学系的副教授，负责运营InterACT实验室，专注于人机交互的算法研究。她联合创办并担任伯克利人工智能研究实验室（BAIR）的指导委员会成员，并作为人机可协作人工智能中心（Center for Human-Compatible Al）的联合主持人。她曾获得斯隆学者奖、MIT TR35奖、大川奖、NSF CAREER奖和PECASE奖。

Dragan告诉记者，当你想到数据背后的生成过程时，这有点像人类的大脑，类似人类采取的行动，这有点像复制生成过程，所以人类最终可能会得到非常擅长预测世界和优化事物的“经纪人”。

风险方面，Dragan也提醒，需要警惕控制能力缺失。“如何可靠地为模型设定目标，从而为人类带来有益的结果，我们还没弄清楚，所以我暂且把这当成坏事，控制能力绝对是缺失的，可能还有很多其他缺失的东西。”