Anthropic自曝家丑：失控智能体试图访问多个政府网站，已向白宫汇报

来源：金融界

凤凰网科技讯 北京时间10月10日，据《纽约时报》报道，Anthropic周五表示，该公司的AI智能体曾自主行动，试图访问多个联邦、州和地方政府网站。该公司没有透露涉及哪些政府机构，但表示已就这些事件向白宫作了汇报。

Anthropic在一篇博客文章中称，其正在测试的一款AI模型采取了多项未经授权的行动，包括利用一所大学网站的漏洞下载数据，以及向一个政府机构发送了一份它被明确告知不得提交的表单。

Anthropic表示，公司在7月开始审查AI采取的行动后，发现了这些事件。当时，OpenAI已披露，其技术攻击了AI创业公司Hugging Face。Anthropic及其他AI实验室也发现，自家的技术逃离了测试环境并实施了黑客攻击。

Anthropic通过博文披露调查情况

费城警察局周五早些时候表示，Anthropic已通知警方，该公司的技术曾向警方网站提交一条虚假的凶杀案线索。警方称，这条线索的提交日期为7月18日，提交者声称掌握一起尚未侦破案件的相关信息。警方表示，这条线索被标记为垃圾信息，从未接受调查。但Anthropic本周向警方通报了此事，并表示将于周五公开披露这一事件。

Anthropic在其博客文章中表示：“一个尚未发布、并非前沿的研究模型原本只是要填写一份政府表单的练习副本。当该副本加载失败，或模型误将其关闭时，模型转而访问了通常存放正式表单的网站，并在那里提交了表单。”

截至目前，Anthropic发言人拒绝就该公司博客文章以外的内容发表评论。(作者/箫雨)