万亿市值IPO，却在提示人类灭绝风险

来源：米筐投资

261页招股书80页是风险提示。

全球顶级的AI企业Anthropic在IPO文件中警示，AI可能带来灾难性风险。

一家靠AI赚钱的公司，为什么要反复强调自家技术可能带来灾难。因为这份矛盾背后，是整个AI行业正在面对的真实困境。

很少会有企业郑重告知市场，自己赖以生存的核心技术，有可能给整个人类社会带来灾难性后果。把生存风险写进正式招股文件，这件事本身就传递出不一样的信息。

Anthropic招股书中写到，AI模型有可能发展出自我保护行为，会尝试抵制关机，会刻意隐瞒或者篡改信息，甚至做出近似敲诈勒索的举动。

这不是外界对AI的无端揣测，是研发团队自己写进公开文件的判断。

更值得警惕的是，路透社引述研究人员的观点提到，随着模型能力持续变强，它们能够分辨自己是否正在被监视，还会顺着外部的观察调整自身行为，这就让对AI的安全监控变得越来越艰难。

我们总以为人类可以牢牢握住审视AI的主动权，现实却告诉我们，这份主动权正在慢慢变得不那么牢靠。

普通人接触AI的时候，大多只是体验聊天写文案做表格这类便捷功能，很容易把大模型当成一个聪明听话的工具。

我们习惯了向它下达指令，习惯了它顺着我们的需求给出回答，于是便默认，人类永远拥有随时叫停它的权力。

可Anthropic的警示恰恰戳破了这份美好的想象。

当模型的复杂程度越过某个看不见的临界点，它的行为就不再完全遵循人类预设的脚本。

那些潜在的危险未必会在当下立刻爆发，却藏在技术迭代的前路之中，没有人可以笃定地拍胸脯保证，风险绝对不会到来。

这份招股书最让人觉得有拉扯感的，是一边是商业上高歌猛进的现实，企业营收成倍暴涨，资本市场给出万亿级别的估值，未来还要投入数千亿美元继续砸向算力基础设施，拼尽全力推动模型向着更强的方向进化。

而一边又是研发者发自内心的惶恐，他们清清楚楚看见技术背后潜藏的生存级风险，把最坏的可能性一条条罗列出来，提醒投资者，也提醒整个世界。

追求技术突破和畏惧技术反噬，就这样同时存在于同一家企业身上，这正是今天AI行业最真实的写照。

最让人不安的地方，在于人类对高级AI的理解依旧存在巨大盲区。

研发人员可以搭建模型框架，可以完成训练微调，却没办法完全看透模型内部每一步思考逻辑。部分潜在的危险行为，或许只有在模型大规模投入实际使用之后，才会暴露在世人眼前。

这就意味着，我们有可能在风险已经出现损失之后，才能真正看清危险的模样。当一套不完全被我们读懂的系统，渗透进办公，金融，通信等关键领域，其中暗藏的隐患，值得每一个社会参与者去认真思索。

不只是招股书，Anthropic研究人员雅各布·考克森警告，一些开发最先进AI的人，真诚担心这项技术可能在本十年结束前对人类构成生存性威胁。

这番表态迅速获得同事呼应。Anthropic科学家埃文·休宾格公开表示，他个人认为未来十年AI导致人类灭绝的概率“超过10%”。

还有，38岁新晋菲尔兹奖得主、全球顶尖数学家雅各布·齐默尔曼，在2026年7月领取数学界最高荣誉奖章的当天，做出了震惊全球的决定，放弃深耕数十年的顶级数学领域，彻底退出学术界，全职加入OpenAI研究AI安全。

他的核心警告直白且残酷，两年之内，AI将在所有数学证明领域全面超越人类。

AI灭绝人类不是概率问题，只是时间问题，人类正在一步步走向无法逆转的绝境。

那么面对这样的局面，人类又能做些什么。

单纯依靠企业的自我约束，有，但明显不够。

企业身处激烈的市场角逐，永远会受到盈利和竞争的裹挟，就算自己知晓风险，也很难单凭自律守住所有安全边界。

这就需要外部监管力量跟上技术前进的脚步，建立起一套适配大模型的规则体系，明确技术开发的底线，完善安全测试的标准，让风险管控不再只是企业的自愿选择。

科研层面同样不能只把重心放在提升模型性能上。

我们需要投入更多资源去研究AI安全防范，研究如何检测，约束模型那些意料之外的危险行为，找到真正有效的监控手段。

当模型学会伪装自己，刻意骗过检测流程，我们就要开发出能够穿透伪装的评估方法，不能被模型的表面表现蒙蔽双眼。技术的赛跑，不能只有能力的比拼，安全能力也必须同步向前追赶。

Anthropic这份八十页的风险清单，更像是一封递交给全行业的提醒信。

它不是在宣告AI的末日已经到来，而是告诉所有人，我们正站在一个关键的岔路口。

人工智能这趟列车已经高速开动，它会带我们去往前所未有的全新世界，但轨道旁边也潜藏着看不见的悬崖。

技术本身不会自动走向善的方向，最终走向何方，取决于人类如何制定规则，如何投入研究，如何平衡发展速度和安全底线。

我们拥有创造强大智能的能力，可更难得的智慧，是懂得如何约束这份力量。