AI最大的问题是，不会说“不知道”

AI现在给人的观感是六边形战士，写代码、翻法条、生活常识专业问题无所不通。用户默认它像搜索引擎一样，输出的东西至少对应某条真实数据源。

但两者根本不是一回事。搜索引擎抓不到就返回“无结果”，AI抓不到结果却不会停。它遇到复杂问题不擅长承认“这题我超纲了”，而是会顺着自己那套概率逻辑往下编，甚至偷换概念、缝合细节。

麻烦就在这儿，搜索引擎把你引到源头你自己判，AI把你圈在对话里替你判。你顺着它的线索往下做，它再顺着你的追问继续编，两条错误咬合着反复强化，因为它没有被设定何时“终止自己”。

2023年，纽约就有轰动全球的“ChatGPT法律幻觉第一案”。律师施瓦茨交上去6个全是虚构的航空事故判例，以及2025年加州律师穆斯塔法维因21条假引文被罚1万美元外，国内的教训也在同步上演。而在医疗咨询领域，国外曾有患者将AI给出的“替代药物剂量”信以为真，导致服药过量送医；学术圈内，更不乏研究生依赖AI梳理文献，结果引用了一堆根本不存在的作者和期刊，直到投稿被拒才发现“参考文献”全是模型“脑补”的产物。

这些案例里最荒诞的细节在于，模型生成错误信息时的“自信”，和生成正确信息时毫无二致。它没有“我不知道”这个开关，就永远会在超纲时硬撑，在模糊时乱编。所以眼下这波AI普及，真正要补的不是算力也不是语料，是给它装一个“举手投降”的机制。超纲就拒答，拿不准就标注，别硬圆。否则用的人越多，埋的坑越深。