AI有10%概率毁灭人类？黄仁勋再斥“AI末日论”：毫无科学依据！

来源：东方财富网

英伟达 首席执行官黄仁勋近日在一次专访中再度驳斥了“AI末日论”。不过，他也强调了开发人员的安全责任，指出无法控制的AI系统不应被发布。

针对被誉为“AI教父”的多伦多大学名誉教授杰弗里·辛顿提出的“AI让人类文明终结的概率大概在10%左右”这一观点，黄仁勋称此类言论“不负责任”，并呼吁“停止做出此类预测”。

黄仁勋表示，10%这一数字没有任何科学依据，只是一位知名科学家的个人直觉。披上权威的外衣之后，它对公众认知的干扰非常大。这一预测可能会不必要地加剧年轻人对未来就业前景的焦虑。

不过，黄仁勋并未完全否认AI存在风险。他援引近期OpenAI的一个AI智能体 在测试期间访问Hugging Face系统的案例表示：“如果开发人员无法安全地控制AI，就不应该发布该产品。”

针对“竞争使得放缓AI开发变得困难”的说法，黄仁勋反驳道：“如果产品没有准备好，就根本不应该发布。”

他强调，企业在提升模型性能的同时，应在评估、对齐、隔离和监控技术上投入同等资源，而不是推迟开发进程。 “安全也是AI技术的一部分。”他总结道。

在黄仁勋发出上述言论之际，围绕AI失控的担忧正愈演愈烈。

OpenAI日前对外表示，已暂停其最新一代人工智能 模型的训练、评估，以及支持工具调用的推理工作，起因是内部测试中的AI智能体突破沙盒网络限制，触发安全预警，公司将借此机会升级安全隔离与对齐监控体系。这也是OpenAI三个月内第二次叫停前沿模型开发工作。

目前，美国科技界围绕AI风险的辩论已经形成了两大阵营。英伟达CEO黄仁勋与美国总统特朗普一道，反对“AI减速论”。

特朗普上周日再次重申了其反对减缓AI发展速度的立场。他表示，美国不应仅仅因为风险就放弃一个潜在规模达数万亿美元的产业。

黄仁勋近日多次驳斥行业内日益盛行的“AI末日论”，强调该技术绝不会给人类带来灭顶之灾。他认为，AI行业没有必要出台任何新法律，AI公司与其恳求美国政府干预，不如等到确认产品安全后再发布。他还指责美国头部AI实验室负责人要求监管的警告过于虚伪，称其是想豁免现有法律约束。

（文章来源：财联社）