9月23日，黄仁勋公开表示，AI末日论「太过火」。

同一句话里，他给出另一个数字：AI行业高达80%的研发预算，用于验证输出可靠性。

同周，微软、谷歌、英伟达等二十多家巨头组成的自律组织SAFA成立。

技术跑在前面，治理必须补上。

先拆这个80%。它不是训练本身花掉八成预算。

而是整个研发链条中，测试、审计、对齐评估、内容安全、幻觉检测的投入占比。

80%的残酷之处在于：模型真正有价值的能力，只占成本很小一块。

大部分钱花在了「让它别出错」上。

产业界的实际体验，是AI更多时候在犯错，而不是失控。

错一次的代价，在医疗、金融、自动驾驶场景里是不可接受的。

所以钱必须花在验证上。这也解释了为什么模型能力进步远快于大规模采用进度。

能力够了，可靠性没被证明，就没人敢用在关键场景。

验证难，本质上反映了智能的特性：越接近通用，越难穷举边界。

专用系统上线前可以做完整测试，大模型却无法预知会碰到什么问题。

这意味着验证预算不会下降，只会随能力增长继续上升。80%可能只是起点。

SAFA的作用有正有负。

正面看，能在监管尚未到位时提供行业共识，降低各自为战的成本。

负面看，「既当运动员又当裁判」的质疑很自然。

自律能不能有约束力，要看是否公开透明、有没有可执行的惩戒机制。

没有牙齿的自律，只能算倡议。

AI公司正在变得更像航空、医疗那样的传统工程行业。

快速迭代、容忍失败的文化，正在被可靠性文化取代。

这个转变会让行业变慢、变重，也更专业。

数据来源： 9月23日黄仁勋公开访谈；SAFA自律组织成立信息