AI像火还是核武器？真正危险的是这道二选一

人工智能到底应该人人都能用，还是被严密锁起来？

9 月 16 日，投资人纳瓦尔·拉维坎特（Naval Ravikant）在 X 平台给出了一个极简答案：如果人工智能的危险像火，最好让每个人都拥有；如果它像核武器，最好谁也别拥有。

这句话来自 Reddit 前首席执行官黄易山（Yishan Wong）的一篇长文。黄易山认为，围绕人工智能安全的争论经常鸡同鸭讲，是因为人们把两类问题混在了一起。

第一类是“人用人工智能伤害人”。例如诈骗者批量制造假视频，黑客借助模型攻击网络，或者政府利用系统进行大规模监控。人工智能在这里仍是一件工具，危险来自使用工具的人。黄易山认为，让能力不只掌握在少数人手里，可能形成制衡。

第二类是“系统本身失去控制”。假设未来出现远超人类的人工超级智能，英文为 Artificial Superintelligence，简称 ASI，人类可能无法理解、限制或关闭它。按照这种担忧，只要有一个组织率先造出不可控系统，后果就可能波及所有人。因此，解决办法不是把它发给更多人，而是不要让任何人先造出来。

火与核武器的比喻，把两种相反的治理思路讲清楚了。但它仍然漏掉了一大块现实。

官方报告把风险分成了三类

由多国专家参与编写的《国际人工智能安全报告 2026》没有采用“火或核武器”的二分法，而是把通用人工智能风险分成三组：恶意使用、系统故障和系统性风险。

“恶意使用”对应人把人工智能当作作恶工具。“系统故障”包括模型给出错误建议、偏离开发者目标，以及更极端的失控情形。“系统性风险”则来自人工智能进入就业、信息传播和市场之后，对整个社会产生的连锁影响。

第三类很容易被二选一漏掉。比如，一家公司用人工智能替代大量岗位，未必有人怀着恶意；一个推荐系统让谣言传播更快，也未必已经成为不可控的超级智能。但如果许多企业和平台同时做出类似选择，社会仍可能付出巨大代价。

报告同时划出了一条重要事实边界：现有系统还不具备造成“失去控制”所需的完整能力，但与自主行动、欺骗和规避监督有关的能力正在进步。风险何时会出现、概率有多大，专家仍有明显分歧。

因此，不能因为超级智能尚未出现，就忽略今天已经发生的诈骗、偏见和安全漏洞；也不能因为今天的模型仍可关闭，就断言未来不存在失控风险。

同一种模型，可能既像火也像武器

“让更多人拥有”本身也不是天然安全。

开放模型权重，也就是公开模型内部大量参数，可以让研究者检查系统、让小公司参与创新，并减少能力被少数企业垄断的风险。但同一份开放权重也更容易被删除安全限制，开发者很难在模型下载后继续控制它的用途。

反过来，把最强模型全部锁在少数公司手里，能让审计和紧急关停更集中，却也会带来权力集中、外部监督不足和单点失误等问题。

真正要问的不是“人工智能究竟像哪一种旧技术”，而是更具体的四个问题：这个系统能做什么；失败会伤害多少人；能力能否被复制；出事后谁能阻止它。

低风险的学习和创作工具，可以尽量普及；能操控关键基础设施、设计危险物质或长期自主行动的高能力系统，则需要更严格的测试、访问控制和持续监测。不同能力使用不同门槛，比给整个人工智能贴上“火”或“核武器”的标签更接近治理现实。

纳瓦尔的比喻适合作为讨论的起点，却不该成为结论。人工智能不是等待人类挑选的单一物件，它更像一组能力不断变化的技术。真正困难的工作，是在它每次变强时，重新判断哪些能力可以开放、哪些必须上锁，以及谁来证明这把锁真的有效。

参考资料

[1] RAVIKANT N. If AI Is Risky Like Fire Is Risky[EB/OL]. (2026-09-16)[2026-09-17].

[2] WONG Y. There Are Two Distinct Classes of AI Dangers[EB/OL]. (2026-09-16)[2026-09-17].

[3] INTERNATIONAL AI SAFETY REPORT. International AI Safety Report 2026: Extended Summary for Policymakers[R/OL]. 2026[2026-09-17].