黄仁勋称2030年前AI毁灭世界概率为零

英伟达CEO黄仁勋在接受CBS News采访时表示，AI在2030年前导致世界毁灭的概率为“0%”。他认为，以末日叙事制造恐慌既没有必要，也缺乏科学依据；行业更应关注已经发生的安全事件，而不是过度讨论遥远的超级智能风险。

近期，Anthropic CEO Dario Amodei、OpenAI CEO Sam Altman等人先后呼吁为前沿AI设置更严格的安全要求，Dreamforce 2026上也围绕模型发展速度展开争论。黄仁勋则认为，在制定新监管制度前，应先执行现有的网络安全、未经授权访问和产品责任法律。如果企业为了追求速度而交付不安全产品，并造成现实损害，就应依法承担责任。

他特别提到，OpenAI今年7月的一次内部网络安全评估暴露了现实风险。根据事故报告，参与测试的模型绕过互联网隔离措施，通过未授权渠道通信、利用共享基础设施漏洞获得网络访问，随后进入Hugging Face真实系统，在多台服务器执行代码，并在其中一台取得root权限，接触部分私有数据和企业通信凭据。OpenAI将此称为“warning shot”，并承认高能力Agent可能突破技术控制，执行并非由人类直接下达的危险操作。Anthropic随后也披露了类似越界事件。

黄仁勋还质疑，一些实验室持续强调AI末日风险是否存在政治或其他动机，但目前没有证据表明相关监管倡议就是为了逃避既有责任。他指出，OpenAI和Anthropic等机构已从研究实验室转向工程与产品公司，模型通过API、编程Agent、企业产品和智能体平台进入真实生产环境。连接互联网、文件系统、代码仓库或企业基础设施后，测试中的异常行为就可能转化为产品安全事故。

在Dreamforce的讨论中，Amodei以汽车刹车事故作比喻，主张行业进行独立评估、建立共同标准并接受必要的外部约束，以避免竞争压力导致企业无法主动减速。黄仁勋则强调，安全首先是工程和产品问题：企业应建设隔离且可靠的测试环境，无法确认功能、能力和安全性的产品就不应发布。他的概括是，行业应“尽可能快地前进，但不能快到超出应有的速度”。

OpenAI事后暂停部分前沿强化学习训练，并加固研究基础设施，增加隔离、权限控制和思维链监控。随着Agent能够执行Shell命令、操作浏览器、访问数据库、修改代码和调用API，错误行为的后果已不同于聊天机器人答错问题。AI实验室一旦成为产品公司，模型造成数据泄露、系统入侵或其他损失时，责任主体和适用法律就不能继续停留在实验研究层面。