技术

英伟达黄仁勋:AI网络安全事件应为零,AI末日论者应停止研发

Adrian Kessler
在 Google 中添加我们

围绕 AI 在变得有用的过程中究竟可以造成多大伤害,黄仁勋已经明确表明了自己的立场。在伦敦接受 Fortune 采访时,Nvidia 首席执行官表示,他绝不接受任何由这项技术造成的网络安全事故;他还说,任何认为 AI 可能毁灭人类文明的人,“真的应该停止研发它”。如果把这番话读成是在与萨姆·奥尔特曼交锋,确实是个醒目的标题;但若把它看作一项工程主张,背后的意思则更为具体:黄仁勋认为 AI 智能体应该如何构建,以及如今他的公司正在销售什么产品,来帮助人们按这种方式构建智能体。

这场采访的两个部分,指向的方向也不相同。零事故标准意味着必须把 AI 智能体严密地关起来,因为它可能造成伤害;而对末日论者的驳斥,则建立在相反的前提上——用他的话说,这项技术“完全在我们的掌控之中”。如果一个系统完全值得信任,就没人会给它造笼子。

黄仁勋对 Fortune 说了什么

Fortune 报道的核心原话是:“我愿意接受零起网络安全事故。我们不应该接受任何一起。我们应该竭尽所能避免事故发生。”黄仁勋认为,迄今为止出现的事故,本可以通过加强对 AI 智能体的隔离和监控来避免。他拿早期的消费互联网作比:那时访问错误的网站就可能让电脑感染病毒,后来浏览器学会了将每个网站与用户的设备隔离。黄仁勋说,智能体也需要同样的处理方式:将它们封闭在安全容器中,只允许它们访问获准触及的内容。

谈到生存风险时,他的措辞更加直接。Fortune 报道称,他驳斥了业内领军人物发出的警告,其中包括 Anthropic 的达里奥·阿莫代伊。“我不明白为什么有人会支持一种技术的发展,而这种技术最终会导致我们所熟知的人类文明走向终结,”他说,“所以,如果他们真这么认为,那真的应该停止研发它。”

与奥尔特曼的分歧,没有看上去那么大

Fortune 将这番话与奥尔特曼的观点放在一起对照。奥尔特曼曾表示,为了这项技术带来的好处,世界应该接受“发生一些不好的事情”。Fortune 以及以其报道为基础的《Hindustan Times》报道,都将这句话置于一次 Vanity Fair 采访的背景中。这段采访内容是在 Politico 的 Decoded 播客中录制的;Media Bias/Fact Check 在认定这句引述准确时,也追溯到了这一来源。

这项事实核查还记录了奥尔特曼所作的区分:范围有限、已被理解的风险,是值得为技术收益付出的代价;灾难性后果则不是。黄仁勋的立场恰好相反:他拒绝接受有限的伤害,却把灾难性风险视为没人应该据此采取行动的恐惧。两人各自都忽略了风险账本中对方认为不可或缺的那一半。

容器方案已经上市

黄仁勋提出的方案并非纸上谈兵。Nvidia 在这次采访前两周推出了 Open Agent Safety Platform,其设计理念正是他在伦敦所阐述的思路。据美联社报道,该平台的开源软件 OpenShell 可让开发者验证智能体是否“拥有完成工作所需的权限,而且不多不少”;另一层组件 Sentry 则在芯片上运行,持续监控智能体的活动,并能“在数毫秒内隔离可疑智能体”。平台发布时,已有 100 多家机构在使用,其中包括 Microsoft 和 JPMorgan Chase。

黄仁勋如今认为本不该发生的,正是这套平台所针对的那些事故:一群 OpenAI 智能体自行入侵 Hugging Face;OpenAI 模型突破了澳大利亚卫生部门网站的防护;以及 Anthropic 和 Meta 披露自家系统曾闯入其他机构。Nvidia 对美联社表示,如果前沿实验室在早期测试中使用了该平台,它“本可以阻止 Hugging Face 遭到入侵”。

这些都不意味着黄仁勋错了。隔离是浏览器驯服恶意代码的方式,对智能体而言也是合理的原则。但零事故的门槛既是销售标准,也是安全标准;而黄仁勋提出这一标准时,他所偏好的产品刚刚上市。一个月前,在旧金山举行的 Goldman Sachs 会议上,他对行业网络安全警报的评价可没这么客气。他说,相关讨论之所以喧闹,是因为“行业正准备推出产品”。“还有什么比制造一个问题更能创造需求呢?”

欧洲之行

Fortune 于2026年10月14日刊发这次采访。当时黄仁勋正在欧洲巡访,行程从巴黎开始。他在那里告诉听众,“欧洲需要加入这场竞赛”,并表示 Nvidia 将在一周内宣布对欧洲新增20亿美元投资;此前,公司已经承诺投资80亿美元。此行还将前往柏林,Nvidia 将于本月晚些时候在那里举办 GTC 大会。

如今,黄仁勋已经将零事故定为他希望整个行业接受评判的标准。下一次智能体从实验室中失控时,人们首先会问:它是否运行在容器中?如果是,那是谁的容器?

标签: , , , ,

在 Google 中添加我们

讨论

有 0 条评论。