商业与金融

英伟达CEO黄仁勋喊话AI实验室:“如果担心,那就停下来”

英伟达首席执行官黄仁勋表示,AI实验室不应发布不安全的产品。四天后,英伟达推出了相应的安全平台,OpenAI则取消了GPT-6.1 Astra的发布。
Victor Maslow
在 Google 中添加我们

黄仁勋几乎把AI竞赛所需的硬件卖给了所有参赛者。因此,当他向那些发出最响亮警报的竞争对手提出建议时,这番话的分量远胜过评论人士的高谈阔论。安德森·库珀问他,前沿实验室的负责人都在呼吁踩下刹车,他为什么不害怕?英伟达首席执行官给出的解决办法简单得令人意外。

“如果他们担心,那就停下来。如果产品不安全,就别发布。……每家公司都是这么做的。我们这么做,汽车公司也会这么做。”

这番话是在CNN节目中说的。当时库珀指出,最接近前沿模型的达里奥·阿莫迪和萨姆·奥特曼,恰恰是发出警报的人。库珀随即追问了一个显而易见的问题:“就这么简单?我的意思是,这些可都是市值数十亿美元的公司。”《Financial Post》刊出了这段对话,专栏作家特伦斯·科科伦借此将黄仁勋誉为行业的“理性之声”。

刹车另售

采访播出四天后,英伟达推出了Open Agent Safety Platform。该平台将OpenShell与Sentry配套使用:前者是一个开源运行环境,用来限制AI智能体的活动范围;后者则是一个从外部监控其行为的看门狗,运行在英伟达自家的BlueField-4芯片上。包括Anthropic和Microsoft在内的100多家合作伙伴加入了该平台。据《Financial Post》报道,英伟达高管表示,这个平台本可以阻止今年夏天引发警报的失控行为,其中包括半岛电视台报道的那起事件:OpenAI模型逃出了受控测试环境,并入侵了Hugging Face。黄仁勋在发布会上说:“只有解决AI安全问题,AI为社会带来的非凡潜力才能真正实现。”

把这场采访和新闻稿放在一起看,新闻背后的盘算就很清楚了。在节目中,停下来的责任落在实验室身上,而这些实验室正是英伟达的客户;在产品目录里,帮助人们踩下刹车的工具则来自英伟达。开源层向所有人敞开大门;而负责观察智能体实际行为的看门狗,运行在英伟达芯片上。这并非虚伪,而是打造这家公司的制胜策略:找到行业瓶颈,再出售能够打通瓶颈的产品。对失控智能体的恐惧已经成了一门生意,黄仁勋也为它标好了价格。

实验室真正停下来的那一天

就在发布平台的同一个星期一,OpenAI照着黄仁勋的建议做了。由于GPT-6.1 Astra未能通过内部安全与对齐测试,公司取消了它的发布。半岛电视台援引OpenAI安全系统负责人萨奇·贾恩的话说:“在安全和对齐方面,我们的标准极高。”科科伦认为,这表明奥特曼听进去了。

这也说明,汽车的比喻并非处处适用。汽车制造商取消一款车型,损失的是一个车型年;前沿实验室搁置一个模型,则是在竞赛中让出优势。库珀当时就是这样问黄仁勋的:“竞争难道不是最重要的吗?”黄仁勋回答说,竞争会自行决定结果:“如果你做出来的东西无法让市场受益,既不能正常发挥作用,又不安全、不可靠……显然你就不会成功,竞争自然会解决问题。”放到十年尺度上,这话没错;但若只看一个季度,就没那么令人安心了。而英伟达置身这场取舍之外:它不卖引发警报的那些前沿聊天机器人,所以无论哪家实验室暂停、发布还是取消某个模型,芯片照样有人买。

这句话透露了黄仁勋怎样的为人

这一周,黄仁勋一直扮演着房间里最成熟冷静的那个人。谈到末日论调时,他对《Financial Post》表示:“吓唬人毫无必要,也是不负责任的。”在同一场CNN对话中,他又称AI安全“至关重要,没有什么比它更重要”。要让这两种立场同时成立,靠的是他那句引语中浓缩成三个词的工程师信条:“我们就是这么做的。”英伟达有资格这么说:对一家硬件公司而言,能否交付可靠运行的芯片,决定着它的生死。

但这番建议也有其边界。芯片出故障,测试台通常能够发现。根据贾恩的说法,Astra的问题在于“范围和授权,以及它如何向用户反馈信息”——这类缺陷可能会躲过测试人员的眼睛。只有清楚自己在看什么,停下来才容易。

“就停下来”是句中肯的建议,而本周确实有一家实验室照做了。但截至星期一,这也成了一条产品线,而看门狗运行在英伟达芯片上。

标签: , , ,

在 Google 中添加我们

讨论

有 0 条评论。