技术

一封信让Anthropic的Fable 5和Mythos 5在全球下线

一项“出口管制”,遏制不了任何竞争对手没在卖的东西,却立下了遏制一切的先例
Adrian Kessler

美国命令Anthropic切断其最强的两款模型Fable 5和Mythos 5,真正引人注目的并不是它在海外伤到了谁,而是这件事所需的代价何其之小。商务部长的一封信,就足以让它们熄灭——而且不是在某一个国家,而是面向地球上的每一位客户。

这里值得停下来想一想。该举措被包装成出口管制,那套通常留给芯片和卫星的官僚机器。可是出口管制的前提,是存在某种需要遏制的东西。而这里,也许并不存在。

什么都遏制不了的管制

政府给出的导火索是一次jailbreak:证明这款模型可以被诱导去做它不该做的事。Anthropic自己的说法则要狭窄得多,也平淡得多:所谓的手法,不过是让模型读一段代码、指出其中的安全漏洞,而这是安全工程师每天都在做的工作。该公司表示,同样的能力早已存在于眼下正在售卖的竞争系统里,包括OpenAI的最新模型。倘若如此,一项针对某家公司最新两款模型的管制,并没有把底层能力挡在任何人之外。它只是把Anthropic的版本从货架上撤了下来。

这便是官方叙事的第一道裂缝。以国家安全为名的出口管制,本是为了不让对手得到只有你才拥有的东西。而这一次,它没有不让任何人得到——除了被管制的实验室和它自己的客户。作为遏制一项技术的手段,它说不通;作为对一家公司施加的压力,它精准得惊人。

这场冲突并非始于一次jailbreak

对这家公司的施压并非新鲜事。整个冬天,政府都在与Anthropic缠斗:审视它的政治立场和捐助者,随后,在这家实验室顶住五角大楼要求其撤除Claude军事用途安全防护的压力之后,又下令所有联邦机构停用它的软件。高层官员把它的领导层称作“左翼疯子”。在这样的背景下读来,一封在周五傍晚发出、不附任何公开理由的信,与其说是产业战略,不如说更像手边顺手可用的下一根杠杆。

大多数报道盯住了另一种担忧:华盛顿一边把最好的模型用高墙挡在盟友之外,一边继续向中国出售先进芯片,等于把人工智能竞赛拱手让给北京。一位参与起草政府自家AI计划的分析人士称这一决定“令人费解”,其逻辑确实是颠倒的。但中国这个视角是预测,而非事实;追着它跑,反倒会让真正发生的事情溜走。真正发生的,是这套机制本身。

先例才是新闻

由于模型无法实时核验用户的护照,“封锁外国公民”只有一种可行的含义:封锁所有人。Anthropic在全球范围内关停系统,是因为遵令照办之后再无别的门可走。这就是如今写进记录的先例。政府已经表明,它可以伸手进入一家美国私营企业,关掉它最强的产品——在全球范围内,在一个晚上之内,凭一封信,无须公布任何它本应公布的理由,也不留任何企业来得及申诉的程序。

这封由商务部长霍华德·卢特尼克致首席执行官达里奥·阿莫代伊的信,于6月12日美国东部时间下午5点21分送达,援引国家安全权限,要求对这些模型的任何出口、再出口或境内转让都申领许可。Fable 5和Mythos 5公开发布不过短短数日。正以据称9650亿美元估值筹备上市的Anthropic表示,公司认为这是一场误会,正努力恢复访问。它警告说,同一套标准若一视同仁地适用,“实际上将叫停所有前沿模型供应商的一切新模型部署”。

那句警告才是破绽所在。倘若这条规则当真事关安全,它就该约束所有人。它只约束了一家。政府声称所惧怕的那种能力,今天上午仍在出售——由另一家公司提供。改变的并不是中国能造出什么。改变的是:下一封信,将不再需要一次jailbreak来为自己辩护。

标签: , , , ,

讨论

有 0 条评论。