OpenAI首席执行官奥尔特曼列出AI三种终局，两种早在2023年就已提出

OpenAI首席执行官萨姆·奥尔特曼向员工描绘了超级智能竞赛可能如何收场，而其中最耐人寻味的一点，是这些设想大多并不新鲜。他向员工介绍的三种终局中，有两种与公司多年前写下的构想十分接近，但都从未真正付诸实施。第三种则是引发媒体关注的那个设想，奥尔特曼提到它，只为明确排除这种可能。

撇开各种名称不谈，每种方案回答的都是同一个问题：谁能控制前沿模型运行所需的算力？据报道，奥尔特曼在内部发言中也解释了，为什么这个问题总是一再被搁置。

萨姆·奥尔特曼对OpenAI员工谈了哪些AI终局

The Information最先报道了这场内部演讲，并援引知情人士的说法；随后，The Decoder、Forbes和Latin Times也跟进了报道。相关信息均来自匿名消息源。第一种方案是仿照国际原子能机构（IAEA）设立一个国际机构，对前沿AI实验室执行安全标准：检查系统、要求审计，并监控算力和能源使用情况。两名知情人士告诉The Information，奥尔特曼似乎支持这一方案。

他把第二种方案称为“杰米斯方案”，名称来自Google DeepMind联合创始人杰米斯·哈萨比斯。大约十年前，哈萨比斯曾提出建立一个类似欧洲核子研究中心（CERN）的AI机构。在奥尔特曼的设想中，领先实验室合并为一个实体，或在其统筹下开展工作，再由这个实体向合作国家提供模型。

第三种方案是“埃利泽方案”，以AI安全理论家埃利泽·尤德考斯基命名。某个开发者率先实现自我改进型AI，并利用随之而来的经济实力，让所有竞争对手都得不到算力；用那句广为流传的话来说，就是“把其他所有人的GPU都融化掉”。据报道，奥尔特曼说：“显然，我觉得这个方案糟透了。”他还表示，把它列入其中只是为了“完整起见”。

OpenAI早在2023年就写下了这份方案清单的大部分内容

监管机构是这份清单中最早出现的设想。在一篇由奥尔特曼、OpenAI总裁格雷格·布罗克曼和时任首席科学家伊利亚·苏茨克维尔共同署名的文章中，公司认为，世界“最终可能需要一个类似于负责超级智能事务的IAEA的机构”——一个有权“检查系统、要求审计”，并能限制能力或算力超过特定门槛的系统部署的机构。

同一篇文章还勾勒了另外两条路径。文章称，各国主要政府“可以设立一个项目，让目前的许多相关工作都纳入其中”，这与奥尔特曼如今归功于哈萨比斯的合并方案十分相似。另一种可能是，整个行业“集体同意”，将“前沿AI能力每年的增长速度限制在某个水平”。

最后这句话说的就是速度上限。据The Decoder报道，奥尔特曼曾在内部抱怨，针对AI发展设定“速度上限”的可行提案太少。可他的公司自己就曾公布过一个。它始终没有做到的，是找到一个有权执行这一限制的人或机构。

监管机构为何停留在纸面上：OpenAI称自己无法放慢脚步

同一场会议也给出了原因。据报道，奥尔特曼告诉员工，前两种方案都需要高度协同，而眼下OpenAI不能承受让出优势的代价；与此同时，OpenAI和Anthropic都在朝着公开上市迈进。Crypto Briefing解释了其中的投资逻辑：准备上市的公司会努力巩固自身优势，而不是把优势交给一个联盟。

要建立AI版IAEA，还得让华盛顿和北京同意检查人员进入各自最敏感的实验室。Forbes指出，至少目前，美国提出的让两国相互通报危险AI事件的方案，也仍只是一个初步构想，尚未成为协议。

实验室实际推进的治理项目是FINRA，而不是IAEA

目前真正推进中的治理项目，与奥尔特曼提出的三种方案都不相同。OpenAI、Google和Anthropic正在筹建一个自律组织——前沿AI标准管理局（Standards Authority for Frontier AI），仿照美国经纪商监管机构FINRA这一私人组织。Latin Times称，该组织的框架将涉及发布前测试、事件报告和审计员资质认证，但不具备强制执行权；三家实验室对于由谁来测试新模型，也仍存在分歧。Meta首席执行官马克·扎克伯格和Nvidia首席执行官黄仁勋认为，这类规则主要是在保护现有行业巨头；而美国一宗反垄断诉讼已经指称，实验室之间的安全协作实际上构成了卡特尔。

这些方案的名称也值得重新审视。尤德考斯基最初提出的“烧掉所有GPU”，是一个思想实验，探讨为了阻止一场鲁莽的竞赛，一个目标一致的系统需要采取多么极端的行动；他也写明，这并不是他真正希望发生的事。奥尔特曼所说的“埃利泽方案”，却把这道紧急刹车改写成了垄断式胜利。据The Decoder转述的报道，一名消息人士称，考虑到尤德考斯基与Anthropic的关系，这番话被解读为对竞争对手的挖苦。

据The Information报道，OpenAI计划在一年内决定选择哪条路径。这个行业标准组织则计划于2026年末或2027年初启动。

在OpenAI作出选择之前，它仍在沿着那条不在奥尔特曼清单上的道路继续前进：竞赛本身。

标签: OpenAI, Sam Altman, Demis Hassabis, AI regulation, Eliezer Yudkowsky