Eliezer Yudkowsky，把对AI的恐惧写成畅销书的同人小说作家

Eliezer Yudkowsky

Photo: Not credited by the source (published in the If Anyone Builds It, Everyone Dies media kit) / CC0, via Wikimedia Commons

出生	1979年9月11日美国芝加哥
职业	作家、AI研究者

据报道，萨姆·奥特曼曾向 OpenAI 员工介绍，通往超级智能的竞赛可能以几种方式收场，其中一个情景甚至以一个人的名字命名。“埃利泽方案”设想，某一家实验室率先造出能够自我改进的 AI，随后利用领先优势切断所有竞争对手的算力。奥特曼提起这个方案，只为称它糟糕透顶。随报道流传开来的那句话——“让其他所有人的 GPU 都融化”——呼应了埃利泽·尤德科夫斯基（Eliezer Yudkowsky）本人在一篇 AI 风险文章中举过的例子。他曾把“烧掉所有 GPU”作为一种设想，并立即补充道：“我不认为你真的会想对强大的 AGI 做这种事。”

一位 CEO 用他的名字为某种策略命名，足以说明他的观点传播得有多远；而这场传播几乎全是在纸面上完成的。尤德科夫斯基没有学位，却是一位 AI 研究者；但更重要的是，他是个高产作家：写了数百篇博客文章、一部长篇《哈利·波特》小说，还有一本书名毫不含糊的畅销书。

他于 1979 年 9 月 11 日出生在芝加哥，在一个现代正统派犹太家庭长大，如今已不再信教。长期的健康问题迫使他在初中时退学，此后他既没上过高中，也没读过大学。2000 年，年仅 20 岁的他在布莱恩和萨宾·阿特金斯夫妇的资助下创立了奇点人工智能研究所，目标是加快 AI 的到来。但他很快开始担心自己着手打造的东西；到 2005 年，这家研究所已转而研究如何管理那些比创造者更聪明的机器所带来的风险。2013 年，研究所更名为机器智能研究所，落户伯克利。

2006 年 11 月，他开始认真写作，与经济学家罗宾·汉森一同成为群组博客 Overcoming Bias 的主要撰稿人。该博客关注人类理性。2009 年 2 月，他的文章成为 LessWrong 的起点。这个致力于“完善人类理性之术”的社区博客，后来发展成自称理性主义者运动的主要线上据点。他在上面发表的文章统称为“The Sequences”，探讨认知偏差、贝叶斯定理，以及聪明人如何自欺欺人。2015 年，MIRI 将其中 300 多篇汇编成《理性：从 AI 到僵尸》（Rationality: From AI to Zombies）；2017 年又推出短书《不充分的均衡》（Inadequate Equilibria），讨论社会为何会放任本可解决的问题悬而未决。斯图尔特·罗素和彼得·诺维格在他们的 AI 标准教材中讨论了他的主张，尼克·博斯特罗姆也在《超级智能：路径、危险与策略》（Superintelligence: Paths, Dangers, Strategies）中引用了他。

接下来是小说。《Harry Potter and the Methods of Rationality》（粉丝简称 HPMOR）于 2010 年 2 月 28 日至 2015 年 3 月 14 日在 FanFiction.Net 连载，共 122 章，超过 66 万词。故事只改动了原作设定中的一个细节：佩妮·伊万斯嫁给了牛津大学教授迈克尔·维雷斯，成为孤儿的哈利则在家接受科学教育。于是，来到霍格沃茨的男孩用科学方法检验魔法，也对魔法世界种种自相矛盾之处感到恼火。在拉文克劳学院，他结识了德拉科·马尔福、赫敏·格兰杰和奇洛教授。情节比书中的笑料显得阴暗得多，但作品真正探讨的，是如何思考。

读者对此反应两极。2011 年，《大西洋月刊》记录了同人小说论坛围绕其“亵渎原作——还是对原作的出色演绎”所爆发的争论，并引用科幻作家戴维·布林的评价，称它是“一部出色的系列作品，细腻、精彩，发人深省”。法律学者威廉·鲍德在《华盛顿邮报》上评价得更高：“这是有史以来最好的《哈利·波特》小说，尽管作者不是 J.K.罗琳。”TechCrunch 的阿曼达·西伯林则觉得它“实在太乏味”。有人建议尤德科夫斯基删去罗琳作品的元素，把故事作为原创小说出版——《五十度灰》正是从《暮光之城》同人小说走上这条路——但他拒绝了。“HPMOR 从根本上与原版《哈利·波特》小说紧密相连，只有放在原作的背景下才能理解，”他说。

他的职业生涯颇具讽刺意味：这个最常与 AI 警告联系在一起的人，也曾吸引人们投身于 AI 开发。2023 年 2 月，奥特曼写道，尤德科夫斯基让“我们很多人对 AGI 产生了兴趣”，帮助 DeepMind 获得资金支持，而且“在创立 OpenAI 的决策中发挥了关键作用”。同年春天，尤德科夫斯基在《时代》杂志发表专栏文章，呼吁全球无限期暂停大规模 AI 训练；《时代》随后将他列入 2023 年 AI 领域百大影响力人物榜单。

2025 年 9 月 16 日，他最直接阐述观点的一本书问世。这本书由他与 MIRI 同事内特·苏亚雷斯合著，Little, Brown 出版，名为 If Anyone Builds It, Everyone Dies。书中认为，现代 AI 系统不是被精心设计出来的，而是经由训练“生长”出来的：它们被训练成数十亿个数值权重，连开发者自己也无法读懂。因此，没有人能可靠地为最终比人类更聪明的系统设定目标。作者称，人类面对超级智能会像棋手面对 Stockfish 棋类引擎一样落败，唯一安全的做法就是协调一致地叫停开发。这本书登上了《纽约时报》精装书和非虚构类综合畅销书榜。

评论界的分歧，和当年小说读者的反应如出一辙。大卫·沙里亚特马达里在《卫报》上写道，这本书“论点清晰，结论却让人难以接受”。伊恩·莱斯利在《观察家报》称赞它“条理清楚、活力十足，字里行间洋溢着几乎按捺不住的兴奋”。斯蒂芬·马尔凯在《纽约时报》上将它比作一本科学教手册；《大西洋月刊》的亚当·贝克尔则说得更加直截了当：“他们就是错了。”

此后，这场争论又转向了银幕。尤德科夫斯基与约书亚·本吉奥、蒂姆尼特·格布鲁一同出现在《The AI Doc: Or How I Became an Apocaloptimist》中。这部由丹尼尔·罗赫尔执导的纪录片，讲述人们在 AI 时代成为父母的经历，并于 2026 年 9 月 15 日登陆 Netflix。那个会设计对照实验的男巫少年，与那个希望实验就此停止的合著者，是同一位作家。他仍在邀请读者沿着一连串推理走到尽头，无论最后一步让人多么不安。

标签: 人工智能, 作家, Eliezer Yudkowsky, Harry Potter and the Methods of Rationality, LessWrong, Machine Intelligence Research Institute

Eliezer Yudkowsky，把对AI的恐惧写成畅销书的同人小说作家

更多类似内容

杰米斯·哈萨比斯卸下谷歌DeepMind日常管理，诺奖得主转身为AI呼吁“裁判”

Netflix《AI启示录：一个末日乐观主义者的诞生》：准爸爸把AI的建造者和反对者放进同一部片子

美国三家大型出版社被曝用ChatGPT写图书文案

尤瓦尔·赫拉利：把人类故事写成全球畅销书的中世纪战争史学者

穆斯塔法·苏莱曼：呼吁遏制AI的人如今为微软冲刺超级智能

萨姆·奥尔特曼：向他自己称为危险之物全速前进

讨论