谁来为AI安全买单，戴密斯·哈萨比斯：“资金必须充足，且主要来自产业界”

德米斯·哈萨比斯（Demis Hassabis）今年一直在倡导，最强大的AI系统应在面向公众之前，由一个类似华尔街经纪监管机构的独立机构进行审查。更棘手的问题并非是否该有这样一个裁判，而是谁来为它买单——而谷歌DeepMind首席执行官在一句话中也回答了这一点。

“资金需求将十分庞大，且很可能主要来自行业，才能吸引世界级技术人才，并为大规模测试提供必要的算力资源。”

哈萨比斯在阐述其提案的纲领性文章中写下了这句话，被《马来邮报》引用。匆匆读来，这像是责任担当：护栏需要成本，而打造技术的企业应当买单，而非让公众来承担善后费用。若将其视为一种机制，这却是整个计划的承重线——它决定了裁判最终会为谁的利益保驾护航。

矛盾就藏在这句话里。哈萨比斯希望这个机构保持独立，同时又希望它“主要”由它将要评判的行业来出资。这两个目标相互拉扯，而他选用的模板历史也表明，哪一方往往占据上风。他参照的金融业监管局（FINRA），正是由它监管的券商出资维持。参议员伊丽莎白·沃伦（Elizabeth Warren）多年来一直批评FINRA“更倾向于照顾那些给它开账单的券商公司的利益，而非它本该保护的散户投资者”。

这一反对意见并非边缘之见。高德纳（Gartner）副总裁分析师纳德·赫内因（Nader Henein）称，自我监管根本“不可行”，因为多数供应商缺乏相应能力，而且这种安排“必然”滋生利益冲突。独立分析师卡米·利维（Carmi Levy）更进一步，将该计划描述为“一个为不顾后果往前狂奔的行业量身定制的自利路线图”。即便是抱有同情态度的声音也要求设立防火墙：约书亚·本吉奥（Yoshua Bengio）表示理解其中的务实考量，但他坚持必须“有一条从自愿模式转向强制模式的清晰而明确的路线图”。

这些批评并不意味着哈萨比斯是恶意行事。他领导着AlphaFold背后的实验室——这个系统预测了蛋白质结构，重塑了生物学的研究方式——这一成就让他在前沿能力方面的警告具有真正的分量。正因如此，那句话才更值得细究。房间里最可信的技术声音，同时也是那位提出裁判、起草规则、并安排由接受考核的同一批公司来制定预算的人。自愿提交、发布前短暂的审查窗口、行业资金：每一项让步单独看来都合情合理，但合在一起，它们描绘出一个实验室可以安然相处的机构。

一个安全机制有多独立，取决于它的预算有多独立。决定这个机制最终是保护公众还是保护实验室的，并非那句关于测试前沿模型的话，而是那句关于谁写支票的悄声陈述。

标签: AI safety, AI regulation, Google DeepMind, Demis Hassabis, FINRA, frontier AI