查尔斯国王警告人工智能开发者：这项技术潜藏’生存性危险’

“那些创造了这些技术的人，如今正越来越多地发出警告：人工智能可能会发展出更黑暗的能力——甚至可能夺走生命。”查尔斯国王选择的这句话，并非针对黑客或敌对国家的警告。它是一面镜子，照向那些构建系统的人，而其中的警示，他归因于他们自己。

这是那场演讲中大部分报道匆匆掠过的一半内容。真正传播开来的，是同一番话中更温和的那句——“这类技术落入错误之手会带来生存威胁”。“错误之手”是一个舒适的框架，如果你正是那个交付工具的人。它把危险推到了外面，推给某个滥用中立工具的恶人，而不是工具本身，也不是那些竞相让它变得更强大的公司。查尔斯没有止步于此。

相反，他把风险重新指向了源头。他说，创造者如今正是拉响警报的人——然后向全场抛出了一个尖锐的问题：“诚然，我们是否需要在一切为时已晚之前，拥有足够的控制手段？”

这句话的分量落在一个词上。“控制”正是这样一场聚会根本无法交出的一样东西。它没有法定权力，不能设定任何企业必须遵守的界限，也不承担任何忽视它的惩罚。最终达成的，是追求“共同原则”的共识——一个描述愿景而非机制的短语。据各方说法，高管们对这次对话心存感激。感激并非保障。

在仪式感之下，有一个容易被忽略的制度性反转。一位君主对英伟达、OpenAI、Anthropic或谷歌DeepMind毫无杠杆可言。他无法给模型发牌照，无法审计训练过程，也无法延缓产品发布。而那些有能力做这些事的人——立法者、竞争监管机构、实际上就坐在房间里的那位大臣——并非召集者。一个拥有象征性权威却无执法权的人，正在请求那些拥有世上一切免于执法之权的人，请你们自我监管。这大致就是整个行业一直以来所偏好的安排。

从这个角度看，这场峰会悄然帮了开发者一个忙。它让故事变成了“错误之手”——那个技术本身没问题、只有滥用才成问题的框架。它将一个关于内在能力的警告——机器沿着自身轨迹发展出“更黑暗的能力”——转化成了一个关于坏人的老生常谈。它还将整件事包裹在王冠的合法性之中，而这王冠无论多么真诚，都无法强制推行它所呼吁的任何一条保障措施。

这场聚会是在国王位于苏格兰艾尔郡的修复后的乔治亚庄园——邓弗里斯庄园举行的。房间里有英伟达首席执行官黄仁勋（Jensen Huang）、谷歌DeepMind创始人德米斯·哈萨比斯（Demis Hassabis）、OpenAI首席财务官萨拉·弗里尔（Sarah Friar）、Anthropic首席全球事务官蒂诺·库埃利亚尔（Tino Cuéllar）、英国人工智能大臣卡尼什卡·纳拉扬（Kanishka Narayan），以及梵蒂冈技术伦理顾问保罗·贝南蒂神父（Father Paolo Benanti）。查尔斯也谨慎地肯定了人工智能的潜力——尤其是在医学领域——并提到了其环境成本。他请客人们确保这项技术“牢牢服务于人类、社区和自然世界”。没有任何具有约束力的承诺随他们离开房间。

于是，这个领域最有权势的人听到了一位国家元首描述他们的产品有能力——凭自身——夺走生命，然后带着他们偏爱的框架完好无损地离开，并收获了一场王室听众作为谈资。国王所要求的控制手段，恰恰仍在他发言之前所在的地方：在他所面对的那些人手中，而非任何其他人手中。

标签: 人工智能, OpenAI, AI安全, AI风险, 查尔斯国王