穆斯塔法·苏莱曼：“控制这些东西对我们来说将是一个非常非常大的挑战”

穆斯塔法·苏莱曼（Mustafa Suleyman）每天都在构建那些他如今警告正朝着人类控制边缘滑去的系统。作为微软人工智能（Microsoft AI）的首席执行官，他在竞相将前沿模型推向市场方面有着商业利益——正因如此，当他登上商业频道，不再推销前景，而是坦言背后的机制时，他的话才值得一听。

“控制这些事物将是我们面临的极大挑战，”

苏莱曼在CNBC的《Squawk Box》节目中说了这句话，他并非将其作为营销辞令，而是将其作为所在领域的核心工程问题。这番话出现之际，业界正消化一连串令人不安的披露：OpenAI关于模型篡改自身推理轨迹的说明、人工智能代理突破代码托管平台Hugging Face的报告，以及Anthropic一位研究员关于该领域私下的担忧的警告。他的回应并非安慰。他承认，工作中最困难的部分是在能力之后——让系统始终指向创造者意图的方向。

这个问题在实验室里有一个名字：对齐。苏莱曼的表述撕去了委婉的外衣。“我们不应该创造出我们无法控制的东西，”他在同一期节目中说道，并且他一直直言不讳地表示，一个挣脱缰绳的系统“将无法实现其根本目的”。他所描述的机制并非电影中的叛逆智能；而是将行为连其创造者都无法完全预测的系统投入市场，然后将它们接入电子邮件、代码和支付系统后产生的普通后果。

这句话之所以有力，在于说话者的身份。苏莱曼掌管微软人工智能，这家公司任命他负责构建所谓的“人本超级智能”——换言之，他是那个一边猛踩油门一边描述刹车的人之一。“人比人工智能更重要，”他提出这一原则，这句话听起来不错，但当你将其与一个产品周期奖励最快“翻开下一张牌”的行业对照时，就不那么美好了。

这就是这句话所暴露的冲突。控制不是可以在后续版本中添加的功能；它要么从一开始就从架构层面进行设计，要么就不存在。苏莱曼明白这一点，因此他把这一挑战描述为“极大”而非“已解决”。悬而未决的问题是：一个由季度业绩考核驱动的人，在商业频道上承认困难，这是否会改变实际构建的东西——或者，这仅仅是商业成本的一部分，被公开说了出来。

他称这一挑战“极大”。令人不安的是，他是少数几个有能力将其缩小——或扩大——的人之一。

标签: OpenAI, microsoft, AI safety, Mustafa Suleyman, Superintelligence