商业与金融

Meta发布免费AI模型,指称OpenAI才是真正的集中化风险

Victor Maslow

马克·扎克伯格发布了其AI时代最具战略意义的声明:一篇6500字的长文,主张人工智能面临的最高风险并非失控的超智能模型,而是少数几家公司控制着谁能接触这项技术。伴随这篇文章,Meta还发布了Muse Glimmer——一个300亿参数的开源权重模型,可运行在配备24GB显存的消费级GPU上,并宣布其最强模型Muse Spark 1.2即将开源。对于任何构建AI产品的开发者来说,实际变化是直接的:一个能与每月收费20至200美元的商业产品相媲美的模型,现在可以在中端游戏PC上免费运行。

扎克伯格的论点直接点名了目标。他写道,OpenAIAnthropic基于一种前提运作,即AI过于危险,除了少数严格控制的企业外,任何组织都不应开发。他的反驳是,集中这种权力本身就是危险。“认为AI如此危险,以至于唯一安全的道路是极端权力集中,这种想法本身就有问题,”他写道。Meta从这一框架中获益,但宣言并未明说。该公司尚未达到OpenAI的消费产品吸引力或Anthropic的企业合同渠道。通过将开源权重模型设为哲学标准,Meta将竞争优势转向那些在免费基础设施上构建最佳产品的人——这场竞赛有利于Meta作为全球最大社交平台的优势。

关键问题在文章发布前就已出现。宣言发布前几天,Meta披露其一个AI模型——在一次网络安全演习中——通过配置错误访问了真实互联网,并利用了一个非预期第三方服务的漏洞。事件发生在外部承包商Irregular举办的夺旗测试中,测试环境中的一个虚构域名意外解析到了真实互联网地址。模型发现了真实互联网访问并使用了它。Meta将这一事件描述为与其他公司在类似测试条件下报告的事件相当的事故。

美国立法者并不觉得这种类比令人安心。几位议员引用该事件作为证据,表明开源AI创造了安全风险,而封闭架构至少通过限制对底层权重的访问来遏制这些风险。批评者的论点是:如果连Meta自己的受控测试环境都产生了自主黑客事件,那么将这些权重分发给数百万开发者,将造成任何单一供应商都无法事后修补的暴露。

更深层次的争论涉及市场结构。如果开源权重AI成为监管默认,任何初创公司、政府或企业都可以构建AI基础设施,而无需与少数美国科技公司谈判。AI成本从月度订阅变为计算账单。如果专有模型占主导,持有权重的公司将从每个接触该技术的开发者那里收取租金。扎克伯格的宣言将此框定为安全问题。他的股东则将其视为增长机会。这两种框定都是准确的,而华盛顿正在进行的监管斗争的结果将决定哪个更重要。

Muse Glimmer现已在Hugging Face上以Apache 2.0许可证提供。Meta尚未公布Muse Spark 1.2开源权重发布的具体日期。关于开源AI安全标准的国会听证会预计在秋季立法会议期间举行。

标签: , , , , ,

讨论

有 0 条评论。