技术

Mistral开放Large 4,在家运行需2.2万美元Mac

Adrian Kessler
在 Google 中添加我们

Mistral 已公开 Mistral Large 4 的全部权重,并给这款模型起了个绰号“Le Chonk”。任何人都可以下载、修改它,并在自己的硬件上运行。法国这家实验室称,它如今是最擅长编写代码和开展防御性安全工作的开源模型;所谓防御性安全工作,包括复现软件漏洞并加以修补。不过,对那些希望在家运行它的人来说,真正的门槛在于模型体量。

Le Chonk 大约有一万亿个参数,每生成一个词,就会激活其中的490亿个参数。据 Hugging Face 称,即使是压缩程度最高的版本——由 llama.cpp 团队和 Unsloth 制作的2位量化版本——也需要一台配备512 GB统一内存的 Apple Silicon Ultra 机器。苹果目前销售的产品中,只有搭载 M5 Ultra 芯片的 Mac Studio 配有这么大的内存;9to5Mac 报道称,这样配置的机器在美国售价为22,299美元。若使用其他硬件运行,则需要多张高端显卡协同工作。

Mistral 对这款模型的主打优势是代码能力。该公司称,它在 Terminal-Bench 4.0 上得分为41%;这项测试考察 AI 智能体在命令行环境中的表现,是开源模型中的最高成绩。Mistral 还表示,在 Artificial Analysis 的编码智能体指数中,它与 GLM-5.3 并列,但每项任务使用的 token 少47%,因此运行成本更低。在 Surge 组织的盲测并排评分中,评审认为它生成的代码优于 GLM-5.3、Kimi K3 和 DeepSeek V4.1 Flash,排名仅次于 Anthropic 的 Claude Opus 5.5。

它在安全领域的卖点主要面向防御方。Hugging Face 称,该模型在 Artificial Analysis 的一项测试中得分为82%;这项测试要求模型复现开源软件中的真实漏洞,然后修复漏洞。Hugging Face 还表示,Mistral 称若干闭源前沿模型在这项测试中的得分接近零,因为它们会拒绝尝试。银行或政府机构可以在自己的服务器上运行该模型,为它提供自有代码和崩溃日志;即使服务提供商修改条款,也能继续使用。Wired 援引 Mistral 科学副总裁皮埃尔·斯托克(Pierre Stock)的话说:“AI 会像电力一样。你不会想生活在这样一个世界里:邻居可以说断电就断电。”

这些数字大多来自 Mistral 自己,测试基准也由 Mistral 选定,外部测试才刚刚起步。在 Artificial Analysis 的综合智能指数中,Hugging Face 将它列为开源模型中的第五名,而非第一名。安全方面的论据也有两面性。Mistral 写道,在预览期间监测实时流量时,公司发现模型“可能会提升实施真实攻击的能力”,因此正在加强防护措施;但公开权重任何人都能下载并重新调优,攻击者也不例外。Wired 援引 Sophos 威胁情报高级总监拉菲·皮林(Rafe Pilling)的话说:“这显然是一种双重用途技术。”

即使拥有合适的 Mac,在家使用也仍要有所取舍。Hugging Face 曾在一台较旧的 M3 Ultra Mac Studio 上运行2位量化版本,速度约为每秒15个 token,日常聊天足够,但处理耗时较长的编码任务就显得缓慢。在四张 Nvidia RTX 6000 Pro 显卡上处理很长的文档时,输出速度则降至每秒约3个 token。此外,把模型压缩到2位也会牺牲准确度,表现不如 Mistral 用于基准测试的完整版。

这些权重已在 Hugging Face 上面向全球开放下载,采用 Mistral Ecosystem Open-Weight License。这是一种经过修改的 MIT 许可证,允许免费使用、微调并开发商业产品,但有一项例外:将模型作为托管服务出售的公司,必须另行向 Mistral 取得商业许可证。其他用户也可以通过 Mistral 的 API 使用该模型,输入 token 每百万个收费0.70美元,输出 token 每百万个收费2.10美元;此外,还可通过 OpenRouter 和 Microsoft Foundry 使用。Mistral 于10月早些时候发布预览版,并在10月29日公开最终权重。苹果表示,配备512 GB内存的 Mac Studio,预计将在11月下旬至12月初发货。

斯托克对 Wired 说:“权重一旦开源,就会传遍整个互联网。想要切断访问是不可能的。”对于没有22,299美元电脑的人来说,挡在面前的那道门槛,就是内存的价格。

标签: , , , , ,

在 Google 中添加我们

讨论

有 0 条评论。