技术

苹果Mac mini M6本地AI推理 899美元起售

Susan Hill

过去,运行自己的AI模型意味着要拥有大多数人从未接触过的硬件:服务器机架、比笔记本电脑还贵的GPU卡,以及远程计算服务的订阅。如今,M6 Mac mini——这个厚书本大小的灰色小盒子——只需899美元,就能在桌面上完成同样的工作。

这个价格之所以重要,是因为它将本地AI(即无需向远程服务器发送数据即可完成推理)拉入了许多专业人士已经预算内的设备范畴。苹果的基准测试显示,在LM Studio中,M6处理大语言模型(LLM)提示词的速度是上一代M4机型的4.8倍。通俗点讲:以前需要专用硬件才能运行的大语言模型,现在可以在这台设备上完全离线运行。

M6芯片内部搭载了双16核神经网络引擎——两个神经加速器协同工作——苹果称其神经计算速度是上一代的两倍。该引擎搭配12核CPU和12核GPU,统一内存带宽达170 GB/s。标准配置为16GB统一内存,最高可扩展至32GB。

它能在设备本地处理的工作负载包括:用于图像生成的扩散模型、实时照片风格迁移、多步骤AI智能体,以及完整的大语言模型推理——全部本地运行,无需订阅。macOS 27中的Apple Intelligence通过操作系统本身提供了其中许多功能,而LM Studio等工具则允许用户加载并运行任何他们想使用的开源模型。

为了说明变化有多大:苹果的数据显示,M6的LLM处理速度是五年前M1 Mac mini的13.5倍。而M1在当时几乎无法实际运行任何本地AI工作负载——M6可以。

对于需要更高内存上限或更强多核性能的用户,搭载M5 Pro芯片的Mac mini也以1699美元的价格同步发售。现已开放预购;两款机型将于9月22日发货。

然而现实是存在门槛的。一台899美元的主机仍需要搭配显示器、键盘和鼠标,这推高了实际入门成本。而且本地AI推理并不比云端AI更简单——你需要自己寻找模型、管理更新,并处理通常由云端抽象化的基础设施。目前,最适用的人群是:不希望数据离开办公场所、注重隐私的专业人士;希望快速推理而无需按token计费的开发者;以及需要持久本地终端的研究人员。

这群人一直在等待一款定价像工具而非服务器的硬件。如今,随着M6的发布,苹果终于开始为他们而造。

标签: , , , , ,

讨论

有 0 条评论。