过去几周我一直在想,苹果是怎么把企业AI这件事做成了当前最划算的交易。两件事让我觉得,苹果其实早就看透了(也可能只是运气好)。Meta刚放出了目前最强的开源权重模型,并专门针对Mac Studio做了优化。同时我也深度体验了Osaurus,这个应用能在仅16GB的Apple silicon笔记本上跑出可用的本地AI模型,全程不需要联网。他们甚至还有两个模型能在8GB机器上跑。
Xserve早在2011年就停产了,但它的精神继承者现在就放在你桌上,而不是机架里。
过去几年大家都说苹果在AI上落后了,因为它没有自己的前沿模型。Siri AI延期,Apple Intelligence落地也磕磕绊绊。现在回头看,我觉得苹果没去卷那场竞赛是对的,因为前沿模型这门生意已经变成了一场烧钱盛宴。每家实验室都在砸几十亿买GPU,就为了当几个月的第一,而一旦某个模型“够用了”,马上就有人放出能在你现有硬件上跑的开源权重版本。
开源权重模型已经证明了这一点:Muse Spark Open有8160亿参数,活跃参数420亿,上下文窗口高达百万token,Meta直接白送。苹果没做这个大模型,它做的是能跑这个模型的硬件。不过话说回来,Siri目前确实还差得远。
苹果把除了前沿模型之外的基础设施全建好了
看看苹果在大家都等着它去跟Anthropic或OpenAI硬刚时,实际交付了什么。凭借Apple silicon的统一内存架构,单台Mac Studio的GPU就能调用最高512GB内存,而不是被显卡容量限制。
MLX是苹果自研的机器学习框架,专为Apple silicon的统一内存架构打造。如果你用过NumPy,会觉得API非常熟悉。在此基础上,MLX还提供了神经网络和优化器的高层封装,以及用于自动微分和图优化的函数变换,让你在构建更复杂模型时依然保持高效率。它同时支持Swift、C++和C绑定,意味着能在所有苹果平台上运行。
苹果自己的机器学习研究博客展示了四台M5 Ultra Mac Studio运行Muse Spark Open时超过每秒36 token的速度,比你阅读还快,而单机功耗峰值仅约300瓦。
Meta官方对这套方案的评价:
苹果的统一内存架构让M5 Ultra的集成GPU在每台Mac Studio上最高能用到512GB内存,所以两台机器就能装下整个模型。芯片1.2TB/s的内存带宽也足够快,能及时读取每个token所需的那一小片数据。最终结果就是,两台Mac Studio表现得像一台拥有1TB统一内存的超级计算机。
我们测试了一系列完全在本地运行的智能体工作流,使用由Muse Spark Open驱动的Muse Code,包括直接把真实的iOS改动推到Ice Cubes(一个开源Mastodon客户端)——修bug、加新功能、完整构建,还能端到端驱动DaVinci Resolve,让模型逐帧分析素材,找出最精彩的片段并裁成竖屏。
这就是为2026年重新打造的Xserve卖点。苹果在2011年停掉Xserve,是因为没人想在数据中心里放一台Mac。后来Mac mini出现,填补了一些新场景。现在,两台Mac Studio就能跑起原本需要一整柜Nvidia硬件和同等功耗才能支撑的模型,而且安静到可以直接塞在桌子底下。苹果从来没打算跟OpenAI、Anthropic或Nvidia正面对抗,它只是把除了前沿模型之外的基础设施全建好了,而市场似乎正在往这个方向走。像MacStadium这样的公司,肯定特别喜欢这个未来。
16GB的MacBook也能跑
Osaurus没有自己的服务器,也没有客户数据库。就算公司明天倒闭,这个应用也会一直跑到macOS把它搞坏为止。个人用户免费使用。付费的Workspaces则是给想在自己多台Mac之间共享智能体的团队准备的。他们还有Windows测试版,我觉得这对苹果来说利大于弊。当同一款应用同时跑在两个平台上时,Mac的统一内存就成了真正的差异点。
结语
和Terence聊的时候,他说他一点也不意外,明年这个时候本地模型就能达到今天前沿模型的水平。我相信他,而这正是关键所在。前沿会继续往前跑,但“够用”也在不断进步,而大多数员工一天里需要的,恰恰是“够用”。苹果在这场AI竞赛里没有去追前沿,而是把内存、带宽和框架都做扎实了,当时大家却说它落后了。
现在,美国最强的开源权重模型,已经专门为Mac优化好了。
















