苹果与LM Studio实现Mac Studio集群本地运行万亿参数模型Kimi K2.6

在WWDC 2026期间,LM Studio与苹果达成合作,在由4台Mac Studio组成的集群上成功运行万亿参数模型Kimi K2.6。该模型基于MoE架构,通过统一内存实现约1.5TB总内存,满足推理需求,生成速度最高约28 tokens/s,功耗低于传统GPU集群。同时,LM Link支持Mac与iOS设备远程访问,实现端到端加密的本地交互与私有化部署。该演示表明,借助多设备互联与本地推理技术,消费级硬件已具备承载超大模型的能力。

上一篇:

下一篇:

发表回复

登录后才能评论