7月28日,月之暗面开源2.8万亿参数大模型 Kimi K3,并发布模型权重与技术报告。同日,摩尔线程宣布,基于 AI 训推一体智算卡 MTT S5000 及 MUSA 软件栈,已完成 Kimi K3 的适配与稳定运行。Kimi K3 支持100万 token 上下文窗口和视觉理解,采用 Kimi Delta Attention、Attention Residuals、Gated MLA、Stable LatentMoE 等架构设计,面向长程编程、知识工作和复杂推理等场景。
7月28日,月之暗面开源2.8万亿参数大模型 Kimi K3,并发布模型权重与技术报告。同日,摩尔线程宣布,基于 AI 训推一体智算卡 MTT S5000 及 MUSA 软件栈,已完成 Kimi K3 的适配与稳定运行。Kimi K3 支持100万 token 上下文窗口和视觉理解,采用 Kimi Delta Attention、Attention Residuals、Gated MLA、Stable LatentMoE 等架构设计,面向长程编程、知识工作和复杂推理等场景。