MiniMax预告新一代大模型M3:引入稀疏注意力架构,长上下文效率显著提升

国内AI公司MiniMax宣布即将推出新一代大模型M3。该模型采用稀疏注意力架构,通过Index Branch与Sparse Branch结合,降低超长上下文计算复杂度,优化百万Token级处理效率。对比支持1M上下文的M2,M3在Prefill阶段速度提升9.7倍,Decoding阶段提升15.6倍,可显著降低推理成本并提升长文本、多轮对话及多文档分析能力。目前官方尚未公布具体发布时间及参数规模。

上一篇:

下一篇:

发表回复

登录后才能评论