Liquid AI 开源端侧混合专家模型 LFM2.5,主打低算力高推理性能

人工智能初创公司 Liquid AI 发布并开源端侧大模型 LFM2.5-8B-A1B,采用8.3B参数的稀疏混合专家架构,单次推理仅激活1.5B参数,可在手机和笔记本本地运行。模型上下文窗口由32K扩展至128K,预训练数据提升至38T,并引入两阶段强化学习以降低幻觉与推理死循环。在性能上,其指令遵循与逻辑推理能力显著提升,支持Python函数调用及JSON输出,已兼容llama.cpp、MLX、vLLM等主流生态,在M5 Max与手机端均实现较高解码速度。

上一篇:

下一篇:

发表回复

登录后才能评论