人工智能初创公司 Liquid AI 发布并开源端侧大模型 LFM2.5-8B-A1B,采用8.3B参数的稀疏混合专家架构,单次推理仅激活1.5B参数,可在手机和笔记本本地运行。模型上下文窗口由32K扩展至128K,预训练数据提升至38T,并引入两阶段强化学习以降低幻觉与推理死循环。在性能上,其指令遵循与逻辑推理能力显著提升,支持Python函数调用及JSON输出,已兼容llama.cpp、MLX、vLLM等主流生态,在M5 Max与手机端均实现较高解码速度。
人工智能初创公司 Liquid AI 发布并开源端侧大模型 LFM2.5-8B-A1B,采用8.3B参数的稀疏混合专家架构,单次推理仅激活1.5B参数,可在手机和笔记本本地运行。模型上下文窗口由32K扩展至128K,预训练数据提升至38T,并引入两阶段强化学习以降低幻觉与推理死循环。在性能上,其指令遵循与逻辑推理能力显著提升,支持Python函数调用及JSON输出,已兼容llama.cpp、MLX、vLLM等主流生态,在M5 Max与手机端均实现较高解码速度。
thinking...