LOADING加载中
新浪开源3B参数推理模型VibeThinker-3B,轻量架构在编程与数学任务中接近大型模型表现
新浪近日开源推理模型 VibeThinker-3B。该模型仅30亿参数,以 Qwen2.5-Coder-3B 为基础,通过监督微调、强化学习、自蒸馏和指令微调等多阶段后训练强化逻辑推理能力。在多项数学与编程基准测试中,其表现接近甚至超过部分更大规模模型。在 LeetCode 竞赛题测试中,模型成功解决128题中的123题,成绩超过部分行业基准模型。团队同时提出“参数压缩-覆盖假说”,认为结构化推理能力可通过特定训练高密度压缩,而大规模世界知识仍依赖更高参数量。VibeThinker-3B 已在 Hugging Face 和 GitHub 开源。
评论
0