腾讯技术团队开源大模型推理统训框架 AngelSpec，面向自回归解码成本高、真实服务吞吐受限等问题，通过多方案协同和异构工作负载适配提升推理效率。该框架针对多轮对话采用多 token 预测机制，并结合训练时测试和端到端总变差损失；针对代码生成、数学推理等任务引入块扩散模型。其核心 DFly 框架结合目标条件编码与前序条件自回归头，并支持动态验证机制，可按在线负载、硬件条件和前缀置信度调整验证深度。腾讯称，在 Hy3 模型系列测试中，DFly 方案在并发数 4 至 64 场景下取得最高平均吞吐量。
