LOADING加载中
英伟达开源 Nemotron-Labs-TwoTower 扩散语言模型,吞吐量提升2.42倍
英伟达7月1日开源 Nemotron-Labs-TwoTower 扩散语言模型,采用“双塔”架构提升文本生成效率。该模型由冻结的上下文塔处理提示词并保留语言理解能力,去噪器塔负责并行生成和优化 token。在 2×H100 GPU 评测中,模型默认设置保留基线模型 98.7% 的生成质量,实际生成吞吐量提升 2.42 倍。其支持扩散、模拟 AR 和标准 AR 三种解码方式,按 NVIDIA Nemotron 开放模型许可协议发布,支持商业用途。
评论
0