小红书大模型推理团队联合北京大学、上海交通大学提出HYPIC服务系统，首次在混合注意力大模型上实现位置无关缓存（PIC），面向RAG、多文档摘要和长程Agent等长上下文负载降低推理延迟。该系统通过缓存线性层段累积转移算子实现常数时间状态组合，并以“缝合窗口”修复全注意力层跨段注意力，同时引入段并行加速冷请求。HYPIC已在SGLang上实现，约14k行Python与Triton代码。基于4个生产级混合注意力模型、5类负载测试，其p50首token延迟较Prefix Cache平均降低3.25倍，同1秒TTFT SLO下可持续QPS提升1.66倍，任务质量与完全重算平均相差1.71分。
