AI寒武纪消息，在DeepSeekV4发布前夕，DeepSeek联合北大、清华研究团队上线硬核重磅论文，提出一种全新的大模型推理系统DualPath，该系统引入“双路径KV - Cache加载”机制，巧妙利用集群中闲置的...

AI寒武纪消息，在DeepSeekV4发布前夕，DeepSeek联合北大、清华研究团队上线硬核重磅论文，提出一种全新的大模型推理系统DualPath，该系统引入“双路径KV - Cache加载”机制，巧妙利用集群中闲置的网络带宽，将Agentic大模型负载的离线推理吞吐量最高提升1.87倍，在线服务吞吐量平均提升1.96倍，目前这项研究已在包含多达1152张GPU的集群上完成大规模验证，支持DeepSeek - V3.2 660B等顶级大模型。