【DeepSeek元旦发布新论文 开启架构新篇章】
DeepSeek在元旦发布了一篇新论文,提出了一种名为 mHC (流形约束超连接)的新架构。该研究旨在解决传统超连接在大规模模型训练中的不稳定性问题,同时保持其显著的...
【DeepSeek元旦发布新论文 开启架构新篇章】
DeepSeek在元旦发布了一篇新论文,提出了一种名为 mHC (流形约束超连接)的新架构。该研究旨在解决传统超连接在大规模模型训练中的不稳定性问题,同时保持其显著的性能增益 。这篇论文的第一作者有三位:Zhenda Xie(解振达)、Yixuan Wei(韦毅轩)、Huanqi Cao。值得注意的是,DeepSeek创始人&CEO梁文锋也在作者名单中。
编辑回复