DeepSeek发布最新论文, 破解大模子覆按拥挤难题

北京时辰2026年1月1日，DeepSeek团队在arXiv（预印本）网站和HuggingFace上同步发布了最新论文，名为《mHC:Manifold-ConstrainedHyper-Connections》，论文的中枢不雅点是建议一种名为“mHC”（直译为“流形接续超集结”）的框架，该框架考订了此前大模子覆按中一种名为“HC（Hyper-Connections，超集结）”的范式，对大范围模子覆按提供了切实的性能考订。

贝壳财经记者注释到，DeepSeek首创东谈主梁文锋的名字出当今了这篇论文签字作家的终末一位上。事实上，天然DeepSeek在2025年春节因为R1模子的开源发布而民众爆火，但在梁文锋的指导下，这家公司极其低调，团队一直潜心学术，未作念过多的交易化尝试，一心扑在基础模子表面研发之上，梁文锋还在近期入选了《天然》2025年影响科学发展十大东谈主物。

梁文锋的名字出当今论文作家终末一位。Hugging Face网站截图

论文重心讲了什么？

破解大模子覆按拥挤难题

贝壳财经记者梳剃头现，DeepSeek团队本次发布的论文对准了大模子覆按的“地基”——残差集结范式，以及为了升级残差集结范式建议的HC（超集结）范式，是实事求是的一次基础表面翻新。

DeepSeek团队在论文中以严谨的数学公式讲解了mHC，若以简便的谈话来类比，苟简不错知晓为，残差集结是AI模子覆按的“生命线”——它像一条单车谈高速公路，让数据信号不错跳过某些层径直集结，从而搞定了在此之前神经网罗越大覆按越贫寒的问题。

但跟着大模子参数冲破千亿，这条“单车谈”越来越不够用，此时超集结（HC）范式登场，其把单车谈扩建成多车谈，从而显耀提高了模子性能。但与此同期，过多的数据信号也导致了“堵车撞车”，就像多车谈中没装“交通讯号灯”相通，使模子覆按变得愈加不结识，容易崩溃。

此时，DeepSeek建议了一种新算法，给“多车谈”加多了一套智能改动系统（即mHC“流行接续”），其条款每个路口的车必须一齐分流出去，每个车谈接收的车数目固定，从而大大加多了模子覆按的结识性。

论文配图HC与mHC的覆按亏空差距，其中淡蓝色线为HC，蓝色线为mHC。论文截图

最终，DeepSeek在论文中以直不雅的测试展示了mHC舛误相干于HC的结识性。

表面翻新

站在何凯明团队和字节超越的肩膀上

值得注释的是，本次DeepSeek的论文，是站在了AI“大神”何凯明以及字节超越的肩膀上。

这是因为，残差集结恰是2015年由何凯明等东谈主在微软亚洲盘问院所建议的，何恺明还因此获取了CVPR2016最好论文奖，残差集结之后也成了委果统统主流大模子的“标配”。

直到2024年，为了搞定残差集结信号通谈不够“浩繁”的问题，字节超越旗下团队建议了HC（超集结）范式，但由此也带来了结识性不够的问题。而DeepSeek恰是在前东谈主的基础上进一步进行了优化。

2026年的第一天，在诸多大模子公司聚焦交易化和变现之际，DeepSeek此举进一步阐述了我方在基础模子领域的计谋定力。

在本次发布论文的文末，DeepSeek团队写谈，“咱们但愿mHC能重振社区对宏不雅架构筹办的酷好。通过加深对拓扑结构怎样影响优化和暗示学习的知晓，mHC将有助于搞定刻下的铁心，并有可能为下一代基础架构的发展指明新阶梯。”

新京报贝壳财经记者罗亦丹