梁文锋署名DeepSeek新论文发布,直指大模型“记忆”短板
创始人
2026-01-13 14:40:33

来源:新京报

新京报贝壳财经讯(记者罗亦丹)1月12日晚间,DeepSeek发布了一篇新论文,主题为《Conditional Memory via Scalable Lookup:A New Axis of Sparsity for Large Language Models》(直译为基于可扩展查找的条件记忆:大语言模型稀疏性的新维度),梁文锋再度出现在了作者名单最后。这篇论文为北京大学和DeepSeek共同完成。

新京报贝壳财经记者浏览发现,这篇论文的核心直指当前大语言模型存在的记忆力“短板”,提出了“条件记忆”这一概念。

为了实现“条件记忆”,DeepSeek提出的解决方案是一个名为Engram(直译为:记忆痕迹)的模块,它将语言建模任务拆解为“静态模式检索”与“动态组合推理”两大分支:前者负责实体、固定短语等确定性知识的快速调取,后者则交由Transformer架构专注完成复杂逻辑运算。

论文最后表示,“我们将条件记忆视为下一代稀疏模型不可或缺的建模原语。”

当前,有不少声音猜测DeepSeek的下一代模型将于春节前发布,复现2025年春节期间盛况。这一背景下,此篇论文或为模型的“庐山真面目”提供了方向。

编辑 杨娟娟

校对 杨利

相关内容

热门资讯

起售价11.98万元的优必选仿... 近期,“人形机器人第一股”优必选推出的超仿生人形机器人U1系列,凭借真人比例外观、仿生皮肤,在发售首...
亮点抢先看!第十四届西部电博会... 作为成都APEC数字周重磅配套活动,第十四届中国(西部)电子信息博览会将于7月15日至17日在成都世...
《怪物猎人:荒野》宣布8月4日... 卡普空官方正式宣布《怪物猎人:荒野》基础版将于8月4日开始降价停售豪华版,并推出新的《怪物猎人:荒野...
LOL“怀旧服”上线前,我们和... 在前天刚刚结束的2026英雄联盟季中冠军赛上,历经一场足够胶着的决赛,HLE以3:2击败BLG,拿下...
原创 十... 大家好我是指尖,每一次赛季限定都会成就一批英雄,上赛季的汇流为兵,让一些英雄拿到了限定的T0,而本赛...