数据世界
产业资讯 宏观经济 企业动态 人物动态 科技数码 数据洞察 AI前沿 行业峰会 热点资讯

梁文锋参与!DeepSeek联合北大发布DSpark框架 提升大模型推理效率与速度

2026-06-28来源:天脉网编辑:瑞雪

当行业还在聚焦大模型“智力竞赛”时,DeepSeek另辟蹊径,将研发重心转向提升模型推理效率。近日,该团队联合北京大学在GitHub发布最新研究论文,公开了其自研的推理加速框架DSpark,并同步开源模型权重与训练代码,试图破解大语言模型在高并发场景下的性能瓶颈。

论文核心聚焦于自回归生成机制的固有缺陷——每个新词元的生成均需依赖完整前向传播,导致输出越长、延迟越高。这种特性直接引发两大问题:GPU资源利用率低迷,以及用户等待时间呈指数级增长。尤其在实时对话、多轮智能体协作等对延迟敏感的场景中,该问题已成为制约模型落地的关键障碍。

研究团队指出,现有解决方案存在明显短板:自回归草稿模型(如Eagle3)虽能保证生成质量,但系统吞吐量受限;并行草稿模型(如DFlash)虽提升效率,却牺牲了部分输出准确性。更关键的是,两类方案均缺乏动态负载调节能力,难以适应复杂多变的实际需求。

DSpark框架创新性采用半自回归架构,通过融合并行主干与轻量级串行模块,在保持高吞吐优势的同时,逐词元注入前缀依赖信息。该模块提供两种实现路径:马尔可夫头仅依赖前一词元,实现极低计算开销;RNN头则通过循环状态累积完整上下文,平衡效率与准确性。实验数据显示,两层Transformer结构的DSpark在所有测试领域中,均超越五层DFlash的接受长度。

实际部署效果印证了技术突破的价值。在DeepSeek-V4在线服务系统中,DSpark在相同吞吐量条件下,将用户端生成速度提升60%-85%。当该框架应用于阿里Qwen3系列模型时,4B、8B、14B版本的单轮可接受词元长度,较自回归草稿模型分别提升30.9%、26.7%、30%,较并行草稿模型提升16.3%-18.4%。

值得关注的是,DeepSeek创始人梁文锋直接参与论文研究,这从侧面反映出企业对技术落地的重视程度。通过开源模型权重与训练代码,研究团队不仅为学术界提供研究基准,更为工业界部署高效推理系统开辟新路径。这项突破或将重新定义大模型的应用边界——在追求智能上限的同时,通过工程优化释放底层算力潜能。

三星Galaxy S27系列获认证:四款机型齐登场 2nm芯片成标配新亮点
快科技6月27日消息,三星Galaxy S27系列已正式获得GSMA认证,该系列共包含四款机型,分别为Galaxy S27、Galaxy S27Plus、Galaxy S27 Pro以及Galaxy S27…

2026-06-28

OPPO Find X9与X9 Pro价格跳水,一文读懂两者差异助你精准选购
如果你追求极致的性价比,渴望单手握持的舒适度,并且对两亿像素没有刚性需求,那么补贴后的OPPO Find X9绝对是闭眼入的香饽饽;而如果你是一个手机重度用户,对影像画质有偏执的追求,想要顶级的续航和更顶级的…

2026-06-28

小米17 Max与Pro Max怎么选?一文详解屏幕续航影像差异助你决策
说白了,小米17 Max是一款主打大屏+长续航体验的旗舰机型;而小米17 ProMax则多了几分极客的傲娇,如果你追求走在街上掏出手机点亮背屏的吸睛度,那多花的预算基本就在这儿了。 而如果你是一个影像发…

2026-06-28