> 当前位置：首页 >

北大联合 DeepSeek 开源 DSpark，大模型推理效率大幅跃升

4S9z2nrYRaGtech.huanqiu***article北大联合 DeepSeek 开源 DSpark，大模型推理效率大幅跃升/e3pmh164r/e3pmtmdvg<article><section data-type="rtext"><p>【环球网科技综合报道】6月28日消息，北京大学与深度求索（DeepSeek）联合推出大模型推理加速框架 DSpark 并完成开源，该技术有效破解大语言模型高并发场景推理效率难题，同等吞吐量条件下可将单用户文本生成速度提升 60% 至 85%，相关论文、训练代码已上线 GitHub 开放共享。</p><p><i class="pic-con"></p><p>当前大语言模型***用自回归生成逻辑，每生成一个文字单元都需完整前向运算，对话响应延迟居高不下。推测解码是主流提速路线，但现有方案存在明显短板：串行草稿模型候选生成耗时随长度递增，并行草稿模型长序列候选接受率快速下滑，高并发场景下算力浪费严重、系统吞吐量受限。</p> <adv-loader __attr__inner="7004636" __attr__style="width: auto;position: relative;float: left;border: 1px solid #ebebeb; padding: 20px;overflow: hidden;margin: 10px 30px 40px 0;"></adv-loader> <p>针对两大核心痛点，DSpark 创新打造双重优化机制。候选生成层面***用半自回归架构，依托改良并行主干网络一次性输出候选基础特征，搭配轻量化顺序模块补充文本前后依赖关系，仅两层 Transformer 结构性能便超越五层传统并行模型，兼顾生成速度与候选质量。验证调度层面创新置信度调度验证机制，通过硬件感知前缀调度器，结合实时算力负载、候选存活概率动态分配算力***，优先验证高可靠文本片段，减少无效计算损耗。</p><p>研究团队选取通义千问 3、Gemma4 等主流大模型开展多场景测试，覆盖数学推理、代码编写、日常对话三大任务。数据显示，DSpark 单轮有效生成长度全面优于 Eagle3、DFlash 两类主流基线模型，以 Qwen3-4B 为例，相比 Eagle3 提升 30.9%、相比 DFlash 提升 16.3%，既保留并行架构首位生成优势，又解决长序列候选有效率衰减问题。</p><p>工程落地环节，研发团队完成多项底层系统优化。训练阶段优化数据传输逻辑、***用序列打包策略降低算力与内存消耗；部署端设计异步调度模式，规避 GPU 流水线卡顿，通过逻辑与物理计算解耦适配动态变长验证需求，兼容主流 CUDA 硬件生态。</p><p>该框架已落地 DeepSeek-V4-Flash、DeepSeek-V4-Pro 预览版服务引擎。线上真实流量实测结果显示，在不同用户响应速度标准（SLA）下，系统整体吞吐量实现跨越式增长：V4-Flash 引擎保障单用户 80token/s 生成速度时，吞吐量较原有基线提升 51%；要求 120token/s 高速输出时，吞吐量优势达 661%；V4-Pro 引擎 35token/s、50token/s 标准下吞吐量分别提升 52%、406%。系统可根据在线并发量自动调整验证文本长度，低负载充分释放算力，高负载平滑控制***竞争，自适应适配多变业务流量。</p><p>据介绍，DSpark 仍存在一定优化空间，复杂低适配查询场景下完整候选块生成会产生固定算力开销。现阶段，深度求索已在 GitHub DeepSpec 项目开源 DSpark、DFlash、Eagle3 全套训练代码、评估工具与模型权重，为行业低成本落地高性能大模型推理服务提供完整技术方案，助力人工智能产业降低线上部署成本、提升用户交互体验。（纯钧）</p></section><img src='/image/156678-0' alt='北大联合 DeepSeek 开源 DSpark，大模型推理效率大幅跃升'> </p> </div> <div class="point"> <span class="to_prev col-xs-12 col-sm-6 col-md-6"><a href="/detail/130638.html" title=" 男子聚餐喝酒后冻死街头，法院表示「4位同事无过错」，如何评价此事？共同饮酒人是否需要承担责任？"> 上一篇 : 男子聚餐喝酒后冻死街头，法院表示「4位同事无过错」，如何评价此事？共同饮酒人是否需要承担责任？ </a> </span> <span class="to_next col-xs-12 col-sm-6 col-md-6"><a href="/detail/130318.html" title="Centos为什么突然没人用了?"> 下一篇 : Centos为什么突然没人用了? </a> </span> <div style="clear: both;"></div> </div> </div> <div class="lists_related"> <h2 class="left_h2">Related News</h2> <div class="list_news related_news"> <ul> <li><a href="/detail/130929.html" title="有一双超级大长腿是什么感觉？">有一双超级大长腿是什么感觉？</a><span class='news_time'>2025-06-27</span></li> <li><a href="/detail/130503.html" title="能分享一下你写过的rust项目吗？">能分享一下你写过的rust项目吗？</a><span class='news_time'>2025-06-27</span></li> <li><a href="/detail/130813.html" title="什么才是真正的爱情？">什么才是真正的爱情？</a><span class='news_time'>2025-06-27</span></li> <li><a href="/detail/130812.html" title="大龄剩女到底要不要妥协结婚？">大龄剩女到底要不要妥协结婚？</a><span class='news_time'>2025-06-27</span></li> <li><a href="/detail/130938.html" title="民航局紧急通知禁止携无 3C 标识及被召回的充电宝乘境内航班，无 3C 标识充电宝有哪些安全隐患？">民航局紧急通知禁止携无 3C 标识及被召回的充电宝乘境内航班，无 3C 标识充电宝有哪些安全隐患？</a><span class='news_time'>2025-06-27</span></li> </ul> </div> </div> </div>  <div class="col-xs-12 col-sm-4 col-md-3"> <div class="left_nav" id="categories"> <h2 class="left_h2">Categories</h2> <ul class="left_nav_ul" id="firstpane"> <li> <a class="biglink" href="/list/jinshengzhen">金胜镇<span class="menu_head">+</span></a></li> <li> <a class="biglink" href="/list/gushanzhen">古鄯镇<span class="menu_head">+</span></a></li> <li> <a class="biglink" href="/list/dingshuizhen">定水镇<span class="menu_head">+</span></a></li> <li> <a class="biglink" href="/list/taiqianxian">台前县<span class="menu_head">+</span></a></li> <li> <a class="biglink" href="/list/chayaxiang">茶垭乡<span class="menu_head">+</span></a></li> <li> <a class="biglink" href="/list/miyangzhen">弥阳镇<span class="menu_head">+</span></a></li> </ul> </div> <div class="left_new"> <h2 class="left_h2">Latest 金胜镇</h2> <ul class="left_news"> <li><a href="/detail/130453.html" title="Windows的伟大之处在哪里？">Windows的伟大之处在哪里？</a></li> <li><a href="/detail/130828.html" title="作为女朋友该不该帮男朋友解决生理问题?">作为女朋友该不该帮男朋友解决生理问题?</a></li> <li><a href="/detail/130978.html" title="河北旅游被低估有多严重？">河北旅游被低估有多严重？</a></li> <li><a href="/detail/130071.html" title="求大神解答，为什么大家都不喜欢用docker？">求大神解答，为什么大家都不喜欢用docker？</a></li> <li><a href="/detail/130155.html" title="如何评价情感反诈模拟器（捞女游戏）里的陈欣欣，她是坏女人吗？">如何评价情感反诈模拟器（捞女游戏）里的陈欣欣，她是坏女人吗？</a></li> </ul> </div> <div class="left_new"> <h2 class="left_h2">Latest 古鄯镇</h2> <ul class="left_news"> <li><a href="/detail/130837.html" title="程序员平时都是CRUD开发工作，真的需要深入理解原理性的知识点吗？">程序员平时都是CRUD开发工作，真的需要深入理解原理性的知识点吗？</a></li> <li><a href="/detail/130024.html" title="正常人吃治疗抑郁症的药会变快乐吗？">正常人吃治疗抑郁症的药会变快乐吗？</a></li> <li><a href="/detail/130958.html" title="本人女20，平胸跟男生一样怎么办 ?">本人女20，平胸跟男生一样怎么办 ?</a></li> <li><a href="/detail/130646.html" title="脸与身材不符是种怎样的体验？">脸与身材不符是种怎样的体验？</a></li> <li><a href="/detail/130501.html" title="民航局紧急通知禁止携无 3C 标识及被召回的充电宝乘境内航班，无 3C 标识充电宝有哪些安全隐患？">民航局紧急通知禁止携无 3C 标识及被召回的充电宝乘境内航班，无 3C 标识充电宝有哪些安全隐患？</a></li> </ul> </div> <div class="left_new"> <h2 class="left_h2">Latest 定水镇</h2> <ul class="left_news"> <li><a href="/detail/130587.html" title="家里的电冰箱用了5年，现在总是发出嗡嗡响的声音，可能是哪里坏了？">家里的电冰箱用了5年，现在总是发出嗡嗡响的声音，可能是哪里坏了？</a></li> <li><a href="/detail/130855.html" title="有哪些长得很无害，实际有毒的植物？">有哪些长得很无害，实际有毒的植物？</a></li> <li><a href="/detail/130484.html" title="女生真正的完美身材是什么样子？">女生真正的完美身材是什么样子？</a></li> <li><a href="/detail/130038.html" title="为什么都说 Finder 难用？">为什么都说 Finder 难用？</a></li> <li><a href="/detail/130231.html" title="消息称苹果 macOS 26 将不再支持部分旧款英特尔 CPU 机型，这背后原因有哪些？">消息称苹果 macOS 26 将不再支持部分旧款英特尔 CPU 机型，这背后原因有哪些？</a></li> </ul> </div> <div class="left_new"> <h2 class="left_h2">Latest 台前县</h2> <ul class="left_news"> <li><a href="/detail/130554.html" title="如何看待M4单核性能吊打9950x?">如何看待M4单核性能吊打9950x?</a></li> <li><a href="/detail/130213.html" title="儿子抑郁四年左右了，他的未来该怎么办？">儿子抑郁四年左右了，他的未来该怎么办？</a></li> <li><a href="/detail/130191.html" title="本人女20，平胸跟男生一样怎么办 ?">本人女20，平胸跟男生一样怎么办 ?</a></li> <li><a href="/detail/130655.html" title="不喜欢老婆找健身房男教练私教，是我太狭隘了吗？">不喜欢老婆找健身房男教练私教，是我太狭隘了吗？</a></li> <li><a href="/detail/130640.html" title="各位前端大触们，一般怎么定颜色的？">各位前端大触们，一般怎么定颜色的？</a></li> </ul> </div> <div class="left_new"> <h2 class="left_h2">Latest 茶垭乡</h2> <ul class="left_news"> <li><a href="/detail/130037.html" title="战鹰真名叫什么？">战鹰真名叫什么？</a></li> <li><a href="/detail/130427.html" title="鱼缸如何有效防止藻类滋生？">鱼缸如何有效防止藻类滋生？</a></li> <li><a href="/detail/130381.html" title="《西西里美丽传说》女主角，在当时打扮这么高调，不觉得带给自己很多不便吗？如何理解她的心态？">《西西里美丽传说》女主角，在当时打扮这么高调，不觉得带给自己很多不便吗？如何理解她的心态？</a></li> <li><a href="/detail/130949.html" title="哈尔滨高温大学生楼道睡觉，学生称体感温度 37、38℃，东北学校该不该装空调？未来东北高温天会更多吗？">哈尔滨高温大学生楼道睡觉，学生称体感温度 37、38℃，东北学校该不该装空调？未来东北高温天会更多吗？</a></li> <li><a href="/detail/130951.html" title="公司有一块纯屏幕，能不能做到让他插上u盘就自动播放里面的***?">公司有一块纯屏幕，能不能做到让他插上u盘就自动播放里面的***?</a></li> </ul> </div> <div class="left_new"> <h2 class="left_h2">Latest 弥阳镇</h2> <ul class="left_news"> <li><a href="/detail/130034.html" title="如何评价上海理工大学 C语言考试，老师不认识vscode 说是切屏***?">如何评价上海理工大学 C语言考试，老师不认识vscode 说是切屏***?</a></li> <li><a href="/detail/130763.html" title="为什么macOS软件生态不敌Windows?">为什么macOS软件生态不敌Windows?</a></li> <li><a href="/detail/130704.html" title="是什么原因导致HDR无法推行？">是什么原因导致HDR无法推行？</a></li> <li><a href="/detail/130531.html" title="我养的小乌龟一天不吃龟食会不会饿死呢？">我养的小乌龟一天不吃龟食会不会饿死呢？</a></li> <li><a href="/detail/130572.html" title="各省的省超出来后（类似于苏超），中超是不是就废了？">各省的省超出来后（类似于苏超），中超是不是就废了？</a></li> </ul> </div> <div class="index_contact"> <h2 class="left_h2">Contact Us</h2> <p style="padding-top:20px;">QQ: </p> <p>Phone: </p> <p>Tel: </p> <p>Email: </p> <p>Add: </p> </div> </div> </div> </div> <nav class="navbar navbar-default navbar-fixed-bottom footer_nav"> <div class="foot_nav btn-group dropup"> <a class="dropdown-toggle" data-toggle="dropdown" aria-haspopup="true" aria-expanded="false" href="#"> <span class="glyphicon glyphicon-share btn-lg" aria-hidden="true"></span> Share</a> <div class="dropdown-menu webshare">  <div class="a2a_kit a2a_kit_size_32 a2a_default_style"> <a class="a2a_dd" href="https://www.addtoany.com/share_save"></a> <a class="a2a_button_facebook"></a> <a class="a2a_button_twitter"></a> <a class="a2a_button_google_plus"></a> <a class="a2a_button_linkedin"></a> </div> <script type="text/javascript" src="/template/moban404/skin/js/page.js"></script>  </div> </div> <div class="foot_nav"><a href="tel:"><span class="glyphicon glyphicon-phone btn-lg" aria-hidden="true"></span>Phone</a></div> <div class="foot_nav"><a id="gotocate" href="#"><span class="glyphicon glyphicon-th-list btn-lg" aria-hidden="true"></span>Menu</a></div> <div class="foot_nav"><a id="gototop" href="#"><span class="glyphicon glyphicon-circle-arrow-up btn-lg" aria-hidden="true"></span>Top</a></div> </nav> <footer> 版权@|备案:<a href="https://beian.miit.gov.cn/" rel="nofollow" target="_blank">粤IP*******</a>|<a href="/sitemap.xml">网站地图</a></p> </footer>  <link rel="stylesheet" type="text/css" href="/template/moban404/skin/css/eonline.css"/> <div id="cmsFloatPanel"> <div class="ctrolPanel"> <a class="service" href="#"></a> <a class="message" href="#"></a> <a class="qrcode" href="#"></a> <a class="arrow" title="Top" href="#"></a> </div> <div class="servicePanel"> <div class="servicePanel-inner"> <div class="serviceMsgPanel"> <div class="serviceMsgPanel-hd"><a href="#"><span>关闭</span></a></div> <div class="serviceMsgPanel-bd">  <div class="msggroup"> <a target="_blank" href="http://wpa.qq.com/msgrd?v=3&uin=&site=qq&menu=yes"><img class="qqimg" src="/template/moban404/skin/images/qq.gif" alt="QQ在线客服"/></a> </div> </div> <div class="serviceMsgPanel-ft"></div> </div> <div class="arrowPanel"> <div class="arrow02"></div> </div> </div> </div> <div class="messagePanel"> <div class="messagePanel-inner"> <div class="formPanel"> <div class="formPanel-bd">  <div class="a2a_kit a2a_kit_size_32 a2a_default_style"> <a class="a2a_dd" href="https://www.addtoany.com/share_save"></a> <a class="a2a_button_facebook"></a> <a class="a2a_button_twitter"></a> <a class="a2a_button_google_plus"></a> <a class="a2a_button_linkedin"></a> </div> <script type="text/javascript" src="/template/moban404/skin/js/page.js"></script>  <a type="button" class="btn btn-default btn-xs" href="#" style="margin: -20px 0px 0px 8px;">close</a> </div> </div> <div class="arrowPanel"> <div class="arrow01"></div> <div class="arrow02"></div> </div> </div> </div> <div class="qrcodePanel"> <div class="qrcodePanel-inner"> <div class="codePanel"> <div class="codePanel-hd"><span style="float:left">Scan the qr code</span><a href="#"><span>Close</span></a></div> <div class="codePanel-bd"> <img src="/template/moban404/skin/images/wap.jpg"/> </div> </div> <div class="arrowPanel"> <div class="arrow01"></div> <div class="arrow02"></div> </div> </div> </div> </div> <script type="text/javascript" src="/template/moban404/skin/js/online.js"></script> <script src="/template/moban404/skin/js/jquery.smoove.min.js"></script> <script>$('.adv_img,.title_h2,.news_box,.foot_logo,.contact_btn').smoove({offset:'10%'});</script> </body> </html>