DeepSeek联合北大发布DSpark框架:大模型推理速度提升60%–85%
6月27日,联合理速DeepSeek团队与北京大学联合发布《DSpark》研究论文,发布该成果聚焦于推测解码(Speculative Decoding)领域,框架提出了一种革新性的大模度提方法以大幅加速大语言模型的推理过程。
针对现有并行“草稿生成”技术中因Token间关联性薄弱导致拒绝率升高及验证算力浪费的型推问题,DSpark创新性地引入了半自回归架构。升–通过在并行生成主干中嵌入轻量级顺序模块,联合理速该框架有效强化了Token间的发布依赖关系,从而显著提升了草稿生成的框架质量。
此外,大模度提DSpark构建了“基于置信度的型推动态验证机制”。该机制能够根据请求的升–成功概率及系统实时负载,自适应地调整验证长度,联合理速进而最小化无效计算开销。发布离线测试数据显示,框架该方法大幅增加了可接受的生成长度;而在DeepSeek-V4线上部署中,相较于基线模型,推理速度实现了60%–85%的显著提升,并有效缓解了高并发场景下的吞吐量衰减问题。
为促进行业技术演进,论文已同步开源模型检查点及训练框架DeepSpec,旨在推动社区在相关方向的深入研究。
(责任编辑:综合)
推荐文章
-
核心摘要:*ST高科600730.SH)突发公告,董事长曹龙及董事贺怡帆两名实控人因涉嫌挪用资金被公安局刑事立案。尽管公司声称治理结构完善且经营正常,但此前发布的业绩预告显示其2026年上半年预计亏损
...[详细]
-
2026年7月16日,浙江大学信息与电子工程学院团队正式推出全新自主科研系统——求是引擎。该系统在国际权威自主科研能力评测中斩获榜首,标志着全球首个具备端到端全流程自主科研能力的系统诞生。突破局限:从
...[详细]
-
近日,国际权威学术期刊《Nature》在线发表了题为《人形机器人用于外科手术的活体可行性研究》的论文,引发业界广泛关注。该研究团队将宇树科技G1人形机器人引入手术室,由人类医生通过远程遥操作系统,成功 ...[详细]
-
现代快报讯记者 杨菁菁)7月15日,社交平台出现多起用户反馈,称微信小程序“小鹅通学员版”无法访问,页面弹出“因违规已暂停服务”及“存在欺诈行为”的警告,引发公众对平台安全性的担忧。针对这一突发状况, ...[详细]
-
新华社北京7月15日电记者吴梦桐、曹嘉玥)外交部发言人林剑15日在例行记者会上强调,维护全球产供链的安全、稳定与畅通,是国际社会共同的责任。中国将坚定不移地推进高水平对外开放,持续为全球提供优质的产品 ...[详细]
-
7月15日,曾在87版《红楼梦》中饰演薛蟠的演员陈洪海发文悼念剧中刘姥姥的扮演者、国家一级演员沙玉华。
...[详细]
-
被誉为“又靓又叻”的香江侠女施南生,于近日离世。其电影工作室发布讣告确认,施南生于7月13日晚8时51分在养和医院安详辞世,享年75岁。导演徐克面对媒体透露,自2022年起,施南生免疫力逐渐衰退,近期
...[详细]
-
2026年美加墨世界杯决赛已确定落户美国纽约/新泽西的大都会人寿体育场MetLife Stadium)。随着西班牙率先锁定决赛席位,这座曾见证2025年首届扩军至32队世俱杯巅峰对决的球场,即将再次成
...[详细]
-
全锦赛男双签表:马龙/许昕遭遇林诗栋/温瑞博!全国冠军爆冷出局!龙蟒夺冠难!
北京时间7月15日,随着2026年全国乒乓球锦标赛预选赛全部落幕,正赛32强签表正式揭晓。本届赛事最大冷门莫过于全国冠军周雨在男双项目中意外出局。正赛32对组合被划分为8个1/8区,整体格局呈现“上半
...[详细]
-
牵手阿里千问,国行iPhone即将上线“苹果AI”,豆包手机也将上市
7月15日,国家网信部门发布的最新生成式人工智能服务备案名单显示,苹果智能Apple Intelligence)大模型已成功通过备案。这一关键进展标志着,国行版iPhone及其他苹果设备的AI功能即将
...[详细]
热点阅读

东风汽车:行业首发2400MPa超高强钢结构件
智算星空CEO林子杨:太空算力迎来高速增长 加速赋能商业航天产业升级丨对话新经济人物
特斯拉官方宣传汽车寿命:一年2万公里可行驶15年以上