DeepSeek联合北大发布DSpark框架:大模型推理速度提升60%–85%
6月27日,联合理速DeepSeek团队与北京大学联合发布《DSpark》研究论文,发布该成果聚焦于推测解码(Speculative Decoding)领域,框架提出了一种革新性的大模度提方法以大幅加速大语言模型的推理过程。
针对现有并行“草稿生成”技术中因Token间关联性薄弱导致拒绝率升高及验证算力浪费的型推问题,DSpark创新性地引入了半自回归架构。升–通过在并行生成主干中嵌入轻量级顺序模块,联合理速该框架有效强化了Token间的发布依赖关系,从而显著提升了草稿生成的框架质量。
此外,大模度提DSpark构建了“基于置信度的型推动态验证机制”。该机制能够根据请求的升–成功概率及系统实时负载,自适应地调整验证长度,联合理速进而最小化无效计算开销。发布离线测试数据显示,框架该方法大幅增加了可接受的生成长度;而在DeepSeek-V4线上部署中,相较于基线模型,推理速度实现了60%–85%的显著提升,并有效缓解了高并发场景下的吞吐量衰减问题。
为促进行业技术演进,论文已同步开源模型检查点及训练框架DeepSpec,旨在推动社区在相关方向的深入研究。
(责任编辑:休闲)
推荐文章
-
三堵墙、百日期、生态壁垒⋯⋯印奇硬闯硬件红海 拆解阶跃智能体终端的理想与现实
每经记者:郑欣蔚 每经编辑:魏文艺台风过境后的上海,潮湿晚风中涌动着人工智能AI)行业的新变量。7月13日晚,阶跃星辰在“阶跃终端品牌暨新一代智能体战略发布会”上,由董事长印奇定调:AI智能体的时代已
...[详细]
-
一批重要国家标准发布,涉及人工智能、电子商务家政服务、家用电器等
近日,市场监管总局国家标准委)正式批准发布508项重要国家标准。这批标准广泛覆盖高新技术、传统产业、节能环保、服务民生、安全生产及百姓生活六大核心领域,旨在通过标准化手段推动产业高质量发展,提升人民群 ...[详细]
-
朱迪·惠特克Jodie Whittaker)将与艾伦·旁派Ellen Pompeo)在Hulu新剧《Chicks》中饰演一对性格迥异的姐妹。该剧讲述了一起突如其来的遗产纠纷,将两个原本毫无交集、仅有半
...[详细]
-
7月15日,A股市场三大指数集体回调,两市全天成交额维持在2.57万亿元的高位。尽管大盘调整,但部分资金并未离场,反而借机逢低布局。数据显示,当日全市场股票ETF含跨境ETF)实现资金净流入超121亿
...[详细]
-
朱迪·惠特克Jodie Whittaker)将与艾伦·旁派Ellen Pompeo)在Hulu新剧《Chicks》中饰演一对性格迥异的姐妹。该剧讲述了一起突如其来的遗产纠纷,将两个原本毫无交集、仅有半
...[详细]
-
没想到有一天,我会看到《辐射:新维加斯》Fallout: New Vegas)的首席设计师Chris Avellone公开表示,观看《辐射》真人剧集时感到“有点尴尬”。这种尴尬并非源于对剧集质量的全面
...[详细]
-
澎湃新闻记者 吴怡近期,蒋方舟硕士论文风波持续引发社会关注。2026年7月5日,中国人民大学以下简称“人大”)发布首份通报,指出蒋方舟硕士论文在部分注释等方面存在学术不规范行为,但当时未发现学术不端证
...[详细]
-
责任编辑:曾琳 UN972 ...[详细]
-
7月16日,据读佳报道,抖音正在内测一项全新的AI互动功能——“互动空间”。目前,该功能已在抖音APP端悄然上线“互动空间广场”。该广场以轻量级、可交互的内容情景或玩法为核心,旨在承载并展示创作者的作
...[详细]
-
据新华社援引路透社16日最新报道,多位消息人士透露,伊朗已向也门胡塞武装发出明确信号:若美国对伊朗电力基础设施发动袭击,胡塞武装将立即实施对曼德海峡的封锁。截至目前,伊朗官方尚未对此消息作出正式回应。 ...[详细]
热点阅读

LV为何起诉国家知识产权局?律师:为以后商标维权扫清障碍|封面深镜
电影《八仙!》点映及预售总票房破4000万
AI算力需求吸走客户 IBM市值蒸发4600亿:CEO公开信说了什么?
杭州大二女生突然要当女主播,全国几十万网友站台!爸爸感叹:为了救弟弟,完全变了个人……
国台办:祖国必须统一,也必然统一,这是任何人任何势力都无法阻挡的历史大势