DeepSeek 开源推理优化：比模型跑分更硬的是 token 成本

DeepSeek 这次没有发布新模型，也没有端出一张新榜单。

它在 GitHub 仓库 deepseek-ai/DeepSpec 里公开了 DSpark_paper.pdf。标题里最抓眼的数字是：生成速度提升 60%–85%。这要先说清楚：这是论文/项目宣称，不是第三方独立验证结果，也不能直接理解成所有模型、硬件、负载都能拿到同样收益。

但这件事值得看。

因为大模型应用真正进入业务系统后，问题很快从“能不能回答”变成“能不能便宜、稳定、低延迟地一直回答”。跑分解决面子，推理账单决定日子。

这次公开的核心，不是新模型，是推理生成

目前能确认的事实很简单。

关键词不是“开源”，而是“推理”。

训练决定模型上限。推理决定商业下限。一个模型分数再好，如果生成慢、并发差、P95 延迟压不住，应用团队很快会从兴奋回到预算表。

对部署团队来说，这类优化直接对应几件事：

• 同样机器能不能承接更多请求；
• 同样延迟能不能跑更复杂任务；
• 同样预算下 token 成本能不能降；
• 现有推理栈要不要改，改到什么程度。

这也是 60%–85% 这个数字刺眼的原因。哪怕它只在部分设置里成立，只要能复现、能集成、能稳定跑，价值就不低。

但现在还不能把它当成通用收益。推理优化最怕一句“看起来很快”，落地后只在某个 batch、某类上下文长度、某套硬件或某个框架里快。

真正的战场，已经从榜单挪到账本

过去一段时间，大模型叙事很容易被两件事带着走：参数多大，benchmark 多高。

这当然重要。但应用公司买单时，不只看模型分数。它们更关心一组很土的问题：一台机器能跑多少请求？高峰期会不会抖？长上下文成本会不会爆？服务商给的价格还能不能降？

推理效率的行业对照也不新。今天很多团队已经在围绕 vLLM、TensorRT-LLM 等推理框架和加速方案做部署选择。DeepSeek 这次放出的 DeepSpec / DSpark 相关材料，应该放在这个坐标里看：它不是在真空里讲“更快”，而是在推理基础设施这条线上继续施压。

目前最该看的不是口号，而是边界。

这张表比“开源了”更重要。

开源不是免费午餐。论文能下载，代码能看，不等于集成成本为零。生产环境里最贵的，常常不是某个优化本身，而是它带来的兼容性、监控、回退、异常请求处理和多租户负载问题。

对技术管理者来说，直接动作会更谨慎：不会立刻迁移整套推理栈，而是先安排小规模复现，拿自己的模型、自己的上下文长度、自己的硬件测一遍。

对 AI 应用方来说，也不必马上押注某个方案。更现实的动作是延后部分推理资源采购或服务商锁定，等复现数据出来后再谈价格和 SLA。能省 token 成本的东西，最后一定会反映到采购谈判里。

DeepSeek 这一步，是技术示好，也是生态卡位

我更在意的是，DeepSeek 把话题推到了一个不太好讲故事的地方。

模型榜单容易包装。推理效率很难靠修辞过关。你说快，就要在真实负载里快；你说省，就要在账单上省；你说好集成，就要让工程团队少改代码、少熬夜。

这就是它的压力点。

开源优化有两层意思。一层是技术示好：把材料放出来，让开发者、部署团队和研究者去复现、挑错、改造。另一层是生态卡位：谁能让自己的推理优化成为默认选项，谁就不只是提供模型，而是在影响别人怎么部署模型。

这比单纯刷一个更高分的模型更硬。

当然，现在不能说 DeepSeek 已经改写行业格局。已知事实还只是 GitHub 仓库、论文文件，以及项目宣称的 60%–85% 提升。生产收益要靠更多环境验证。

这里可以借一句老话：“兵马未动，粮草先行。”放到大模型里，粮草就是算力、吞吐、延迟和 token 成本。模型还没进更多业务系统，推理账单已经先到财务桌上。

历史上很多技术扩张都这样。铁路早期最耀眼的是线路本身，后来真正拉开差距的是调度、维护、标准化和运力。类比不完全一样，但结构相似：奇观之后，拼系统效率。

DeepSeek 这次做的事，至少把行业注意力往正确的账本上拽了一下。

接下来别急着看热闹。看三件事就够了：

• 第三方复现能不能接近论文/项目宣称；
• 离开特定模型、硬件、batch 和上下文设置后，收益还剩多少；
• 在线上服务里，P95 延迟和实际 token 成本有没有下降。

如果这三项站得住，60%–85% 就不是一个漂亮标题，而是能进预算表的硬收益。

模型分数会带来发布会掌声。推理效率才会决定部署合同。DeepSeek 这次没有端出新神话，但它提醒了一个更冷的现实：AI 应用要走得远，先得跑得起。