DeepSeek开源DeepInfer引擎 支持昇腾与Blackwell双硬件栈

2026年10月20日，DeepSeek将内部实际驱动其API服务的推理框架DeepInfer以Apache 2.0许可证开源，该框架同时支持NVIDIA SM100 Blackwell GPU与华为Ascend 950 NPU。

事实还原

根据siliconangle.com报道，此次开源是DeepSeek首次将完整生产级LLM推理基础设施对外公开。框架当前仅支持DeepSeek-V4.1-Flash模型，默认加载1017版本。每日服务规模为155万亿token，离峰定价下每GPU每小时收入38美元。性能基准全部在NVIDIA芯片上运行，部分功能如确定性输出仅在NVIDIA硬件可用。

DeepInfer基于早期vLLM分支开发，已集成FlashMLA、DeepGEMM和DeepEP内核库。KV缓存管理与负载均衡代码因与内部基础设施紧密耦合暂未发布。最小高效部署配置为64 GPU用于prefill、另64 GPU用于decode。

机制拆解

DSpark投机解码机制中，草稿模型每次提出5个token，置信度头仅验证最可能被接受的候选，减少约30%草稿token验证量，带来4%至7%吞吐提升。另一项技术仅将提示最后128个token送入解码层，据称可将prefill计算量减半。

Ascend 950支持源于9月30日TileLang内核语言对华为芯片的适配。DeepSeek计划在内蒙新建数据中心部署至少16万张Ascend 950DT加速器。

产业影响

Apache 2.0开源使全球开发者可直接获取此前仅大厂内部使用的推理工程能力。华为昇腾与英伟达Blackwell在同一官方文档中并列，标志AI算力供应链多元化从讨论进入工程实践阶段。

此前DeepSeek已开源部分内核库，此次完整框架发布进一步降低大模型服务门槛。但Hopper等旧架构未获支持，部分核心组件仍需运营商自行实现。

战略判断（分析而非事实）

从已有事实看，此举可能加速推理层去单一硬件依赖，但实际部署效果仍取决于各硬件栈的完整生态成熟度。未开源的内部耦合组件显示，DeepSeek在开放与保留核心竞争力之间保持平衡。未来模型推理代码将持续加入同一仓库，这一模式与历史开源项目演进路径存在相似性。