DeepInfer 开源了:DeepSeek 自家生产推理引擎大曝光
DeepSeek 在 2026-10-20 以 Apache 2.0 开源推理框架 DeepInfer,仅跑 DeepSeek-V4.1-Flash,支持 NVIDIA SM100 与 Huawei Ascend 950。官方自报日吞 155 万亿 tokens、缓存命中 96%、首 token 约 400ms。
专注分享 AI 工具、效率软件、开源项目、自动化工作流,数字游民、宝藏资源和实用技术指南
DeepSeek 在 2026-10-20 以 Apache 2.0 开源推理框架 DeepInfer,仅跑 DeepSeek-V4.1-Flash,支持 NVIDIA SM100 与 Huawei Ascend 950。官方自报日吞 155 万亿 tokens、缓存命中 96%、首 token 约 400ms。