DeepInfer 已公开
官方仓库公开推理软件，当前支持 DeepSeek-V4.1-Flash，默认加载 1017 版本。原稿中的“Vista 1 Flash”据此纠正。
项目采用 Apache-2.0；硬件列表为 NVIDIA SM100 和华为 Ascend 950。许可核查仅覆盖本项目说明，未逐一审计依赖许可。[1]
DEEPSEEK · INFERENCE INFRASTRUCTURE
DeepInfer
开源了什么，
谁能受益？
它降低了部分推理工程的实现门槛。收益能否兑现，仍取决于硬件、线上系统、付费需求和交付质量。
文档已核实公司自述媒体消息分析推断教学情景
01 / 先把两条消息分开
开源可核实，资本消息仍有边界
技术发布、融资完成、上市计划分别需要证据。时间接近不能证明它们存在因果关系。
第二轮融资有报道支持
Bloomberg 10 月 22 日报道新一轮筹资约 150 亿美元。[9]
10 月 23 日 IT之家转述 WSJ，称第二轮私募融资完成。这里保留“据媒体报道”，不升级为公司公告。[8]
2027 年仍是潜在计划
10 月报道提到争取明年初上海上市。Reuters 较早报道则称上市的时间、估值与募资规模尚未确定。[7][8]
本次未取得对应的正式上市申请、批准文件或公司公告，不能写成“2027 年确定上市”。
本页结论：对推理服务商，价值在于可研究、可复用的工程实现；对应用团队，价值要通过更低的成功任务成本、更好的响应速度或更稳定的服务来验证。
02 / 推理到底在做什么
从输入到输出，是一整套计算过程
Token 是模型处理的文本单位，不总是一个字或一个词。下面是文字生成的简化流程；视觉输入还需要视觉编码阶段。
输入与编码
请求转成 token，检查协议、参数与上下文；多模态请求还要处理图像。
→ 查询可复用前缀
Prefill 预填充
模型处理输入上下文，建立后续生成需要的中间状态。命中缓存可减少部分重复计算。
→ 准备生成状态
Decode 解码
根据上下文继续生成 token；批处理、专家并行与草稿验证影响吞吐和延迟。
→ 持续返回 token
输出与服务
将 token 解析为正文、工具调用或结构化结果，处理流式传输与错误。
→ 用户收到结果
这是概念示意，不是部署拓扑或性能测试。DeepInfer、部署问答与 deepseek-recipe 分别提供底层实现、系统说明和协议编解码依据。[1][2][12]
模型内部 KV cache
保存注意力计算中的键和值等中间状态，避免生成过程中反复处理过去内容。
服务端前缀缓存
跨请求复用已持久化的相同前缀状态。命中要求 token 前缀匹配缓存单元；共享一份报告，不代表随便换顺序也能命中。[4]
应用层结果缓存
应用直接返回已保存的答案。这是另一种产品设计，需要考虑内容过期与权限，不能当作 KV cache 的解释。
原稿中最需改写的一句：缓存复用的是部分计算状态，输出仍需生成；同一报告由不同人提交，也不能据此推定服务商会跨账号共享缓存。
03 / 从开源代码到线上服务
开源了核心引擎，完整服务仍需集成
关键区别不是“有没有缓存”，而是开源引擎能力与生产级缓存系统、路由和运维之间的范围区别。
离线推理与核心功能
- 优化算子、模型与采样运行时
- 专家并行 EP 与专家负载均衡 EPLB
- DSpark 推测解码与置信度验证调度
- 滑动窗口注意力的有界回放、异步调度
- 结构化输出及部分确定性功能
具体平台与功能限制见 README，不能推定所有硬件行为相同。[1]
线上部署仍要补齐
- 完整的 KV cache 系统
- 视觉编码 / Prefill / Decode 分离部署
- Prefill、Decode 的数据并行副本负载均衡
- 面向业务的鉴权、配额、计费、监控与故障处理
前三项是 README 明列的缺失；最后一项是本页对产品化工作的建议清单，未声称逐文件审计其实现。[1]
公开代码 →仓库与许可可查
部署复现 →需硬件、负载与指标
线上交付 →需稳定性与运维证据
客户付费 →需合同与实际用量
经济收益需成本、回款与续费
官方建议的高效部署单元为约 64 张 Prefill + 64 张 Decode。它不是所有场景都必须达到的最小卡数，更不是“155 万亿 tokens/天”对应集群大小的证明。官方同时说明可以部署 1P + 1D。[2]
DeepInfer 并非凭空替代整个开源生态：官方称其早期主要基于 vLLM，并参考 SGLang、TensorRT-LLM。评估现有栈时，应比较同模型、同硬件、同质量与同延迟目标下的实际结果。[1]
04 / 受益条件
先选自己的角色，再看下一步
验证顺序：先测任务是否合格，再测完成一项合格任务用了多少钱和多久。Token 单价下降，如果伴随更多重试或人工返工，业务总成本仍可能上升。
05 / 让收入数字可以被检验
4,260.864 万美元，怎么算出来的？
教学情景 · 不构成实收或回报预测38 × 128 × 24 × 365 = $42,608,640
算术成立，条件尚未成立。官方说的是“按谷时价格”的每 GPU 小时收入；本页没有独立复现，也没有证据把它当作无条件满载产能或已审计到账金额。[2]
含 Prefill / Decode 的分母需可比；卡数变化不保证收入线性扩展。
这一个比例合并表示需求、价格、闲置、失败和适配等差异；它不是 GPU 利用率，不再额外乘一次利用率。
包括硬件折旧或租赁、存储网络、机房电力、工程运维及商业服务费用。避免将购置款与折旧重复计入。
按 8,760 小时外推的全年收入情景
$10,652,160
有效收入率 $9.50 / GPU·小时
收入减去所填成本
未填成本，不计算收支差。
在所填成本下，收入持平所需比例
待填成本；不计算回本周期。
默认 25% 只供演示，无经验概率含义。100% 只重现原稿算术，不代表可实现上限或保证。没有现金流时点、资本支出与税费核对，收支差不能称净利润或投资回报。
06 / 小团队更直接的账
输入便宜 50 倍，总账单会少多少？
使用已核实的 Flash 谷时价，每百万 token 计费。下面是教学工作负载，没有真实客户、付费或交付结果。
缓存命中输入 / 百万 token$0.003
未命中输入 / 百万 token$0.150
输出 / 百万 token$0.600
高峰均为上述价格的两倍。北京时间周一至周五 09:00–12:00、14:00–18:00 为高峰，中国法定假日除外；其余为谷时，周末和中国法定假日全天为谷时。[3]
这里按 token 数加权，不是“命中的请求数占比”。假设输出长度与任务质量不变。
每月模型 token 费用$152.40
- 输入费用
- $32.40
- 输出费用
- $120.00
- 完全不命中时
- $270.00
- 减少的费用 / 比例
- $117.60 / 43.6%
只计算文本模型 token。搜索、工具、重试、人工审核、开发、存储及渠道费用均未计入，也未模拟不同模型质量。
默认案例：长文档问答每次输入 1 万 token、输出 2 千 token，每月 10 万次；80% 的输入 token 命中缓存。输入两档单价相差 50 倍，但整个模型 token 账单只下降约 43.6%。如果人工返工不变，业务总成本降幅会更小。
| 教学案例 | 可以尝试 | 必须检查 |
|---|---|---|
| 同一手册的客服问答 | 保持稳定前缀，把变化问题放在后面。 | 检查实际命中 token 字段与答复正确率；不能保证第二次就命中。 |
| 非实时的批量内容分类 | 如果交付时限允许，将任务安排在谷时。 | 核对时区、队列完成时间和失败重试；不能因便宜而错过交付。 |
| 输出很长的报告生成 | 减少无用输出并测试内容完整性。 | 缓存输入无法消除输出费用；报告验收和人工修改可能更关键。 |
公式：月费用 = 请求数 ×〔输入量 ×（命中比例 × 命中价 + 未命中比例 × 未命中价）+ 输出量 × 输出价〕÷ 1,000,000。实际命中由 usage 中的 prompt_cache_hit_tokens 和 prompt_cache_miss_tokens 核对。[4]
07 / 产业影响与开源动机
效率改善，需要经过几步才能变成收益
以下均为分析推断。公开代码可以观察，管理层真实动机及行业最终利润分配尚不能直接验证。
工程效率改善 →同质量与延迟下测吞吐
单位成本下降 →扣除适配、网络和存储
服务价格变化 →由供需与竞争决定
客户价值变化由完成率与返工决定
更多可用的部署渠道
若第三方更容易提供可靠服务，模型被采用的机会可能增加。观察外部适配、可复现部署和真实迁移；仓库热度不能证明收入。
技术公开可能带来贡献
观察外部贡献是否合并、缺陷是否修复、性能改进能否复现。招聘吸引力需要招聘或人员数据，不能由“开源有情怀”推定。
API 可能受到替代压力
第三方可用性提高可能分流官方调用，也可能扩展总需求。两个方向都成立；需用户迁移、价格与收入数据判定净效果。
别把技术效率、API 标价、客户账单当成同一个数。成本下降可能被价格竞争抵消，也可能被服务商保留为利润。产业收益如何分配，不能仅凭开源发布确定。
对小团队的可执行验证
- 选一类已经发生的重复任务，固定一小组真实样本和合格标准。
- 用当前服务和候选服务分别运行，记录合格率、首字等待、完整耗时、重试与人工分钟数。
- 从账单和 usage 读取真实费用，再计算“总费用 ÷ 合格任务数”。
- 只有持续负载、工程能力和总体成本证据支持自建时，才进入硬件与部署评估。
08 / 对照原稿逐条看
哪些保留，哪些改写？
保留原稿的问题意识与主线；名称、机制、数字和动机各按自己的证据等级处理。点击展开说明。
第二轮融资完成，可能在 2027 年上市媒体消息
10 月 22–23 日报道支持“新一轮融资完成”的消息；2027 年仍是潜在时间表。本次未取得对应公司正式公告或监管批准，两个事件分别看。 [7][8][9]
模型叫 Vista 1 Flash名称纠正
同一报告缓存后，不必再生成一遍机制纠正
前缀缓存复用中间状态，不是直接拿旧答案。前缀必须匹配已持久化的缓存单元；相同报告也不能保证第二次请求必然命中。 [4]
把 prefill/decode 拆开，效率会更高增加条件
官方说明可分别配置资源、优化阶段延迟。分析推断：缓存传输、网络和调度也有开销，收益要在实际负载下测量。 [2]
CPU 只需让输入排好队机制纠正
异步调度重叠 CPU 的批次准备与设备执行，减少 GPU 等待。单纯串行排队并不是吞吐优化的完整解释。 [2]
命中 0.003、未命中 0.15、输出 0.6 美元核实保留
均为 Flash 谷时、每百万 token 价格。50 倍只比较两种输入单价，不是整个请求或企业总成本降 50 倍。 [3]
周日人少，所以算谷时定义改写
谷时是官方规定的计费时段，不依赖你判断现场是否繁忙；周末全部属于谷时。 [3]
38 美元每卡每小时，可得稳定收益公司自述
官方使用 revenue（收入）口径；统计窗口、计费收入与标价折算差异、GPU 分母边界不足以支持独立利润审计。 [2]
128 卡一年收入四千多万美元条件外推
算术为 42,608,640 美元。它要求收入率全年不变且分母可比；不是官方披露的 128 卡年度实收。人民币换算还取决于汇率：按假设 7 元/美元计算，约为 2.98 亿元，不能直接说“三个多亿”。 [2]
这是第一次说明推理能赚钱需改写
至少 2025 年 DeepSeek 已披露过推理成本与理论收入，同时说明实际收入更低。因此“第一次”不成立；本次也不是盈利证明。 [6]
09 / 来源与验收边界
可以追溯，也保留未完成项
网页及仓库于 2026-10-25 读取。动态文档可能变化；本页没有运行 GPU 性能复现、生产部署或客户支付实验。
- 01DeepInfer README · 范围、硬件、许可、致谢
官方原始资料；性能、收入及推荐配置仍属于公司自述。
- 02DeepSeek V4.1 Flash 部署 Q&A · 架构及公司数据
官方原始资料；性能、收入及推荐配置仍属于公司自述。
- 03DeepSeek API 定价 · 当前 Flash 价格及峰谷时段
官方动态文档；价格或规则可能更新。
- 04DeepSeek Context Caching · 命中规则与 usage 字段
官方动态文档；价格或规则可能更新。
- 05DeepSeek V4.1 Flash 发布说明 · 2026-09-10
官方原始资料；性能、收入及推荐配置仍属于公司自述。
- 062025 开源周 · V3/R1 推理系统与理论收入
官方原始资料；性能、收入及推荐配置仍属于公司自述。
- 07Reuters · 融资进展报道，2026-10-06（转载正文）
媒体证据；非公司公告，非监管批准。
- 08IT之家 · 第二轮融资及潜在上市，2026-10-23（转述 WSJ）
媒体证据；非公司公告，非监管批准。
- 09Bloomberg · 新一轮约 150 亿美元融资，2026-10-22（可读开头）
媒体证据；非公司公告，非监管批准。
- 10vLLM 官方项目 · 推理与服务引擎
项目原始资料；本页不声称已运行其性能测试。
- 11SGLang 官方项目 · 推理服务系统
项目原始资料；本页不声称已运行其性能测试。
- 12deepseek-recipe · 协议与 token 编解码
官方原始资料；性能、收入及推荐配置仍属于公司自述。
研究范围：以本次直接读取的官方仓库、API 文档及可读媒体正文为依据。媒体转载不算独立确认；Bloomberg 融资报道仅使用可读开头，未声称阅读付费全文。没有将旧报告或模型审查意见当作新的事实来源。