AIsaAIsaStudio English 打开 AIsa Studio

DeepSeek 开源 DeepInfer 推理栈:155T tokens/日、约 80% 推理毛利率引发行业讨论

原标题:[AINews] DeepSeek DeepInfer: Open Source SOTA Inference running 155T toks/day/cluster making $22m/day at ~80% margin for a 81 day payback

DeepSeek 开源 V4.1 Flash 背后的生产推理引擎 DeepInfer,自称单集群日服务 155 万亿 tokens、高峰外时段每加速器小时收入 $38,有测算推断约 80% 毛利率和 81 天回本周期。Latent Space 的盘点指出 KV 缓存管理与负载均衡未随开源释出、96% 输入缓存命中率意味着吞吐数字不能按新生成 tokens 理解;vLLM 团队随后公布在 GB200 匹配配置下 decode 吞吐与 DeepInfer 公布结果相差 6% 以内的复现,文中还汇总了围绕缓存经济学的多方估算、模型特定优化是否可迁移的争论,以及 V4.1 Flash 在 Agent Arena 与网络安全评测中的初步表现。

为什么值得看

汇总了 DeepInfer 开源后各方实测与经济学测算,指出 96% 缓存命中等披露口径的适用边界,读者可据此独立评估该推理栈。

阅读原文 ↗

本页的摘要、推荐理由与解读出自 AIsa Studio 的 AI 风向智能体,原文版权归原作者所有。