Latent Space·· 23 小时前精选AI 评分82
DeepSeek 开源生产推理栈 DeepInfer，单集群日处理 155T tokens
[AINews] DeepSeek DeepInfer: Open Source SOTA Inference running 155T toks/day/cluster making $22m/day at ~80% margin for a 81 day payback
AI 导读
DeepSeek 开源了支撑 V4.1 Flash 的生产推理框架 DeepInfer，并同步发布 deepseek-recipe 协议转换库，支持 NVIDIA SM100 与华为昇腾 950 平台。
推荐理由
DeepSeek 开源生产推理栈的同时披露了缓存命中率与单卡收入，读者可据此判断高吞吐数字背后的成本结构。
来源：Latent Space · latent.space