DeepSeek 把自家内部用的推理框架 DeepInfer 开源了,连带把生产级的 Token 编解码组件 deepseek-recipe 一起放出来。这不是做慈善,是往推理成本这条护城河里扔了块石头。

我的判断很直接——开源推理框架,比再发一个大模型更能撼动行业。模型是货架上的商品,推理栈才是决定你每天烧多少钱的那台机器。

训练和买 API 是一次性的账,推理是每天持续流血的成本。DeepInfer 这类框架管的是"怎么把一张卡用满、怎么把请求批起来、怎么把延迟压下去"。它开源,等于把头部厂商压成本的那套打法,免费递到中小团队手里。

对要私有部署、跑工业场景的人来说,这点尤其关键。你不用再为"能不能在自己机房里低成本跑起大模型"去交昂贵的框架授权和咨询费了。

MoE(混合专家模型,把不同能力的子网络拆开、按需激活,推理时只点亮相关部分,省算力)——DeepSeek 这类框架,就是为把 MoE 的省电优势真正榨出来而生的。

开放权重路线走到今天,竞争已经从"谁的模型分数高"卷到"谁让你用得更便宜"。DeepInfer 开源,是这条路上的又一个路标。

接下来看谁跟进、谁继续把核心省钱工具捂着。捂着的那家,护城河其实正在变浅。