一个不会聊天、不会写代码、连一段像样回答都给不出来的 AI,最近在开发者圈子里刷屏了。它叫 Jev,上线三周,日处理 token 破万亿。这波火的不是它多会表达,而是它终于承认:大部分决策,根本不需要一个会聊天的模型。

Jev 由前 OpenAI 研究员、ChatGPT 早期核心成员 Diogo Almeida 创立的 TypeSafe AI 于 9 月 15 日发布,内部代号 System One。它的定位很简单——不做自由生成,只做结构化判断。你预先定义好输出集合,它从里面给结论:是或否、选哪一项、打多少分。Noul 返回 0 到 1 的概率做是非判断;Choice 在最多 255 个选项里单选,做分类和路由;Score 按指定刻度打分,做风险或优先级评估。没有第四种输出。

它不会解释为什么这么判,但也不会编出限定范围外的东西——官方把后者叫"零幻觉",本质上是因为它根本没机会胡说。

火起来的时机很对。Agent 跑起来,真正烧算力的往往不是深度推理,而是成千上万次“下一步调哪个工具、这条消息归哪类、任务到底完没完成”的小判断。过去这些活儿直接丢给 LLM,又快又贵还容易格式错乱。Jev 把它们接过去,官方数字是:部分任务推理速度最高快 193.6 倍,成本最多低 444.6 倍,输入每百万 token 0.042 美元、输出免费,延迟压在 70 到 500 毫秒。

这意味着模型之间的分工开始变天了。生成式 LLM 退回"系统二",负责复杂、开放式的推理;Jev 这类决策模型充当"系统一",负责高频、确定、可复现的小判断。

这个分工不是概念游戏,是跑出来的:据称约四分之一世界 500 强已经接进生产,OpenAI 跟进了 Decisions API,Databricks 上了 ai_decide,Cloudflare 开源了 Clef 系列,亚马逊也有 Strands Decider 在跑。"决策模型"正在从一句口号变成一个独立的模型类别。

但预期得压住。Jev 强在判断,弱在解释:它给得出概率,说不清理由,所以“为什么判错”只能靠你在上下游补日志和校验。它还要求你事先把问题框死在固定输出集合里——一旦场景开放、选项不可枚举,它就无用武之地。工单路由、内容审核分类、上下文压缩、自动化工作流分支、给 Agent 当裁判检查任务是否真完成,这些是它舒服的地带。复杂推理仍得交给 LLM,Jev 是副驾驶,不是替补。

所有正在搭 Agent 和自动化工作流的团队,都该重新算一笔账:那些被 LLM 硬扛的简单判断,有多少可以卸载到便宜两个数量级的专用模型上?当判断本身变得近乎免费,Agent 的架构会从“一个大模型包打天下”转向“快慢模型协作”。但别被“零幻觉”带偏——它不幻觉,是因为它没机会幻觉;代价是它也无法替你承担需要权衡和解释的决断。

当 AI 不再需要先“说一段话”才能做决定,Agent 才真正开始后台自行运转。Jev 火的不是它会什么,而是它终于承认:大部分决策,其实不需要一个会聊天的模型。