同一个开发者,在同一个代码仓库里,用 AI 编码 Agent 干了一周活。第三次让它修 bug 的时候,它还是不知道怎么跑测试——又从头摸了一遍。

这不是模型笨,是它压根没记性。

微软研究、伯克利和微软安全团队把这件事量化了,做了个开源插件叫 TokenEconomizer。逻辑很朴素:Agent 每次会话结束,把日志读一遍,攒下关于这个仓库的经验,下次干活前塞回去。不改 Agent,不改模型,不自己做 API key,学到的东西留在开发者本机。

先看钱烧在哪。团队拿 Claude Code 在 SWE-Bench(一批真实开源项目的修 bug 任务)上跑了 60 个任务,按顺序执行,三类浪费反复出现。

第一类,重新发现。一个仓库攒够五个已完成任务后,30% 的工具调用是在重复之前干过的事;真正跨仓库复用的只有 7%。说白了,全在原地打转。

第二类,为没用的工具付钱。每轮对话给 Agent 塞 23 个工具描述,其中 16 个从来没被调用过。你为这 16 个付了 token,它们一次都没派上用场。

第三类,卡死在失败里。失败的任务只占 17%,却吃掉了 32% 的开销。Agent 盯着一个错误反复试、反复错,钱就这么烧掉了。

TokenEconomizer 的对应关系很清楚,三招各治一病。

微技能(micro-skills),把仓库里反复出现的规律写成一行字的备注,攒够好几次会话验证才加进上下文,后面发现不对就撤掉。治的是"重新发现"。

工具裁剪,按历史记录把大概率用不上的工具摘掉,但运行命令和编辑文件这类核心工具永远保留,需要时还能装回来。治的是"为没用工具付钱"。

失败循环干预,用一个裁判模型判断 Agent 是真卡住了还是在推进,真卡住就递张纸条提示换个思路。治的是"卡死"。

效果怎么样?277 个真实修 bug 任务,六个仓库,五套 Agent 加模型的组合。成本降 18.4% 到 30.9%,30 个"仓库×组合"配对里全部省钱,成功率基本没掉,Pass@1 在四套组合里还涨了。每个仓库从第 6 个任务开始,累计成本就低于默认配置。

这组数字里我最看重的是那个对照:直接调低模型的推理强度,也能省下差不多甚至更多的钱,但性能明显垮。TokenEconomizer 省钱不伤成绩。这才是它和"少想一会儿"的本质区别——砍掉的是浪费,不是能力。

给算账的人提个醒:这些省下的比例,已经扣掉了 TokenEconomizer 自己调用模型的成本。不是毛算,是净省。

我的判断是:编码 Agent 的降本,正在从"换个便宜模型"转向"让同一个模型少干蠢事"。谁把 Agent 的记忆力做好,谁就能在不动底座的前提下省下三分之一账单。这对把编码 Agent 铺给整个研发团队的公司,是能直接落到预算表上的区别——抱歉,是能直接写进预算表的区别。

一句话收尾:Agent 不值钱,会攒经验的 Agent 才值钱。这插件把门槛压到了开源、免改模型,试试的成本几乎为零。