微软研究院的 TokenEconomizer:让编码 Agent 从历史会话里省钱,SWE-Bench 成本降两到三成
微软研究院的 TokenEconomizer 从历史会话里学习,在作者的 SWE-Bench 评测中把成本降低 18.4%–30.9%。博客是 11 月 16 日发的,论文是 10 月 15 日的——而且它要在同一个仓库跑过几场会话后才见效。

一句话:微软研究院教你从历史会话里省 token
2026 年 11 月 16 日,微软研究院在官方博客上介绍了 TokenEconomizer,一个开源插件,专门解决编码 Agent 的一个老毛病:同一个仓库里,Agent 每天从头开始,重复发现早就知道的事、重复加载从来不用的工具、重复掉进同一个失败的坑。TokenEconomizer 的做法是不动 Agent 也不动模型,只在旁边看着:读完每次会话的记录,把学到的东西变成下一场会话的省钱指南。在 277 个真实修 bug 任务(SWE-Bench)上,它让平均成本下降了 18.4% 到 30.9%,而且在全部 30 个“仓库 × 模型组合”里都更便宜,任务成功率大体持平。
先把新闻的口径说清楚,免得标题党。TokenEconomizer 的论文(arXiv 2610.22732)是 10 月 15 日发表的,10 月 30 日到 31 日已经有第三方媒体写过它。11 月 16 日新的是微软研究院的官方博客文章:这是项目方自己第一次系统地讲这个插件,数字、机制和适用边界都以这篇博客为准。本文所有核心数字都来自这篇博客,论文的细节只在博客没展开的地方才引用第三方整理,并且会注明。换句话说,这篇资讯的新闻点是“微软研究院官方正式介绍这个插件”,不是“这个插件今天才问世”。
为什么这件事值得写?因为编码 Agent 的账单问题已经从“贵不贵”变成了“浪费在哪”。订阅制按量计费之后,很多人发现 Agent 不是在“干活”上花钱,而是在“重复劳动”上花钱:每次会话都要把指令、工具描述和整个对话历史重新发给模型一遍。同一个仓库做得越久,浪费越明显。TokenEconomizer 是第一个把“从经验里学习”做成通用插件的尝试:不换模型、不改 Agent、不重写提示词,只靠仓库自己的历史来省钱。
钱到底浪费在哪:三个数字
微软研究院先做了一件很实在的事:他们没有直接推销方案,而是先拿 Claude Code 在 SWE-Bench 的 60 个任务上做了 profiling,看 token 都去哪了。结果是三种浪费反复出现,每一种都有具体数字。
第一种浪费是重复发现同一个事实。一个仓库里积累了至少 5 个已完成任务之后,30% 的工具调用是在重复之前任务里已经做过的动作;相比之下,只有 7% 的调用能匹配到别的仓库的历史。也就是说,Agent 的“经验”高度集中在单个仓库里,但每次开新会话,它都像第一次来这个仓库一样,从头摸索测试怎么跑、配置文件在哪、构建命令是什么。同一个仓库做得越多,重复发现的比例越高,浪费也就越大。
第二种浪费是为从来不用的工具付费。Agent 每轮对话都会收到 23 个工具的描述,但其中 16 个从来没有被调用过。这些描述每个 token 都要计费,每轮都要发一遍。工具越多,浪费越稳定:你以为自己在为“能力”付费,实际上有七成工具描述费是白交的。
第三种浪费最贵:卡在失败里。失败的任务只占 17%,却占了总花费的 32%。Agent 掉进同一个错误之后,会一轮一轮地重试、换思路、再重试,每轮都在烧 token,而成功率并没有跟着涨。失败任务的单位成本差不多是成功任务的两倍。
博客还顺带提了一个对照实验:他们测试了三个流行的开源省 token 插件,每个都围绕一种固定的省钱策略。结果是每个插件在某些仓库省钱,在另一些仓库不省。结论很直接:有效的成本控制必须跟着仓库走,不能一套策略打天下。这也是 TokenEconomizer 设计成“从历史里学”而不是“写死规则”的原因。
三个机制,分别对付三种浪费
TokenEconomizer 每次会话结束之后,会读这次会话的记录,更新它对这个仓库的了解,然后通过三个机制影响下一次会话。它只用 Agent 本来就提供的接口,不改 Agent、不改模型。
第一个机制叫 micro-skills(微技能),对付重复发现。TokenEconomizer 从多个会话里找出反复出现的模式,提炼成一句话的笔记,比如“这个仓库的测试要用某个命令跑”或者“某个目录是生成的,不要直接改”。但笔记不会立刻生效:要等好几个会话都证实了这个模式,它才会被加进下一场会话的起始上下文;如果后来的证据推翻了它,笔记会被收回。这个“多会话证实才采纳、证伪就收回”的设计很关键——它防的是 Agent 从一次偶然里学到错的东西,然后错上加错。
第二个机制叫 tool pruning(工具剪枝),对付没用的工具。TokenEconomizer 根据仓库历史判断哪些工具大概率不会被用到,就不在下一场会话里加载它们,但永远保留运行命令和编辑文件这两个核心工具。被剪掉的工具不是删了,需要的时候可以恢复。这相当于每次会话只带“这个仓库真正用得上的工具箱”,而不是把整个工具间都背上。结合前面那个数字——23 个工具里 16 个从没被调用过——这个机制省的是最确定的浪费。
第三个机制叫 failure-loop intervention(失败循环干预),对付卡住的 Agent。它会盯着 Agent 是不是在重复同一个失败;一个裁判模型来判断 Agent 是真的卡住了,还是还在取得进展。如果判断是卡住了,Agent 会收到一条简短的提示,建议换个思路。在开源插件里还有一层保护:如果提示之后 Agent 还是卡住,插件会提醒开发者,而不是自己替 Agent 停掉工作。也就是说,它干预,但不越权:最后的决定权还在人手里。
三个机制是互相独立的,博客说每个机制单独用都能省钱,三个一起用省得最多。控制器自己的模型调用成本也算进了公布的数字里——这点值得肯定,很多省钱方案报数字的时候会把自己的开销藏起来,这里没有。
效果到底怎么样:数字与边界一起看
评测用的是 SWE-Bench 的 277 个任务,来自 6 个仓库,5 种 Agent 与模型的组合。每个仓库都从零历史开始测。结果是平均成本下降 18.4% 到 30.9%,30 个“仓库 × 组合”里每一个都更便宜。Pass@1(一次通过率)在 5 个组合里有 4 个上升了。博客的原话是“没有性能损失”和“成功率大体持平”,两个说法放在一起读才准确:整体上没变差,个别组合有小幅波动,第三方整理的论文表格显示其中一个组合(Claude Code 配 Opus 4.8)从 74% 掉到了 73%,同时它也是省钱最多的组合(30.9%)。省钱最多和成功率微跌出现在同一个组合里,这不是巧合,是取舍:剪掉的东西里偶尔会有用得上的。
还有一个对比值得注意:直接调低模型的推理强度(reasoning effort)也能省下差不多甚至更多的钱,但成功率会明显下降。TokenEconomizer 的卖点正在这里:它省的是浪费,不是能力。调低推理强度是让模型变笨,TokenEconomizer 是让模型少做无用功。两者的账单看起来差不多,交付的结果不一样。
省钱的效果会随着经验积累变大。刚开始的任务反而可能更贵,因为插件还在学习;但按 Claude Code 的数据,每个仓库到第 6 个任务时,累计成本就已经低于默认水平了。也就是说,它不是第一天就见效的东西,越是长期在同一个仓库里干活,越划算。这个结论也解释了它在另外两个场景里的表现:连续的网页开发任务省 16.0% 到 21.2%;安全审计任务——每个任务都在新仓库里,等于每次都从零开始——仍然省了 6.4% 到 19.6%。新仓库也有得省,但幅度小得多,这和“经验来自仓库历史”的设计是一致的。
但也要把边界说清楚。SWE-Bench 是 Python 开源项目的真实修 bug 任务,不是你的仓库。277 个任务、6 个仓库、5 种组合,样本不算小,但它证明的是“在这些条件下能省”,不是“在所有仓库里都能省 30%”。博客自己也写了,早期任务可能更贵,省钱要到第 6 个任务才在累计上见效。如果你每个仓库只做一两个任务就换地方,这个插件帮不上太多忙。作者自己跑的评测和独立复现是两回事,到目前为止还没有看到独立的第三方复现报告。
三个机制背后的一个共同想法
把三个机制放在一起看,会发现它们其实是同一个想法的三种表现:Agent 的浪费,大多不是“能力不够”,而是“不知道”。不知道这个仓库的测试怎么跑,所以每次都重新发现;不知道哪些工具用不上,所以每次都全量加载;不知道自己已经卡住了,所以一直重试。TokenEconomizer 没有让模型变聪明,它只是把“知道”这件事外包给了历史记录。
这个思路和常见的省钱方法不在一个方向上。换更便宜的模型、调低推理强度、缩短上下文,都是在“少用能力”上省钱,代价是结果变差。TokenEconomizer 是在“少做无用功”上省钱,能力本身一点没动。这也是为什么它的成功率能大体持平,而调低推理强度不行。两者的区别就像:前者是把办公室的灯关掉一半来省电,后者是把没人用的房间的灯关掉。账单上省的钱可能差不多,但前一种做法里有人要在黑暗里干活。
还有一个值得注意的设计选择:它是“黑盒”控制器。也就是说,它不打开 Agent 的内部,不改模型的权重,不碰 Agent 的代码,只通过 Agent 本来就提供的接口起作用。好处是通用:同一个插件能挂在 Claude Code、Codex、Copilot CLI 和 Pi 上面,不用给每个 Agent 各写一套。代价是它能做的事有限:它只能影响 Agent“看到什么”和“收到什么提示”,不能直接改 Agent 的行为。所以它的天花板取决于 Agent 本身给它留了多少接口。以后如果 Agent 的接口变了,插件的效果也会跟着变。
这个“黑盒”的定位也解释了它为什么强调“学到的东西存在你自己的机器上”。它读的是你仓库里的会话记录,这些记录里可能有你的代码、你的测试方式、你的失败历史。存在本地,意味着这些经验不会被上传到某个服务器去“改进产品”。对在意代码隐私的团队来说,这一点和省钱本身一样重要。
博客里还有一个容易被忽略的对照实验:作者先试了三款现成的开源省钱插件,每款都只用一种固定策略。结果是每款都在某些仓库上省了钱,在另一些仓库上没省——没有一种固定策略能通吃所有仓库。这个结果才是 TokenEconomizer 存在的理由:省钱的办法不能写死,得跟着仓库的历史走。同一个“关掉不用的工具”,在 A 仓库是省钱,在 B 仓库可能正好关掉了下个任务要用的东西。所以插件做的不是“更激进地省钱”,而是“先看历史、再决定省在哪”。
怎么验证它真的在帮你省钱
如果你决定试,别只看一次账单就下结论。插件自己说了,早期任务可能更贵,累计成本要到第 6 个任务才低于默认水平。所以验证的方法应该是:挑一个你常做的仓库,先不装插件,正常做 6 到 10 个任务,把每次的 token 用量记下来;然后装上插件,在同一个仓库里再做 6 到 10 个类似的任务,对比两组的平均成本。任务要尽量相似——都是修 bug,或者都是加小功能——否则对比没有意义。
对比的时候注意三件事。第一,看平均数,也看最贵的那个任务。平均成本下降 20%,但如果最贵的任务反而更贵了,说明插件在某些情况下会帮倒忙,值得看一眼那个任务的记录。第二,看成功率有没有变。博客的数字是 Pass@1 大体持平,你自己的数字也应该大体持平;如果成功率掉了,省下来的钱就是用质量换来的,不值得。第三,看插件自己的开销。博客说公布的数字已经算进了控制器自己的模型调用成本,你自己验证的时候也要把这部分算进去,别只看 Agent 的账单。
还有一个更简单的判断标准:跑满 10 个任务之后,问自己一个问题——Agent 是不是还在重复问你“测试怎么跑”?如果这个问题消失了,插件就在起作用;如果还在问,说明 micro-skills 还没攒够,或者你的仓库变化太快,历史经验还没来得及沉淀。前者是时间问题,后者是场景问题:变化太快的仓库,历史的价值本来就低。
值不值得装:成本很低,期望别太高
从采用成本看,TokenEconomizer 的门槛很低。它是开源的(Apache 2.0),只需要 Python 3.10 以上,不需要 GPU,不需要自己的 API key,模型调用走你自己的 Agent 和登录状态,学到的东西存在你自己的机器上。支持 Claude Code、Codex、GitHub Copilot CLI 和 Pi,实验性支持 OpenCode、Cursor Agent 等几个。安装方式是克隆仓库、加为 marketplace,再用一条命令装插件。也就是说,试用的代价就是装个插件、跑几个任务看看账单,没什么不可逆的操作。
但有两个地方要先确认。第一,插件官方文档里的版本支持范围可能已经落后了:第三方整理显示文档写的是 Claude Code 2.1.300 到 2.1.310 之类的区间,而现在最新版已经到了 2.1.325。装之前先去仓库的 README 确认你的 Agent 版本在不在支持列表里,别装完发现不兼容。第二,它需要“在同一个仓库里跑好几次”才能见效。如果你是那种每个项目只开一两次会话的人,它帮不上忙;反过来,如果你每天都在同一个仓库里让 Agent 修 bug、加功能,它就是为你准备的。
还有一个更值得带走的东西,跟装不装这个插件没关系:那三种浪费的模式,你不用插件也能自己动手对付。把“测试怎么跑、构建命令是什么”写进项目的 CLAUDE.md 或者 AGENTS.md,就是手工版的 micro-skills;定期清理 Agent 的工具配置、关掉不用的 MCP 服务器,就是手工版的 tool pruning;给 Agent 设一条“同一个错误试两次就停下来汇报”的规则,就是手工版的失败循环干预。插件的价值是把这些事自动化了,但思路本身不需要插件也能用。
最后回到标题里的数字:18.4% 到 30.9%,不是“用了就省三成”的承诺,而是“在作者的评测条件下、从零历史开始、到第 6 个任务之后见效”的区间。把它理解成“编码 Agent 的浪费是真实存在的,而且是可以被量化的”,比把它理解成“装个插件账单打七折”要准确得多。微软研究院 11 月 16 日这篇博客的真正价值,是把这笔账算清楚了:30% 的重复调用、16 个从没用过的工具、17% 的失败任务占 32% 的花费。数字本身,比插件更值得记住。等你自己的数据跑出来,再决定要不要长期留着它——插件可以随时卸载,但“我的 Agent 在哪浪费钱”这个问题,一旦看清楚了,就再也回不去了。
评论 (0)
原始来源
相关文章
2026 年 11 月 17 日,微软发布 MAI Code 2 和 Code 2 Flash:大模型 770 亿激活参数、100 万上下文,四项基准平均通过率 63.2%,与 GPT-6.1 Sol、Claude Opus 5.5 咬得很紧,但每任务成本只有 0.309 美元。先看清三处“但是”:价格是推广价、分数是三者最低、长周期任务不在舒适区。
2026 年 11 月 11 日,AWS 开源 UAEF:先把 LangGraph、LangChain、Strands、Bedrock AgentCore 等框架的运行记录翻成统一格式,再用 36 个指标、7 个维度打分,回归超过 5% 就亮灯。评审模型本身也被防了一手:打分要引原文作证,分数不能用来决定安全放行。
2026 年 11 月 17 日,Perplexity 推出 Orchestrator API:一个接口接通 OpenAI、Anthropic、Google、xAI 与 GLM、Kimi、DeepSeek 等开源权重模型,按回答模型的公开价计费、不收平台费。同一模型挂了就换一家部署接着跑,路由功能还能按任务把请求分给不同的模型。