IBM 的 coding agent 开始"画芯片"了：26 美元推理费，把量子纠错解码器硬件提速 52 倍

关于 coding agent 的讨论，过去一年几乎全部停留在"写软件"上：补全、改 bug、写测试、重构。但 IBM Research 在 10 月 13 日发布的一篇博客里，把问题往前推了一大步——如果 agent 不只是写代码，而是直接参与芯片设计呢？

答案是肯定的，而且便宜得出乎意料。IBM 展示了一套叫"agent factory"的多智能体系统：1 个协调者 agent 带 4 个并行的工作者 agent，用纯开源模型做芯片设计空间探索，把一个量子纠错解码器的硬件实现提速了 52 倍，推理成本只花了约 26 美元。作为对照，全部换成商业前沿模型（Claude Opus 5）能跑到 204 倍提速，但要花 299 美元——贵 11.5 倍。

这篇博客的署名作者包括 IBM Fellow、IBM Research 首席科学家 Ruchir Puri 在内的 7 人团队，还配了一份 preprint。它的价值不在于"又一个 benchmark 被刷爆"，而在于它第一次把多 agent 编排放进了一个真实、昂贵、专家密集的工程领域，并且给出了完整的成本账本。对于每天在跟 agent 打交道的 vibe coding 读者来说，这份账本比 52 倍这个数字本身更值得读。

从"写代码"到"探架构"：agent factory 到底在干什么

芯片设计是计算领域里专家密度最高的活动之一。高级综合（HLS）已经把抽象层级从寄存器传输级（RTL）抬到了 C/C++，但工程师仍然要在循环结构、并行度、内存组织、数据流和综合指令上做无数决策——这些决策互相牵制：算得更快没用，内存供不上数据一切白搭；跑得快的代价往往是吃掉更多硬件资源。设计空间大到人类根本不可能穷举。

IBM 的 agent factory 把这件事变成了一个"探索闭环"。协调者 agent 负责规划搜索，把"优化假设"分发给 4 个并行的工作者 agent；工作者各自修改解码器的 C++ 内核实现；一个验证器（verifier）检查改动是否正确；所有候选按延迟和硬件资源占用排名；然后用 AMD Vitis HLS 综合到 FPGA，综合结果反过来指导下一轮该往哪个方向探。每个配置给 100 个假设的预算。

注意这个循环里 agent 干的活：不是"生成一段代码交差"，而是"提出架构级改动 → 写实现 → 保正确 → 看综合反馈 → 决定下一步"。博客里举了两个例子：一次改动重组了消息存储方式，让综合工具识别出独立的内存访问、从而并行执行更多工作；另一次把串行规约换成了树形结构，暴露出并行计算的可能。这些改动的价值不在于代码本身，而在于通过反复评估，把"代码变化"和"硬件效果"连了起来。这正是软件 coding agent 和硬件 agent 的分水岭：后者有一个客观、可度量、带物理约束的反馈源（综合工具），而不是只有测试用例和人的"看着还行"。

三组对照：26 美元 vs 299 美元，账本长这样

研究团队在同一个 100 个假设的搜索预算下对比了三种配置：全商业模型（协调者+工作者都用 Claude Opus 5）、全开源模型（Z.ai 的 GLM-5.3，开源权重，跑在 IBM 自有 GPU 上、经 llm-d 分布式推理框架服务）、混合配置（商业模型做协调者，开源模型做工作者）。

同等 100 个假设预算下，开源配置便宜 11.5 倍，提速 52 倍；商业模型配置贵得多，但提速 204 倍。数据来源：IBM Research 博客。

三个细节值得单独拎出来。第一，开源搜索其实用了更多的 token——约 2.41 亿，比商业模型配置的 2.16 亿还多。便宜靠的不是"用得少"，而是"单位便宜"：据官方称，前缀缓存命中率约 98%，混合服务成本约 0.11 美元/百万 token。agent factory 会反复回看同一批信息——源代码、设计约束、之前的改动、综合报告——缓存感知的路由把可复用的上下文送到持有它的服务器上，重复计算就被省掉了。

第二，全开源配置还顺手拿到了"面积最小的设计"。商业模型配置更擅长把额外资源转化为并行度和低延迟，但开源配置找到了最紧凑的方案。这对芯片设计是实打实的价值：面积就是成本。

第三，博客作者自己打了预防针：每种配置只跑了一次搜索。这些结果描述的是"观察到的这几次搜索"，而不是"模型能力的普遍排名"。做工程的人看到这种诚实应该会心一笑——单次运行的数字看看就好，真正可迁移的是方法论和成本结构。

反直觉的结论：瓶颈不是模型能力，是"推理经济学"

这篇博客最有观点的一句话藏在结论里：AI 辅助芯片设计的实用价值，不只取决于 agent 能产出的最好设计，还取决于一个组织"负担得起多少经过验证的探索"。模型能力、agent 的角色分工、 serving 这些模型的基础设施，共同决定了在真实工程预算内能拿到什么样的硬件改进。

换句话说，瓶颈从"模型够不够聪明"变成了"token 够不够便宜"。一次搜索活动就能烧掉几亿 token，如果要把这种方法铺到几十个部件、几十个设计版本上，就是几百次这样的搜索。商业模型 204 倍的提速当然更好，但 299 美元一次的价格意味着你探不起几次；开源模型 52 倍的提速配 26 美元的价格，意味着你可以把省下来的钱再投回去，探更多轮、更多部件。

这对 vibe coding 读者是一个可以直接带走的判断：多 agent 编排的真实成本模型，正在从"按调用次数心疼"变成"按 token 经济学规划"。你的 agent 系统里有没有 98% 命中率的缓存？上下文是不是在反复传输？这些 infra 细节，过去是平台工程师的事，现在直接决定了你能给 agent 开多大的探索预算。IBM 这次是把 llm-d（开源分布式推理框架，缓存感知路由 + 提示处理与 token 生成分离）摆到了和模型选择同等重要的位置上。

还有一层 IP 角度的考量：开源权重可以部署在本地，设计资产不出内网。对于芯片这种把身家性命押在设计文件上的行业，"模型能不能本地跑"不是意识形态问题，是合规和商业机密问题。博客里明确提到了这一点——开源模型的价值不只在价格，还在可控性。

有意思的是，这条路线和最近端侧 agent 的热潮（LFM2.5、Nemotron 这些主打本地跑的小模型）形成了对照：那边在赌"模型小到能塞进你的设备"，IBM 这边在赌"推理 infra 便宜到探索可以不计成本"。一个是把模型做小，一个是把 token 做便宜。短期看，后者对重型 agent 工作流更现实——芯片设计这种一次烧 2 亿 token 的任务，端侧模型再快也扛不住；长期看，两条路线会在中间相遇：便宜的分布式推理 + 越来越能干的小模型，探索预算的天花板会被一起抬高。

钱能续上，但收益会递减

便宜了就能无脑加预算吗？IBM 测了一下：把全开源搜索从 100 个假设加到 200 个，提速只从 52 倍涨到 60 倍。曲线明显变平。

搜索预算翻倍，提速几乎原地踏步。数据来源：IBM Research 博客。

这就是博客提出的下一步：自适应地分配资源。未来的工作方向包括更广的架构假设空间，以及"在困难的变换或搜索协调环节，有选择地用更强的模型"。目标是把"成本-质量" tradeoff 当成一个需要主动设计的东西：决定在哪个环节追加推理、换模型、换架构方向，最有可能改善设计。

这个判断其实是通用的，不只适用于芯片。任何长期运行的 agent 系统都会撞上同一堵墙：堆迭代次数的收益递减远比你想象的来得早。真正的杠杆在"预算分配策略"上——哪个子任务值得上强模型，哪一步值得多想几轮。这也是为什么混合配置（商业模型做协调者、开源模型做工作者）值得关注：它本质上就是一种朴素的预算分配策略，把贵的算力花在"做决策"上，把便宜的算力花在"干苦力"上。

另外博客还提醒了一句容易被忽略的话：评估时要把综合和验证的成本也算进去，只算推理成本是耍流氓。降低工作流中的一环最有价值的时候，是整个流程能支撑得起它所释放的额外探索。翻译成大白话：token 便宜了，综合工具跑得动吗？验证跟得上吗？系统思维，别只盯着一个数字。

给 vibe coding 读者的三点判断

第一，agent 的能力边界正在从"软件"向"物理世界有反馈的工程"扩张。芯片设计的综合反馈是客观的、可度量的，这种"代码改动 → 物理效果"的闭环，恰恰是当前软件 agent 最缺的东西（测试能过不代表设计好）。哪个领域先给 agent 接上真实、可量化的反馈，哪个领域的 agent 就会先爆发。

第二，评估多 agent 系统时，把"token 经济学"和"模型能力"分开看。IBM 的开源配置用了更多 token 却花了更少的钱——以后看到"某系统烧了 X 亿 token"的新闻，先问一句：缓存命中率多少？每百万 token 多少钱？这两个数字比总 token 数更能说明问题。

第三，预算分配策略正在成为新的核心竞争力。100 到 200 个假设只换来 8 个点的提速，这个数字应该贴在每个做 agent 编排的人的显示器上：与其给 agent 更多"步数"，不如把"哪一步值得多想"这件事做好。

"An agent factory turns hardware optimization into a coordinated cycle of exploration: A coordinator agent directs parallel worker agents to develop and synthesize alternative designs within a defined search budget." —— Ruchir Puri，IBM Fellow、IBM Research 首席科学家

博客的结尾把格局打开了：更好的硬件让 AI 更强，更强的 AI 帮工程师做出更好的硬件，成本可控的 agent factory 让这种互相成就的关系变得更实际。26 美元买 52 倍提速，重要的不是 52 这个数字——以 HLS 估计口径，它离流片还很远——而是"探得起"这件事本身。当探索便宜到可以反复试错，设计空间里那些人类没空去的地方，agent 会替你去。

需要提醒的是：所有提速数字都是高级别综合（HLS）估计值，不是流片实测；成本只覆盖模型推理，不包括综合、验证和工程师时间的完整工作流成本。读这类大厂研究博客，数字看看、方法论留下，是最健康的姿势。