返回探索
资讯VibeFix 内容整理更新于 2026年11月19日

Google 也入场了:Gemini Decisions API 让模型只做判断不写字,一次问完 1000 个问题

11 月 11 日,Google 发布 Gemini Decisions API,配套新模型 Gemini Decision 1:不生成文字,只做判断——一次请求里回答最多 1000 道是非、选择和打分题,150 到 250 毫秒,输入每百万 0.10 美元、输出 0 收费。三个月里,决策模型赛道已经挤进了第四家。

Google 官方博客头图:茶水间台面泼洒的真实照片,叠加 Decisions API 结果卡片(是非题 0.95 检出泼洒、选择题 98% 拿布擦、打分题 1.19 分满分 2 分)。

模型不写字了,改行做判断

11 月 11 日,Google 在官方博客上发布了 Gemini Decisions API,配套一个新模型 Gemini Decision 1,模型名是 gemini-decision-1。这件事的特别之处不在模型有多大,而在它干的活变了:这个模型不生成文字,它只做判断。你给它一段输入,再附上一组问题,它不写句子、不续写段落,只返回每个问题的概率和置信度。Google 的原话是,Decisions API 提供的是为有边界的选择而生的原语,适用场景包括工具选择、策略检查、模型路由和上下文评分。换句话说,Google 把模型从写手降格,不,是转岗成了一个裁判。

一次请求能问多少问题,是这篇发布里最抓人的数字:最多 1,000 个。输入是一份共享的多模态内容,文本、图像、音频、视频和 PDF 都行,总量上限是 256K token;问题附在这份输入上,三种类型可以混着问。是非题叫 noul,估计某个条件成立的概率,可以附上真假两边的描述标准;选择题叫 choice,从 2 到 255 个候选项里挑一个,返回胜出者以及每个候选项归一化后的概率;打分题叫 score,按从 0 起的有序量表打分,返回连续加权分数和每个档位的概率。每个答案都带一个 0 到 1 的置信度分数,代码拿到这个分数,就能决定哪些情况直接放行、哪些情况转人工或者换更大的模型复核。

Google 在博客里给了个很生活化的例子:一张茶水间台面的照片,加一句文字说明“9 点客户会议前的茶水间检查”。同一个请求里同时问了三个问题:台面上有没有没清理干净的液体泼洒,是非题;接下来该做什么,选择题,候选项是拿布擦、叫保洁还是直接确认可以开会;泼洒有多严重,打分题,量表从干净就绪到小范围泼洒再到重大泼洒或安全隐患。模型返回的结果是:有泼洒的概率 0.95,下一步拿布擦的概率 98%,严重程度 1.19 分、满分 2 分。这个例子选得好,因为它同时演示了三件事:输入是图文混搭的,三个问题共用同一份输入,返回的全是数字而不是句子。你的代码拿到 0.95 和 98% 这种数字,是可以直接写进 if 语句里的;拿到一段“台面上有一些棕色液体,建议清理”这样的文字,反而还要再接一段解析逻辑。

调用方式也值得写一笔。模型走 Gemini API 的 v1beta 端点,Python 里用 google-genai 3.2 或更新版本,一行 client.decisions.create 就能调,模型参数填 gemini-decision-1,input 字段沿用 Interactions API 的 Content 块格式。也就是说,写过 Gemini 调用的开发者,改几行就能接上,不用学一套新协议。Google 还列了一串正在落地的生态集成:OpenRouter、LangChain、Vercel AI SDK、LiteLLM、Pydantic AI、Pipecat、LiveKit 和 OpenCode。Google Cloud 上的 Vertex AI 支持写的是即将推出,没有给日期,这是目前唯一明确还没到的部分。

快和便宜是两回事,这里两样都占了

判断类调用最怕两件事:慢和贵。慢,是因为生成式模型要一个 token 一个 token 地往外吐答案,等它把一句话写完,路由决策的窗口早过了;贵,是因为每次判断都要付一次完整生成的钱,明明只要一个是或否,却按一篇文章收费。Gemini Decision 1 的卖点就是把这两件事同时打下来。Google 给出的数字是:模型计算的中位延迟 50 到 100 毫秒,端到端 150 到 250 毫秒;从 1 个问题问到 100 个问题,延迟几乎不变,16K token 以内的上下文都保持这个水平。定价是每百万输入 token 0.10 美元,输出 token 收费 0 美元——因为它根本不输出 token。

对照图:Gemini Decision 1 的延迟区间与相对成本,数字来自 Google 官方博客

0.10 美元这个定价需要放在上下文里看。它跟 Meta 的 Muse Ember、Anthropic 的 Claude Haiku 5.5、OpenAI 的 GPT-6 Luna 的输入价一模一样,都是每百万输入 0.10 美元。但那三个是生成式模型,输出还要按每百万 0.50 美元另算;Decision 1 没有输出账单这一行。更关键的是计费方式:共享的那份输入,一个请求里只收一次钱,不管上面挂了多少个问题,每个问题只加自己的指令和标准那点 token。Google 还特意补了一句:没有输出 token 费用,没有可变的思考 token 账单,也没有单独的音频转录和 OCR 费用。这句话是写给算过账的人看的——生成式模型里那些“看着便宜、用起来贵”的附加项,在这里都不存在。

Google 还贴了一张对比:按它自己的基准套件,Gemini Decision 1 加 Decisions API 的成本,比 Gemini 3.5 Flash-Lite 加 Interactions API 低将近 5 倍,而且在覆盖 Agent 路由、推理、排序和多模态理解的基准上全面领先、校准误差最低。这句话要拆成两半读:前半句是价格对比,后半句是质量宣称。价格对比的口径是 Google 自己的基准套件,质量宣称里的“校准误差最低”也是同一套基准上测的。也就是说,这两个结论都还没经过独立第三方复核。先把这个提醒放在这里,后面泼冷水那一节还要回来细说。

不过,150 到 250 毫秒这个延迟本身,不用等第三方复核就能判断价值。Agent 每做一次工具选择、每过一次策略检查、每评一次上下文质量,都是一次判断;一个多步任务跑下来,这类判断可能有几十次。如果每次判断都要等生成式模型写完一句话,整个任务的延迟会成倍放大;如果每次判断只要两百毫秒,判断环节在总耗时里的占比就小到可以忽略。这就是为什么 Google 把 Decisions API 叫做控制层,而不是又一个模型:它的位置不在台前写答案,而在幕后做分流。

一个输入,一千个问题:这个上限是为谁准备的

1,000 个问题这个上限,第一眼看上去有点夸张。谁会在一次请求里问一千个问题?答案是:做批量审核和批量评分的人。想象一个内容审核场景:一篇文章进来,要同时检查它是不是广告、是不是辱骂、有没有泄露隐私、有没有误导性陈述、适不适合未成年人、要不要加免责声明——这已经是几十个是非题。想象一个简历筛选场景:一份简历进来,要同时评沟通能力、项目经验匹配度、技术深度、领导力潜质、文化契合度——每个维度又是一道打分题。想象一个客服质检场景:一段通话录音进来,要同时评礼貌程度、问题解决率、有没有承诺做不到的事、有没有按流程走——又是几十个问题。以前这些活要么靠写死规则的分类器,要么靠生成式模型逐条写判断;现在可以一次请求全问完,拿回一串概率。

多模态是这个上限的另一半意义。输入可以是录音加账户元数据的组合,可以是扫描的 PDF 理赔单加损坏照片的组合,可以是视频加文字说明的组合。Google 举的例子里,理赔和客服录音都出现了,这不是偶然:最需要批量判断的场景,往往就是输入形态最杂的场景。图像和视频输入还可以调分辨率来控制视觉细节和 token 成本,这个细节对实际使用者很重要——批量跑的时候,token 成本是按量算的,分辨率调低一档,成本就降一档,精度损失多少可以自己测。

置信度分数是整套设计的点睛之笔,也是最容易被用错的地方。每个答案都带一个 0 到 1 的置信度,Google 的建议是:模糊的案例交给兜底逻辑或人工复核。这个建议听起来简单,做起来需要一套阈值策略:置信度高于 0.9 直接放行,0.7 到 0.9 走二次复核,低于 0.7 转人工——阈值定多少,没有标准答案,得按自己的业务容错率去调。误放行的代价高的场景,阈值要定得高;误拦截的代价高的场景,阈值要定得低。Decision 1 给的是概率,不是判决;判决的规则,还得使用者自己写。

决策模型这条赛道,三个月里挤进了四家

Google 不是第一个做决策模型的。站里 10 月已经发过两篇同赛道的文章:一篇是 OpenAI 的 Decisions API,9 月 29 日在 DevDay 上发布,把 Agent 的分支判断变成一次 150 毫秒的调用;另一篇是 TypeSafe 的 Jev,9 月 15 日上线,三周后拿了 8.7 亿美元 A 轮、估值 75 亿美元,背后是 a16z 领投。微软也跟进了,Microsoft-Decision-1 基于阿里巴巴的 Qwen 搭建。Google 是第四家,11 月 11 日入场。三个月,四家大厂加一家估值 75 亿美元的创业公司,押的是同一个判断:判断会从生成功能里拆出来,变成独立的原语。

这个判断为什么现在成立,有三个原因。第一,Agent 跑起来之后,判断的调用量先起来了:一个 Agent 任务里,真正需要写长答案的步骤是少数,需要做选择的步骤是多数——选哪个工具、走哪条分支、要不要继续、够不够好、能不能放行,全是判断。第二,生成式模型做判断是杀鸡用牛刀:为了一个是或否,要等它把推理过程和结论都写出来,延迟和成本都对不上。第三,概率比文字更适合做控制信号:代码能直接拿概率做分支,能拿置信度做熔断,能拿分布做审计;文字还要先解析,解析错了就是新的故障点。这三条加起来,决策模型从“一个有趣的优化”变成了“Agent 基础设施里缺的那块”。

四家的打法各不相同,这也是这篇值得写的原因。OpenAI 先讲 Agent 场景,Decisions API 是它 Agent 拼图里的一块;TypeSafe 讲的是校准和估值,Jev 的卖点是输出校准过的决策、不是大模型;微软讲的是开源底座,Decision-1 建在 Qwen 之上;Google 讲的是多模态和规模,一次问一千个问题、图文音视频 PDF 全吃。没有一家在讲“我的模型更聪明”,讲的都是“我的判断更便宜、更快、更适合塞进代码里”。赛道的竞争维度已经从智能换成了工程指标:延迟、价格、问题上限、模态覆盖、集成广度。这对使用者是好事:选型的时候不用再猜谁更聪明,直接比数字表就行。

Google 自己先拿它当控制层用

发布里最值得细读的部分,是 Google 自己的四个内部用法。第一个是 Gemini Notebook 的动态模型路由:Decisions API 当实时路由器用,按每条请求的意图,瞬间决定分给哪个模型档位和思考级别,日常查询的延迟因此降低最多 40%,复杂的任务再留给深度推理模型。第二个是 Stitch 里的快速画布实验:用 Decisions API 在几秒内生成可交互的产品流程线框图,语音或点按的修改几乎瞬间生效,流程顺了再一键交给完整的 Stitch 做精细打磨。第三个是 Google Labs 的 CC 应用里的表情选择:从 200 多个表情里挑一个合适的,零点几秒就出结果,反应贴出来不带延迟感。第四个是 Google Search 里 MCP 工具的安全层:用 Decisions API 在延迟预算内检测对抗行为和对抗内容,官方说法是在对抗评测上效果很好。

这四个例子覆盖了四个不同的位置:路由、生成、选择、安全。路由是 Agent 每次调用前都要做的事,生成是设计工具里的实时反馈,选择是社交产品里的瞬间反应,安全是工具调用前的最后一道关。Google 的意思很明白:决策原语不是只服务一个场景,它是能塞进任何需要“先判断、再行动”的地方的通用件。对 vibe coder 来说,这四个例子也是现成的选型参考:你的产品里有没有一个环节,是“先判断、再行动”的?有,就能试。

但这里也要留一个心眼:四个内部用法都是 Google 自己的产品,数据也是 Google 自己的口径。Notebook 的 40% 延迟降低,是在 Google 自己的流量形态下测的;换到你的产品上,意图分布不一样,收益也可能不一样。Stitch 的“几秒生成流程图”听起来很美好,但生成质量如何、能不能直接用,发布里没有展开。内部用例的价值在于证明“这东西能在真实产品里跑”,不在于证明“在你的产品里也能跑出同样的数字”。试之前,先拿自己的场景跑个小规模对照,比看发布里的数字更可靠。

对 vibe coder 来说,先从这四类小事试起

如果你的产品里已经有 Agent 在跑,Decisions API 最值得试的四个位置,Google 在发布里其实已经点出来了:工具选择、策略检查、模型路由、上下文评分。工具选择是 Agent 每次行动前都要做的事:手头有十几个工具,该调哪一个?以前的做法是让生成式模型写一段推理再选,现在可以把“这个工具合不合适”写成一道选择题,让 Decision 1 直接给概率。策略检查是工具调用前的安检:这次调用会不会删数据、会不会花钱、会不会发消息给用户?写成是非题,概率低于阈值就拦截。模型路由是成本控制:简单问题走便宜模型,难题走大模型,路由本身用 Decision 1 做,路由的成本比被路由的调用还便宜。上下文评分是 RAG 里的质检:召回的十段上下文,哪些真相关、哪些是噪音?逐段打分,只把高分段喂给生成模型。

这四类小事有个共同点:它们都是 Agent 流程里的高频环节,一天要跑成百上千次。Decision 1 的定价和延迟,就是为这种高频小判断设计的:每次判断 150 到 250 毫秒,每百万输入 0.10 美元,输出不收费。一天跑一万次判断,输入量按每次几千 token 算,成本也就几美元量级;换成生成式模型做同样的事,延迟和账单都会翻几倍。省下来的不只是钱,还有整个任务的响应速度——判断环节快了,Agent 的每一步都快了。

接入门槛也不高。Google 给了免费档,在 AI Studio 里就能拿 key 做原型;Python、JavaScript 和 REST 指南都在文档里;演示应用有三个现成的:Doorstep Parcels、Speed Sketch 和 Find the Zoo Keeper,可以先玩再决定。SDK 方面,google-genai 3.2 或更新版本就能调,OpenRouter、LangChain、Vercel AI SDK、LiteLLM 这些常用集成也在落地。也就是说,试用的成本就是一下午:拿你产品里最重复的那类判断,接上去跑一百次,记下延迟、成本和准确率,跟现在的方案放一起比。数字好就留下,不好就撤,没有迁移成本。

还有一个使用姿势值得单独提:批量审核。一次请求能挂 1,000 个问题,这个能力最适合的场景不是实时路由,而是离线批量处理:每天凌晨跑一批内容审核、一批简历初筛、一批客服质检。批量场景对延迟不敏感,但对成本和吞吐敏感,Decision 1 的“输入只收一次钱”在这里最划算:一份输入挂几十个问题,平均每个问题的成本被摊得很薄。实时场景用它省延迟,批量场景用它省钱,两种用法都成立。

泼冷水:三处还没答案

第一处,基准数字全是 Google 自家的。发布里“全面领先、校准误差最低”“将近 5 倍便宜”这两句,口径都是 Google 自己的基准套件,没有独立第三方的复核。更重要的是,基准套件的构成没有完整公开:Agent 路由、推理、排序、多模态理解这几个维度的权重怎么分配,测试集长什么样,对照组为什么选 Gemini 3.5 Flash-Lite 而不是别家模型,这些细节发布里都没有。Google 的数字可信度,比一家小厂的自卖自夸要高,但再高也不是独立验证。等第三方跑出对照数据之前,先把“领先”和“5 倍”当成厂商宣称来读,而不是结论。

第二处,Vertex AI 支持还没到。发布里写的是即将推出,没有日期。这意味着今天能用 Decisions API 的地方,只有 Gemini Developer API 和 AI Studio。企业用户如果已经把基础设施建在 Google Cloud 的 Vertex AI 上,现在还接不进来,只能等。等多久不知道,发布里没有时间表。对个人开发者和小型团队,这不算问题;对已经在 Vertex AI 上跑生产流量的团队,这就是一道明确的门槛:先在 Developer API 上做原型,等 Vertex 支持到了再往生产环境搬。

第三处,也是最容易被忽略的一处:校准得再好,也救不了写得稀烂的判断标准。Decision 1 返回的概率,是针对你写的标准算出来的;标准写得含糊,概率就算得再准,判的也是含糊的事。是非题的真假描述、选择题的候选项定义、打分题的量表刻度,全是使用者自己写的。写标准这件事,没有捷径:得先拿几十个真实案例去试,看模型在边界案例上怎么判,再回头改标准。这个调标准的活,发布里没有提,但它是真正决定效果的一步。把 Decisions API 当成“接上就能用”的现成答案,会失望;把它当成“给判断装了个便宜又快的引擎,标准还得自己打磨”的工具,预期就对了。

跟站里已发的两篇决策模型文章划界

这篇不是站里第一篇讲决策模型的文章,划界要先说清楚。10 月发过 OpenAI Decisions API,讲的是 OpenAI 在 DevDay 上把 Agent 的分支判断做成一次 150 毫秒的调用;同月还发过 TypeSafe 的 Jev,讲的是一家创业公司用非大模型的 Transformer 输出校准过的决策,三周估值 75 亿美元。那两篇讲的分别是 OpenAI 的 Agent 拼图和创业公司的校准路线,这篇讲的是 Google 的入场:多模态输入、一次一千个问题、150 到 250 毫秒、每百万输入 0.10 美元。赛道是同一条,选手和打法都不同。

读的时候也别把 Decision 1 当成 Gemini 4 Carbon 那样的新模型。站里 11 月 10 日发过 Gemini 4 Carbon 全面可用的文章,那是 Google 最强的生成式模型,走的是“更聪明”的路线;Decision 1 走的是“更便宜、更快、只做判断”的路线。一个负责把答案写好,一个负责把路选对。Agent 流程里两者都会出现:Decision 1 先判断该调哪个工具、走哪条分支,生成式模型再去执行、去写答案。分工不同,不存在谁替代谁。

最后给一句话结论:决策模型这条赛道,三个月里从一家变成四家,说明 Agent 的基础设施正在分层——生成归生成,判断归判断。Google 的入场把判断这件事的价格打到了每百万输入 0.10 美元、延迟打到了两百毫秒量级。对每天让 Agent 做成百上千次小判断的人,这是一次实打实的降本提速;对还没把 Agent 跑起来的人,先把判断环节的调用量攒起来,再来谈要不要换引擎。先拿你最重复的那类判断跑一百次,记下延迟、成本和准确率,数字会告诉你答案。

阅读 8评论 0

评论 (0)

ME
0/1000
评论加载中...

原始来源

浏览项目广场发布你的项目

相关文章

一名戴眼镜的开发者坐在木桌前敲笔记本电脑,左边外接显示器上是深色背景的 C 语言代码,桌上有绿植
资讯
微软的编程模型终于不当配角了:MAI Code 2 拿 96% 的分数、只收 5% 的钱,但先看清三处“但是”

2026 年 11 月 17 日,微软发布 MAI Code 2 和 Code 2 Flash:大模型 770 亿激活参数、100 万上下文,四项基准平均通过率 63.2%,与 GPT-6.1 Sol、Claude Opus 5.5 咬得很紧,但每任务成本只有 0.309 美元。先看清三处“但是”:价格是推广价、分数是三者最低、长周期任务不在舒适区。

开发工作流产品发布模型动态
黑色背景上,一名指挥家背对镜头高举指挥棒,脚下环绕着旋转的光轨,像一支乐队正在被指挥
资讯
一个接口接 45 个模型,坏了自动换一家接着跑:Perplexity 的 Orchestrator 想当模型界的‘总机’

2026 年 11 月 17 日,Perplexity 推出 Orchestrator API:一个接口接通 OpenAI、Anthropic、Google、xAI 与 GLM、Kimi、DeepSeek 等开源权重模型,按回答模型的公开价计费、不收平台费。同一模型挂了就换一家部署接着跑,路由功能还能按任务把请求分给不同的模型。

开发工作流产品发布模型动态
一名开发者坐在双显示器工位前敲键盘,左屏是深色代码编辑器,右屏是带损失曲线、混淆矩阵与流水线图的机器学习仪表盘
资讯
一个 bug 难不倒它,五十个就全军覆没:BuggyMLE 把编程智能体的遮羞布扯下来了

2026 年 11 月 18 日,谷歌研究院等团队在 arXiv 发布 BuggyMLE:往 222 个能跑的机器学习仓库里注入 bug,14 个模型从最简单的 95% 一路跌到最难的 9%。一个 90 亿参数的小模型靠从易到难的课表,在 10 个 bug 那档超过了 Claude Opus 5.5。

行业趋势测试与质量AI 编程实践