一个接口接 45 个模型,坏了自动换一家接着跑:Perplexity 的 Orchestrator 想当模型界的‘总机’
2026 年 11 月 17 日,Perplexity 推出 Orchestrator API:一个接口接通 OpenAI、Anthropic、Google、xAI 与 GLM、Kimi、DeepSeek 等开源权重模型,按回答模型的公开价计费、不收平台费。同一模型挂了就换一家部署接着跑,路由功能还能按任务把请求分给不同的模型。

一句话:模型越来越多,账单越来越散,Perplexity 想当那个收账的
2026 年 11 月 17 日,Perplexity 推出了 Orchestrator API:一个接口,接通 OpenAI、Anthropic、Google、xAI 四家的前沿模型,再加上 GLM、Kimi、DeepSeek 这些开源权重模型。换一个 API 密钥和基础地址,你原来的 OpenAI 或 Anthropic SDK 就能接着用,模型按回答者的公开 token 价计费,Perplexity 不再额外收平台费。
这件事的背景很简单:今年光 Anthropic 和 OpenAI 两家就发了十几个新模型,开源权重模型也出了 100 多个。模型越多,选择越多,但账单也越散——每家一个账号、一把密钥、一份合同、一张发票,模型组合变一变,合同就得重谈。Perplexity 的判断是,选模型已经不是难事,难的是让每次请求又快又稳又便宜,而且不用为每个模型单独谈合同。Orchestrator 就是把 Perplexity 自己内部用了很久的那套“模型层”拿出来,卖给所有人。
这篇文章回答四个问题:Orchestrator 到底是什么,它跟 OpenRouter 这类网关有什么不一样,它的路由功能是真有用还是摆设,以及对正在造应用的人来说,现在值不值得接。
Orchestrator 到底是什么:把自家跑了很久的“模型层”拿出来卖
Perplexity 的说法是,它自己就是一家“多模型”的公司:每天靠模型层在 85 个以上模型、十几家供应商之间路由数亿次请求。哪个任务适合哪个模型,它一直在内部做这道选择题——简单的批量任务走便宜模型,难的任务留给强模型,顺手把自己的服务成本也降下来了。Orchestrator 就是把这套基础设施的使用权交出来。
对外开放的模型目录有 45 个以上,来自七家:Anthropic 15 个、OpenAI 18 个、Google 5 个、xAI 3 个、Z.AI(智谱)的 GLM 系列 2 个、DeepSeek 1 个、月之暗面的 Kimi 1 个。开源权重模型由 Perplexity 自己或推理合作伙伴托管。调用时模型名要带供应商前缀,比如 anthropic/claude-fable-5-2 或者 perplexity/glm-5.3,这也是网关类产品的常见做法。
接入方式是它最讨巧的地方:支持 OpenAI Chat Completions、OpenAI Responses、Anthropic Messages 三种请求格式。也就是说,大多数团队不需要重写调用代码,改一下 API 密钥和基础地址(OpenAI 格式是 https://api.perplexity.ai/orchestrator/v1,Anthropic SDK 则去掉末尾的 /v1),再选一个模型,就能跑起来。第一请求按官方说法“几分钟”就能完成。
要注意一个容易误解的数字:博客里同时出现了“85+ 模型”和“45+ 模型”两个说法。85+ 是 Perplexity 内部模型层每天调度的规模,45+ 是对外目录里现在能直接调用的模型数。两个数字说的不是同一件事,写的时候别混在一起。
最关键的区别:换部署,不换模型
网关产品都会讲“自动切换”,但切换的东西不一样,这是 Orchestrator 最值得说的一点:它换的是部署,不是模型。选了 Claude,就一直是 Claude;如果 Anthropic 那边返回错误、触发限流或者超时,Orchestrator 会把同一请求重试到同一模型的另一个部署上,比如 AWS Bedrock。每次重试都有单次首 token 时间和总耗时的上限,不会无限等下去。
这个设计针对的是一个很具体的痛:模型选定了,供应商却不一定靠谱。同一模型在不同供应商手里的表现每天都在变,某家出故障、限流或者变慢,你的请求就跟着遭殃。Perplexity 在官方技术博客里拿出了自己 2026 年 10 月 4 日到 11 月 2 日、共 30 天的生产流量实测:经 Perplexity 转发的 Claude 和 GPT 请求,成功率高于同期测到的任何一家单一供应商,而且在供应商出故障的日子里,每日成功率的波动也更小。统计口径里排除了客户端自己的错误,比如无效请求和客户端触发的限流,只算服务端这边的问题。
官方博客还举了一个算术例子:对每天跑几百万次请求的团队,99.0% 和 99.99% 的成功率之间,差的是成千上万次失败。按每天 100 万次请求算,99.0% 意味着 1 万次失败,99.99% 只有 100 次。这组数字是拿博客给出的两个百分比做的简单换算,道理很直观:请求量越大,可靠性的小数点后两位越值钱。当然也要说清楚,这份实测是 Perplexity 用自己的流量、在自己的口径下跑出来的,是一家之言,不是第三方独立评测。
速度也是变量:同一模型,哪家快要看当天
除了成功率,Perplexity 还公布了同一时期、同一模型的输出速度对比,结论同样是“别认死一家”。在 Claude Opus 5.5 上,Anthropic 和 AWS Bedrock 各在 30 天里的 15 天更快,谁也没能一直赢;GPT-5.6 Sol 则是 Azure 的首 token 后中位输出速度比 OpenAI 高 27%。换句话说,“哪个供应商快”不是一个固定答案,而是一个每天都在变的排名。
Perplexity 说正在做“按速度自适应”的路由,让系统根据实时的速度表现调整供应商选择,但这部分还在开发中,现在还没有上线。所以目前的 Orchestrator 能保证的是:失败了换一家接着跑;还保证不了:永远挑当下最快的那家。这个区分值得记下来,免得把它想得比实际更聪明。
Routes 与 Auto effort:用一句话告诉它,什么活派给谁
除了“同一模型换部署”,Orchestrator 还有一层“换模型”的能力,目前是预览版,叫 Routes。用法是:你用一句话描述每类任务,再指定它该走哪个模型,组成一个路由档案;请求时把模型写成 perplexity/auto,Orchestrator 会先让一个决策模型读对话内容,对照你的任务描述挑一条路由,没对上就走你设的默认模型。决策模型看不到模型名字,只看任务描述;如果决策模型本身失败或超时,也回落到默认模型。
官方给了三套现成的档案:省钱、均衡、高质量,也可以自己写。技术博客里举了三个具体例子。客服场景:默认走 GLM-5.3 Flash,账单纠纷交给 Claude Opus 5.5,技术故障交给 GPT-6.1 Sol。写代码的场景:默认 GLM-5.3 Flash,疑难调试交给 Opus 5.5,跨模块的设计改动交给 GPT-6.1 Sol。研究场景:事实问题走 GLM Flash,算数走 Sol,写备忘录走 Opus 5.5。而且对话是跨轮次的:同一段对话从账号问题转到账单纠纷再转到故障排查,路由会跟着任务变,回到寒暄时又切回便宜的默认模型。
另一个预览功能叫 Auto effort:按你定的策略,调整模型下一轮推理花多少力气。比如智能体调用工具出错了,可以在不换模型的情况下多花点力气重试。这两个功能都在预览阶段,意味着行为和价格都可能变,生产环境接进去之前要留好退路。
路由到底有没有用,Perplexity 拿了一个实验来证明:在 Terminal-Bench 4.1 的 63 道题子集上,只用 Claude Fable 5.2 跑 Claude Code,能解出 38 道;加上路由档案(安全、生物类任务和被拒后转给 GPT-6.1 Sol,默认仍是 Fable),能解出 41 道。代价是每道题的估算成本更高。41 比 38,多解 3 道题,换算成通过率是 65.1% 对 60.3%。这个数字要配着看:题量只有 63 道,样本不大;图表脚注还写着其中一次通过是“假定通过”、成本是估算值。所以结论只能是“路由在特定任务上有帮助”,不能读成“路由全面更好”。
钱怎么算:没有平台费,但好模型要“升级”才给用
计费是 Orchestrator 拿来当卖点的第二件事:每次请求只按实际回答的模型的公开 token 价算钱,不管请求最后由哪家供应商提供服务,换部署不改价;信用额度与 Perplexity API 项目的其他用量共用;控制台里可以按模型、项目、API 密钥看花费,也可以设模型白名单、花费上限。没有按次收费,也没有额外的平台费。
但“没有平台费”不等于“所有模型随便用”。访问是按累计购买信用额度分级的:Tier 0 不用门槛,能用 Google、xAI 和开源权重模型;累计买满 50 美元升到 Tier 1,解锁 OpenAI 和大多数 Anthropic 模型;累计买满 250 美元到 Tier 2,才能用 Claude Opus 5、Opus 5.5 和 Fable 系列。也就是说,最强的模型不在默认菜单里,要先花够钱。这个分级来自官方文档的价格表,多家报道的数字一致。
对团队来说,真正省事的可能不是单价,而是管钱的抓手都收在了一个控制台里:花费可以按模型、按项目、按 API 密钥拆开看,谁烧了多少钱一目了然;管理员可以设模型白名单,规定某个项目只能用哪几个模型,也可以设花费上限,防止某次失控的循环调用把整月预算烧光。这些功能听起来不起眼,但对把智能体交给很多人用的团队来说,往往比便宜几个百分点更重要——因为失控的账单比贵一点的账单可怕得多。
另外两个限制也要知道:Orchestrator 不支持自带密钥,你不能把自己的 Anthropic 或 OpenAI 密钥接进来;也不能手动指定某个部署,只管选模型,供应商由它挑。这两点是它和 OpenRouter 最大的控制权差异:便宜和省事的代价,是把选择权交出去。
跟 OpenRouter 怎么比:网关之战的下一回合
如果只看“一个接口接很多模型”,Orchestrator 和 OpenRouter 做的是同一件事。但两家的打法不一样。OpenRouter 按信用充值收 5.5% 的标准平台费,Orchestrator 不收;OpenRouter 的 Auto Router 是帮你挑模型,Orchestrator 的默认行为是模型不变、只换部署,挑模型要另外开 Routes 预览功能。本站 11 月 6 日报道过 OpenRouter 的 Auto Router 与 Auto Code,那篇的锚点是“不用再自己挑模型”;本篇的锚点是“模型你定,供应商它换”,两篇说的不是同一个功能。
还有一个角度:Perplexity 不是从零开始做网关,它是把每天服务自己搜索产品的内部模型层开放出来。内部流量大,意味着它的故障切换和速度数据是拿真金白银的请求跑出来的;但也意味着,Orchestrator 的优先级永远排在 Perplexity 自己产品的后面。内部层先保证自家搜索不宕机,再谈对外服务——这句话官方没写,但做过平台生意的人都懂。
对独立开发者来说,真正的差别可能不在价格表上,而在账单结构上:如果你已经在为 Claude、GPT、Gemini 各自付费,Orchestrator 能把它们合成一张账单、一个供应商谈判对象;如果你本来就只用一家模型,那它能省的钱很有限,换来的主要是故障切换。先算清自己每月在几家供应商之间分了多少钱,再决定值不值得搬。
不只是 Orchestrator:三天三个 API
Orchestrator 不是单独发布的。11 月 16 日 Perplexity 先推了 Monitor API:按计划跑网络搜索或页面检查,发现新情况就提醒;11 月 17 日 Orchestrator 和 Context API 一起发布,Context 是把你给的网页内容取回来、整理成适合模型和智能体读取的格式。三天三个 API,摆明了是在搭一整套开发者平台,而不只是多卖一个接口。
11 月 19 日,Perplexity 首席执行官 Aravind Srinivas 在 X 上说,公司的 API 业务一年增长了 4.3 倍,年化收入已经达到九位数。这句话来自他的公开帖子,是厂商自己的说法,没有独立财报佐证,但它解释了为什么 Perplexity 要在这个时候把内部模型层拿出来卖:API 已经从副业变成了增长最快的业务线。
给造应用的人:什么时候值得接,什么时候先等等
值得接的情况有三种。第一,你的应用已经在同时调两三家模型,账单和密钥散得到处都是,合到一个账单能省下实实在在的管理成本。第二,你的请求量够大,大到供应商一次故障就会让几千个用户看到报错,故障切换的价值超过省下的平台费。第三,你想试试按任务分模型,但又不想自己写路由逻辑,Routes 的现成档案够你起步。
先等等的情况也有三种。第一,你只用一个模型,而且用量不大——那 Orchestrator 帮你省的东西,基本等于零。第二,你的合规要求必须自带密钥,或者必须指定数据走哪家供应商的部署——这两样它现在都不支持。第三,你想把 Routes 和 Auto effort 用在生产环境的核心链路上——它们还在预览版,行为和价格都可能变,等稳定了再接更稳妥。
还有一个实际的提醒:Tier 2 的 250 美元门槛意味着,想用 Opus 5.5 和 Fable 系列,得先在 Perplexity 的账上花够钱。如果你本来就在 Perplexity 有用量,这不算门槛;如果没有,这笔钱就是换供应商的“入场费”,接之前先算进成本里。
接进去要改什么:两行配置,加一把密钥
从官方文档的口径看,接入 Orchestrator 的改动很小。先在 Perplexity 的 API 控制台里建一把密钥——用的是你原来 Perplexity API 项目的密钥,不用另外申请一套;然后把 SDK 里的基础地址换成 Orchestrator 的地址,模型名写成带供应商前缀的形式,比如 openai/gpt-6.1-sol 或者 perplexity/glm-5.3,就可以发出第一个请求。控制台里还能按模型、项目和 API 密钥看花费,设模型白名单和花费上限;信用额度也可以通过 AWS Marketplace 购买。
有两个实现细节值得提前知道。第一,Orchestrator 是无状态的:服务端不保存对话状态,每次请求都要把完整的消息历史发过去,依赖服务端状态的请求字段会直接报错。多轮对话里模型来回切换的时候,官方建议用一个固定的 prompt_cache_key,让相关的请求尽量留在同一个部署上,这样每个模型还能复用自己那份提示缓存——比如对话第四轮回到 GLM Flash 时,它能复用第一轮的前缀缓存,只把中间 Opus 和 Sol 加进来的内容当新输入处理。第二,故障切换和路由都不需要你写重试逻辑,但这也意味着出了问题你很难自己干预:重试几次、每次等多久,都是 Orchestrator 内部定的,官方只说了每次尝试有首 token 时间和总耗时的上限,没给具体数字。
对独立开发者来说,这个接入成本算很低的:不用学新 SDK,不用重写调用层,半小时就能跑通。但低成本的另一面是,搬家之后你的模型调用就绑在 Perplexity 一家身上了。哪天想换回去,改的也是同样的两行配置——进出都容易,这反而是网关产品最健康的地方:留住你的应该是可靠性,不是迁移成本。
与本站已发内容的划界
Perplexity 在本站出现过不止一次,划清边界是必要的。10 月的 Decider 篇报道的是 Perplexity 开源的 27B 决策模型:那是一个你可以直接调用的模型,回答“该选哪个选项”这类判断题。本篇的 Orchestrator 是一个网关:它自己也用决策模型来做路由,但卖的是“一个接口接通所有模型”这件事,不是某一个模型。模型和网关,是两层不同的东西。
11 月 6 日的 OpenRouter 篇报道的是 Auto Router 与 Auto Code:锚点是自动挑模型。本篇的锚点是模型不变、供应商自动切换,外加预览版的任务路由。11 月 12 日的 OpenRouter 实测篇讲的是智能体死循环的防护,和网关的故障切换不是一回事。三篇放在一起看,正好是网关这个品类在 11 月里的三段进展:先有人做自动选模型,再有人拿实测证明防护有用,现在 Perplexity 进来做“换部署不换模型”——读的时候别把三篇的功能张冠李戴。
评论 (0)
原始来源
相关文章
2026 年 11 月 17 日,微软发布 MAI Code 2 和 Code 2 Flash:大模型 770 亿激活参数、100 万上下文,四项基准平均通过率 63.2%,与 GPT-6.1 Sol、Claude Opus 5.5 咬得很紧,但每任务成本只有 0.309 美元。先看清三处“但是”:价格是推广价、分数是三者最低、长周期任务不在舒适区。
2026 年 11 月 11 日,AWS 开源 UAEF:先把 LangGraph、LangChain、Strands、Bedrock AgentCore 等框架的运行记录翻成统一格式,再用 36 个指标、7 个维度打分,回归超过 5% 就亮灯。评审模型本身也被防了一手:打分要引原文作证,分数不能用来决定安全放行。
2026 年 11 月 10 日,Amp 推出 Boxes:每月 18 美元起的常开小电脑,专门部署你用智能体造出来的软件。每个 box 自带 runner,智能体能直接在上面改生产数据;同一周 Amp 还上线了 Spaces、告别了 Dial、登陆了 Windows——智能体的工作场,正在从笔记本搬到云端。