Perplexity 推出 Orchestrator API:一个接口接入 45 款专有与开放权重模型,按可用性、容量与延迟自动选服务商
Perplexity 于 11 月 17 日通过官方 X 账号 @perplexity_ai 宣布推出 Perplexity Orchestrator API:开发者可为不同任务选择合适的模型,平台再依据可用性(availability)、容量(capacity)与延迟(latency)自动挑选服务商;开放权重与专有模型经同一个 API 提供,采用统一计费。帖子发布于 UTC 时间 11 月 17 日 20 时 13 分,即北京时间 11 月 18 日凌晨(Perplexity 官方账号公告帖)。同日,官方博客发布《Introducing Orchestrator: One API for frontier and open-weight models》,文档站同步给出接口说明与模型价目表(官方博客)。
官方账号在主帖下的跟帖中补充:Orchestrator API 提供 OpenAI、Anthropic、Google、xAI 的 45 款以上模型,外加开放权重模型;现有 OpenAI 或 Anthropic SDK(软件开发工具包)可直接连到 Perplexity API key,以 OpenAI Chat Completions、OpenAI Responses 或 Anthropic Messages 三种格式调用(官方跟帖)。本文的产品细节与全部性能数字均出自 Perplexity 官方帖文、博客与文档,属公司口径。
一家供应商、一张账单,迁移只需改 base URL 和 API key
官方博客把多供应商现状列成一份成本清单:接多家实验室与推理服务商,意味着单独的账户、API key、合同、安全审查和发票,还要为「几周内就可能变化的模型组合」分别谈年度承诺。Orchestrator 的做法是把受支持模型收进一家供应商、一张账单,在积分(credits)之上不另收平台费(官方博客)。配套的 API Console 提供按模型、项目、API key、日期拆分的用量报表,支持按项目或团队分设密钥,以及组织级模型白名单、用户限制、消费上限与容量申请(官方博客)。
存量集成的迁移路径在文档里写得很短:改 base URL、换 API key,改用目录里的完整模型 ID 即可;目录中每个模型都支持全部三种请求格式,个别功能因模型而异(官方快速上手文档)。Orchestrator API 是无状态接口,依赖服务端状态的请求字段会返回错误,每次请求需自带完整对话(官方快速上手文档)。
目录与价目:按 token 计费,换部署不换价
文档目录目前列出 45 款模型,与官方「45 款以上」的说法吻合:Anthropic 15 款(含 Claude Fable 与 Opus 5.5),OpenAI 18 款(GPT-6.1、GPT-6、GPT-5.6 及更早的 GPT-5 系列),Google 5 款 Gemini Flash,xAI 3 款 Grok;开放权重一侧有 Z.AI 的 GLM 5.3 与 GLM 5.3 Flash、DeepSeek V4 Pro、Moonshot AI 的 Kimi K3(Orchestrator 模型与价目文档)。博客说明,开放权重模型由 Perplexity 自己或推理合作方托管(官方博客)。所有模型 ID 带供应商前缀,例如 openai/gpt-6-luna、perplexity/glm-5.3(官方快速上手文档)。
使用门槛分层明确:Google、xAI 与开放权重模型对所有使用层级(usage tier)开放;OpenAI 与 Anthropic 模型需 Tier 1 及以上;Claude Opus 5、Opus 5.5 与 Fable 系列需 Tier 2 及以上;开启零数据保留(ZDR)的组织无法调用 Fable 模型,请求返回 HTTP 403(官方快速上手文档)。
计费按 token 走:每个模型有各自的输入、输出费率,没有每请求费用;缓存读取按模型的 cache-read 费率,推理(reasoning)token 按输出费率计(官方定价文档)。Anthropic 系列与 GPT-6.1、GPT-6、GPT-5.6 对写入缓存的 token 按 1.25 倍输入费率计费,Anthropic 另有一小时缓存档,按 2 倍计(Orchestrator 模型与价目文档)。文档强调:无论哪家部署实际服务请求,都按所请求模型的公布费率计费;用 perplexity/auto 时按实际服务模型的费率计(官方定价文档)。目录给出具体价目,例如 anthropic/claude-opus-5-5 每百万 token 输入 4.00 美元、输出 20.00 美元,openai/gpt-6-luna 为 0.10/0.50 美元,perplexity/glm-5.3 为 1.40/4.40 美元(Orchestrator 模型与价目文档)。
路由分两层:挑模型可选,挑服务商自动
官方文档把路由拆成两层(路由与可靠性文档):服务商路由是自动的——模型确定后,平台依据观察到的错误率、容量与延迟选择该模型的某个部署(deployment),部署失败时自动换另一部署重试;模型路由是可选项——把 model 设为 perplexity/auto,由一个决策模型替开发者选。响应的 model 字段写明实际服务的模型(路由与可靠性文档)。
perplexity/auto 的规则是:routing 对象含一个 default_model 与 1~5 条路由,每条路由由名称、一段自然语言描述和目标模型组成;决策模型读对话文本与路由描述,不读路由名称或模型 ID,选出最匹配的一条,或返回 none;没有路由匹配、决策模型失败或超时、对话含图片/音频/视频/文件时,由 default_model 服务(路由与可靠性文档)。每个请求独立路由,同一对话的不同轮次可能由不同模型服务。默认策略以 openai/gpt-6.1-sol 为默认模型,问候、快问快答、短改写或翻译这类「simple」(简单)请求路由到更便宜的 openai/gpt-6-luna,两个模型都要求 Tier 1 以上(路由与可靠性文档)。
命中情况可观测:响应头 x-perplexity-autoroute-route 与 x-perplexity-autoroute-confidence 返回命中的路由与置信度,文档示例为 0.991(路由与可靠性文档)。博客还开放了两项预览功能:Routes 让团队用自然语言描述哪类请求交给哪个模型,内置 Lower cost(更低成本)、Balanced(均衡)、Higher quality(更高质量)三档预设;Auto effort 让受支持的模型在下一轮按开发者策略调整推理力度,例如代理在工具出错后加大思考而不必换模型(官方博客)。
成功率对比出自自家生产流量,统计口径未公布
博客称,Perplexity 的模型层在 85 款以上模型、十余家服务商之间路由数亿次请求,Orchestrator 是把支撑自身产品的这层推理设施开放出来(官方博客)。可靠性方面只给出一句话数据:「在 Orchestrator 上一个月的生产流量中,经由 Perplexity 的 Claude 与 GPT 请求,成功率高于所测的任何单一服务商,且在服务商事故期间的日间波动更小」(官方博客)。博客没有附数据表、统计周期或对比对象清单,该说法属公司自述。
博客给了一组量级对比:对每天处理数百万请求的团队,成功率从 99.0% 到 99.99% 的差距会波及数千条响应;Orchestrator 让团队不必自己编写和维护故障切换(failover)逻辑(官方博客)。
公告区的追问:缓存、评测可比性与路由激励
公告帖下的回复多落在工程细节上。AI 工具博主 Farhan 认为「统一计费是被低估的那部分——一张发票,总好过同时打理五个 API 账户」(Farhan 的回复);创业者 Anand Butani 反过来说:「路由是个基本解决了的问题,统一计费不是。光是缓存与未缓存 token 的费率,各家服务商就不一样,发票从来对不齐」(Anand Butani 的回复)。
两条技术追问直指成本与可复现性。Ajay Shah 问:成本节约的大头之一是输入缓存,每次调用都动态换路由,这部分收益还在吗(Ajay Shah 的回复)?路由文档部分回应了这一点:每个模型各自维护提示缓存(prompt cache),路由到 Anthropic 模型的轮次,只有请求带缓存标记才会命中(路由与可靠性文档)。软件工程师 Jeff Bruchado 提醒:如果服务商可能随请求变化,每次评测都得记录到底是哪个部署在服务这次调用,否则分数之间没法比较(Jeff Bruchado 的回复)。也有用户问,同一个开放权重模型若因延迟更好被路由到更贵的托管方,账单会不会随之变化;定价文档的计费规则排除了这种变动(官方定价文档)。
用户 bobolv 的质疑更根本:「『自动挑对模型』意味着你信任的是路由器的激励,而不是模型本身;『能通过检查里最便宜的』和『对你最好』是两个完全不同的目标」(bobolv 的回复)。路由策略细节与成功率数据的统计口径,官方帖文与博客都未给出;大体量或带长约承诺的工作负载,量价需邮件 api@perplexity.ai 单独洽谈(官方博客)。价目本身也带时效:目录注明 google/gemini-3.8-flash 与 google/gemini-3.7-flash 的费率适用至 2026 年 12 月 31 日(Orchestrator 模型与价目文档)。
参考链接
- Perplexity 官方账号公告帖(@perplexity_ai,2026 年 11 月 17 日)
- Perplexity 官方跟帖:45 款以上模型与 SDK 兼容说明
- Perplexity 官方博客:Introducing Orchestrator: One API for frontier and open-weight models(2026 年 11 月 17 日)
- Perplexity 文档:Orchestrator API 快速上手
- Perplexity 文档:Orchestrator 模型与价目
- Perplexity 文档:路由与可靠性
- Perplexity 文档:API 定价
- Farhan(@mhdfaran)对公告的回复
- Anand Butani(@AnandButani)对公告的回复
- Ajay Shah(@ageshah)对公告的回复
- Jeff Bruchado(@jeffbruchado)对公告的回复
- bobolv(@bobolv235824)对公告的回复