AREXOpen in interactive Feed

AREX Feed Article

OpenAI 宣布 Decisions API 正式 GA:单次请求最多 400 个问题,新增 GPT-Live 集成与提示缓存

October 23, 2026

10 月 22 日 19:07(UTC,北京时间 10 月 23 日凌晨),OpenAI 面向开发者的官方 X 账号 发帖宣布:Decisions API 正式 GA(generally available,全量开放)。按公告的说法,这个接口给工作流加上近实时(near real-time)决策——对文本和图像分类、评估输入、决定下一步动作,而不必生成一份完整的模型响应,开发者可以借此构建更快、更省成本的应用与 agent(智能体)。

开头已同步写明 "The Decisions API is now generally available",并给出同一口径的核心描述:Decisions API 评估文本、图像和 JSON(结构化数据格式),返回带类型的答案,官方称速度约为 Responses API 的 10 倍;请求发往 POST /v1/decisions 端点,目前唯一支持的模型是 gpt-6-luna。公告点名了 beta 之后的五项新能力——原生 GPT-Live 集成、prompt caching(提示缓存)、原生 JSON 输入、可带图片的单题指令,以及单次请求问题上限翻倍;文档的 “What's new” 清单实际列了九项,公告未提的另外四项是公网图片 URL 输入、对话历史、组织级用量统计和 Private Link 专线接入。

图:OpenAI 开发者论坛 10 月 6 日公测公告随帖发布的官方画面,画面文字为 “Introducing the Decisions API”。

23 天,从限量预览到 GA

9 月 29 日, 发帖宣布 Decisions API 以限量预览(limited preview)形态上线:由 GPT-6 Luna 驱动,应用先定义问题和候选答案,接口负责分类内容、路由请求或挑选 agent 的下一个动作。10 月 6 日 20:53(UTC),OpenAI 开发者论坛的公告区出现,宣布接口向所有开发者开放。10 月 22 日的 GA 公告距限量预览 23 天,距公测开始不到 16 天。

公告五项新能力的具体做法

原生 GPT-Live 集成。 GPT-Live 是 OpenAI 的实时语音会话接口。写道,原生集成让 GPT-Live 直接调用 Decisions(native delegation,原生委托),省去“先通知应用、再由应用发起请求”的一个来回,目标是趁用户还在说话时就做出低延迟决策。指南里的车载语音助手示例中,司机说“我有点冷”,一次 Decisions 调用同时返回三个 choice(选择题)结果——调高空调、除雾器不动、无需调用 Responses API;指南还支持按输入或输出转写流(transcript delta)触发决策,比如数字人听到“我找到工作了!”时边听边微笑点头。开发者可以在会话进行中用 session.update 更换问题,但委托类型在会话创建时就固定下来。

Prompt caching。 重复请求可以复用共享 input 的相同前缀,缓存读取按折扣价计费。文档写明:默认在共享 input 末尾放置隐式缓存断点,可复用前缀至少要 1,024 个 token(词元),questions 中的内容不计入前缀、也不参与复用;缓存分区可用 prompt_cache_key,也可显式标记断点。照这个设计,把参照文档或参照图放进 input、每轮只换问题,是官方给出的省钱路径。

原生 JSON 输入。 通过 input_json 内容块直接传结构化数据,不必先把数据转成字符串(目前仅限 user 角色的消息)。文档示例把一份支持工单和一张订单记录放进同一条消息——订单里有两笔金额均为 49 的扣款——让模型判断这是否构成重复扣费。

单题图片指令。 每道题的 instructions 可以是一个由 input_text 和 input_image 组成的数组,predicate(判断题)、choice、score(打分题)三种题型都适用;典型用法是让多道题各带一张候选图,与 input 里共享的参照图逐一对比。题目图片与 input 图片共享同一个请求级图片上限。

问题上限翻倍。 文档明确:单次请求可含 1~400 个问题,公测期上限是 200——公告里“单次调用可做出的决策数量翻倍”对应的就是这个基数。

另外四项写在文档里、公告没有展开:支持直接传入公网 HTTP/HTTPS 图片 URL(公测期文档要求图片必须以内联 base64 提供,file_id 至今不支持);input 可接收按序排列的对话历史,包括 function 与自定义工具调用及其输出,文件、音频和条目引用不支持;新增组织级用量接口 GET /v1/organization/usage/decisions,可用管理员密钥按项目、API key 或模型统计 token 与请求数;Private Link 允许通过私有连接发送 Decisions 请求。

一次请求,三种答案

按文档,一个 Decisions 请求由三部分组成:model(目前只有 gpt-6-luna)、input(所有问题共享的证据)和 questions(要评估的问题,含类型、指令、候选选项或评分等级)。响应里的 answers 数组按每道题的 name 回显结果。

三种题型对应三种答案:predicate 返回 0~1 的概率,文档示例让模型检查产品照片有无裂痕、撕裂或凹痕,返回 0.92;choice 从给定选项里选一个,附带各选项的概率分布和单独的 confidence 字段——示例把“我被扣了两次款”的投诉路由到 billing,四项概率为 0.95、0.02、0.01、0.02,confidence 0.93,文档还建议预留一个 other 选项,把没覆盖的输入送进人工复核队列;score 按 2~10 个有序等级评估输入,返回按等级索引的概率加权平均,可以落在两级之间——示例中 0.1、0.7、0.2 的分布给出 1.1。

答案还有第四种类型 refusal(拒答)。文档同时划出边界:相互独立的题目可以放进同一次请求;有依赖关系的决策仍要拆成多次请求,比如先判断有无损伤,再决定是否追问维修类别;需要生成字段或文字解释时,应该回到 Responses API 的 Structured Outputs(结构化输出)或 function calling(函数调用)。文档建议先在 Playground 里试问题再写代码。

只按输入 token 计费,缓存读写分开算

GA 文档给出的定价:gpt-6-luna 未缓存输入 0.10 美元/百万 token;缓存命中享受折扣输入价,缓存写入单独收费,两项费率与标准的 gpt-6-luna prompt caching 费率一致;输出 token 不收费。区域处理溢价和长上下文输入加价照常适用。合规方面,接口对符合条件的客户支持 Zero Data Retention(ZDR,零数据保留)与 HIPAA(美国医疗数据隐私法规);数据驻留覆盖所有受支持的 API 区域,区域处理支持美国和欧洲(EEA,欧洲经济区,及瑞士)。

公测论坛里,开发者实测发现了什么

公测开始次日,论坛用户 Poupanka 指出 Decisions API 没有缓存输入 token,并写道这“让分类任务从 Luna 的 Responses API 换到 Decisions API 在经济上不划算,希望尽快启用缓存”;用户 VeitB 确认当时确实没有缓存。GA 新增的 prompt caching 补上的正是这块缺口。

同一帖子里的实测数据:VeitB 在约 3 Mbps 的慢速网络下测得图片输入约 0.8 秒返回。用户 platypus 做了一组校准测试:一枚正面率 70% 的硬币,跑 1,000 次,predicate 题型如预期给出约 70% 正面;换成 choice 题型却给出 98%——概率质量被压到了最可能的选项上。他还发现“调整选项顺序会改变概率”,结论是“现阶段不要用 choice 题”。用户 jefff 拿它和另一款模型 Jev 简单对比:Luna 在细微判断上“自信的错误答案大约是 Jev 的三倍”,中位回合耗时 1.6 秒对 0.3 秒,同等问题成本约 2~3 倍;他同时注明测试只覆盖几百道题,“只能当作早期信号,不是通用基准”。用户 sam.saffron 则指出 Jev 还不支持图像理解,“这张图是否违反站点准则”“图里是否包含源代码”这类检查正适合 Decisions API。

这些都是开发者自建的小样本测试。GA 文档没有正面回应 choice 题的校准问题,只重复了同一条操作建议:用你自己应用里带标注的样本设置路由、过滤或复核的阈值,并按误报与漏报的代价来选。

参考链接