OpenAI Decisions API 全面开放:150 毫秒把大模型变成 if 语句(2026年10月)
OpenAI 10 月 22 日向全部客户开放 Decisions API:GPT-6 Luna 驱动,返回概率、选项、分数三种有界输出,延迟 100-180 毫秒,输入 0.1 美元/百万 token、输出免费。拆解定价逻辑与微软、Perplexity 竞品格局。
10 月 22 日,OpenAI 把 Decisions API 正式向全部客户开放。这个 9 月 29 日开发者日亮相的接口不写文章、不写代码,只做一件事:给它一段证据和几个预设问题,它返回概率、选项或分数。延迟从常规生成链路的 1-3 秒压到 100-180 毫秒,价格只按输入算——每百万 token 0.1 美元,缓存命中 0.01 美元,输出免费。在 ChatGPT 之外,OpenAI 第一次把「判断」做成了独立计价的产品线。
什么是 Decisions API:一次调用只返回一个判断
用法上,开发者预先定义问题和答案空间,请求时只提交证据文本。API 提供三种有界输出:predicate 返回 0 到 1 的概率,适合「是不是垃圾邮件」这类布尔判断;choice 从预设选项里选一个,适合工单路由;score 给出有序评分,适合严重性定级。单次请求最多可包含 200 个问题,一次网络往返拿回 200 个结构化结果。端点目前只由 GPT-6 Luna 驱动——就是免费档 ChatGPT 在用的那颗小模型,保留了图像理解、多语言与安全能力,旗舰 GPT-6 Astra 不在此列。
为什么能快 10 倍:把生成从请求路径里拿掉
传统做法是让模型生成一段话再解析,快慢取决于输出长度。Decisions API 把输出空间提前锁死,不用逐 token 生成散文,直接打分选边。按 OpenAI 官方口径,延迟从 1-3 秒压到 100-180 毫秒,比走 Responses API 快约 10 倍。但这里有个关键细节:它不是专门训练的新模型,OpenAI 的说法是对现有 Luna 重新配置以降低推理延迟和成本。本次全面开放还新增语音与视觉两种输入模态,并支持按地区调度推理资源,给跨国业务再省一段物理距离。
定价账:为什么敢把输出免费送
计费只有输入一项,敢送输出是因为输出本身极短——一个概率、一个选项、一个分数,几乎没有生成成本。第三方开发者实测给过参照系:1 万条客服请求按账单、技术、销售三类路由,走生成链路单次约 1.6 秒,走 Decisions 约 150 毫秒。对内容审核、保险核保、风控初筛、质检分拣这类每天百万次调用的高频场景,原来养规则引擎或微调小模型的预算,现在可以按 token 直接换算。
决策模型已经是一个新品类
OpenAI 不是第一个,这条赛道由初创公司 TypeSafe 的 Jev 模型带火,随后一周内密集登场:微软 Microsoft-Decision-1 输入价约 0.042 美元/百万 token;Perplexity 的 pplx-decider-v1-27b 报价 0.04 美元且输出免费(检索侧可参考 Perplexity Sonar 的路线);Cloudflare 推出 Clef 与 Clef-flash;AWS 的 Strands Decider 2B 走自托管。共同点是把分类、路由、打分从通用大模型里切出来单独定价。受冲击的是套壳创业公司的解析层和规则引擎厂商——当大厂把判断做成比自建更便宜的原语,中间层就没生意了。
冷静一面:概率不是事实,分类不等于授权
OpenAI 没有公开独立的精度与校准基准,第三方分析普遍认为校准仍是悬而未决的问题:分布偏移时,0.9 的高置信分依然可能错。边界要画清楚:分类结果可用于路由和排序,但支付、签约这类关键动作仍需独立校验,这与 微软 Copilot 等企业级助手把动作与判断分层的原则一致。工程上的稳妥做法是用置信度阈值把边界案例送回人工,并按自己业务的错误代价标定阈值——API 越便宜,越要有人为的刹车。
数据说明:时间线与价格来自 OpenAI 开发者日披露及 2026-10-22 至 10-23 多家媒体交叉报道,竞品价格为各自公开报价,未公开项如实标注,未经独立复核。
❓ 常见问题
普通调用是让模型生成一段文本再解析,输出开放、耗时 1-3 秒;Decisions API 只返回概率、选项、评分三种有界结果,延迟 100-180 毫秒,按输入 token 计费、输出免费。它适合分类、路由、打分这类有固定答案的判断,不适合写内容。
只按输入计费:每百万 token 0.1 美元,缓存命中降到 0.01 美元,输出免费。以 1 万条客服请求的三分类路由为例,走生成链路单次约 1.6 秒,走 Decisions 约 150 毫秒,成本可按 token 直接换算。
适合:内容审核初筛、工单路由、风控初筛、保险核保、质检分拣等高频低客单判断,以及为智能体选择下一步动作。不适合:支付、签约、解封等不可逆动作——分类不等于授权,这些仍需独立校验和人工批准。
目前仅由 GPT-6 Luna 驱动,即免费档 ChatGPT 在用的小模型。OpenAI 说明这是对现有 Luna 重新配置以降低延迟和成本,并非专门训练的新模型。10 月 22 日全面开放后新增语音与视觉输入模态。
TypeSafe 的 Jev 模型带火了该品类,随后微软推出 Microsoft-Decision-1(输入约 0.042 美元/百万 token)、Perplexity 推出 pplx-decider-v1-27b(0.04 美元/百万、输出免费)、Cloudflare 推出 Clef 与 Clef-flash、AWS 的 Strands Decider 2B 走自托管路线。