OpenAI Decisions API 公测:内容分类速度提升10倍,独立开发者能用它做什么
OpenAI 刚放出了 Decisions API 的公测版。这个接口做的事情看着简单,但对 AI 应用架构的影响不小:它能把”判断一段文本属于什么类别”这类任务的速度做到比 Responses API 快大约10倍。
如果你做过内容审核、工单分类、用户意图路由这类功能,大概率用过 GPT-4o 或者类似模型跑分类。效果可能还行,但延迟和成本是个问题。Decisions API 想解决的就是这个。
它到底干什么
简单说,你给它一段输入(文本、图片或者两者混合),再给它一组问题,它返回三种类型的答案:
- predicate — 判断某个条件是否成立,返回 0 到 1 的概率值。比如”这段用户评论是否包含人身攻击”
- choice — 从你给的选项里选一个。比如”这个工单应该路由到售后、技术还是财务”
- score — 按你定义的等级打分。比如”这条用户反馈的严重程度是低、中、高还是紧急”
三种类型覆盖了大部分分类场景。根据 OpenAI 官方文档,目前只支持 gpt-6-luna 这一个模型,走专用的 POST /v1/decisions 端点。
跟 Responses API 有什么区别
这是关键问题。如果你已经用 Structured Outputs 或 function calling 做分类了,为什么还要换?
根据 OpenAI 官方文档的说明,区别在于设计目标。Responses API 是通用文本生成接口,能写文章、能对话、能提取结构化数据。Decisions API 只做一件事:快速判断。不做生成,不做解释,只返回判断结果。
这意味着延迟更低。官方说法是大约10倍速度差距。对于实时内容路由这种场景,200ms 和 2s 的差距直接决定用户体验。
独立开发者能用来做什么
1. 用户反馈自动路由
假设你有一个 SaaS 产品,用户反馈入口统一收口。用 Decisions API 的 choice 类型,一个问题就能把反馈分到”bug报告””功能建议””使用疑问””投诉”四个桶里。配上 predicate 判断紧急程度,自动给 bug 报告打标。
以前用 GPT-4o 跑这个逻辑,每次调用大概 1-3 秒。换 Decisions API,理论上能压到 200-300ms 级别。对于日反馈量不大的独立产品,成本也能接受。
2. UGC 内容审核
如果你的产品有用户生成内容(评论、帖子、图片),内容审核是个刚需。predicate 类型天然适合做这个:”这条内容是否包含仇恨言论””这张图片是否有暴露内容”。概率值返回让你可以设阈值,高于 0.8 直接拦截,0.3 到 0.8 进人工审核队列。
3. RAG 系统的查询路由
RAG 系统里有个常见问题:用户提问该去哪个知识库检索。用 choice 类型做查询分类,”这个问题应该查产品文档、API参考还是FAQ”,比用 embedding 相似度更精准,尤其当用户问题比较模糊的时候。
成本和限制
目前 Decisions API 还在公测阶段,只有 gpt-6-luna 一个模型可选。OpenAI 文档说预计几周内 GA。
几个需要注意的点:
- 目前只支持单次请求,不支持批量。如果你的分类任务有几千条数据要处理,需要自己写并发
- 图片输入支持但会增加延迟和成本
- 返回结果不包含解释文本。如果你需要”为什么这么分类”的理由,还是得用 Responses API
定价方面,OpenAI 还没在公开页面单独列出 Decisions API 的价格。参考 GPT-4o 的输入价格是每百万 token $2.5,Decisions API 的实际成本需要等 GA 后才能确认。不过考虑到它不生成 token 只输出判断结果,理论上应该比完整生成便宜。
该不该现在就接入
取决于你的场景对延迟有多敏感。如果你现在的分类逻辑跑得好好的,延迟也能接受,没必要急着换。公测阶段 API 行为可能有变化。
但如果你正在做一个对实时性要求高的功能——比如实时内容审核、实时查询路由——值得现在就去 Playground 试试。OpenAI 提供了在线测试工具,不需要写代码就能体验。
访问 OpenAI Playground 的 Decisions 页面,输入你的文本和问题,直接看返回结果。试几组真实数据,你就能判断它对你的场景够不够准。
我的判断
Decisions API 的意义不在于”更好的模型”,而在于”更合适的接口”。过去用通用大模型做分类,有点像用瑞士军刀切菜——能用但不够顺手。专用接口的出现说明 AI API 生态在成熟,开始按场景分工而不是一个大模型打天下。
对独立开发者来说,这是好事。更低的延迟意味着更好的用户体验,更精准的接口意味着更少的 prompt 工程工作量。如果你的产品里有分类判断的逻辑,关注一下这个方向。
OpenAI 官方文档地址:developers.openai.com/api/docs/guides/decisions
