OpenAI 发布 Decisions API:选项内直接出答案,单次判断约 150 毫秒

OpenAI 开发者大会发布 Decisions API,用最便宜的 Luna 特化版在给定选项内直接作答,约 150 毫秒返回。文中对比它与 Jev 在模态、概率输出与定价上的差异。

OpenAI 推出 Decisions API:给 AI 出选择题,150 毫秒就可给出结果

OpenAI 在今天的开发者大会上发布了 Decisions API。开发者写好一个问题和几个备选答案,再把内容发过去,模型直接从选项里挑一个返回,不生成多余的内容。目前是有限预览,只对部分 API 客户开放,OpenAI 说未来几天会全面放开。

它用的是 GPT-6 家族里最小、最便宜的 Luna 的特化版本。按 OpenAI 的说法,一次判断大约 150 毫秒,同样的任务走普通 Luna 接口要 1.6 秒左右,快了十倍。

这类活儿以前有两种做法。一种是让大模型自由回答,再从一堆文字里解析结果,慢,还偶尔答非所问。另一种是专门训练一个分类器,得先攒标注数据,类别一变就要重训。Decisions API 把答案限定在你给的选项里,不可能跑出范围,换选项也只是改一下请求。

典型用法:客服工单进来,连同“账单组、技术组、售后组”几个候选一起发过去,马上知道该派给谁;内容审核时判断一张图能不能放行;AI 智能体每走一步,决定下一步调哪个工具。输入支持文字和图片。

不过社交媒体都在调侃 Decisions API 是在山寨 Jev。Jev 是创业公司 TypeSafe(创始人之一 Diogo Almeida)九月中旬发布的“决策模型”。普通聊天模型是一个字一个字往外生成,Jev 不生成文字,一次性给所有选项打分,直接返回答案和概率。TypeSafe 管它叫“System 1 模型”,借用心理学里“快思考”的说法:不推理,不解释,凭直觉秒答。

Jev 上线后在开发者圈很快传开。演示里有人一小时内就搭出能玩 Minecraft、Subway Surfers 的机器人,只要列出可选动作,不用训练。不过这些演示都跑在模拟器里,真实硬件上还没验证。它的价格也极低:输入每百万 token 0.042 美元,输出免费,处理一百万张三道判断题的工单大约 19 美元。

但细节上还是有差异: Jev 只收文本,Decisions API 能看图。Jev 每个答案都附带校准过的概率,方便设阈值,比如“低于 0.7 就转人工”,OpenAI 这边也会返回置信度。

分享 微博

弹幕

还没有弹幕,来说一句。

到此一游

共 0 条

还没有人留下足迹,来签个到。

    评论 共 0 条

      昵称 —