觀點 · 資訊分享
OpenAI Decisions API 正式上線:專答「是不是、選哪個」的小決策,輸入每百萬 token 0.1 美元
OpenAI 在 10 月 22 日讓 Decisions API 正式上線。它把 GPT-6 Luna 專門用來回答有固定答案的判斷題,官方說最快比 Responses API 快 10 倍,輸入每百萬 token 只收 0.1 美元,輸出不收費。
- 發布
- 2026-10-23
- 篇幅
- 約 4 分鐘 · 1,913 字
- 結構
- 8 節 + 4 題常見問題
- 標籤

一句話看懂:OpenAI 的 Decisions API 正式上線,專門回答「是不是、選哪個、幾分」這類有固定答案的小決策,最快比 Responses API 快 10 倍,輸入每百萬 token 只要 0.1 美元。

先用白話講:什麼是「小決策」?
想像超商店員每天要做很多選擇題:這張發票要不要打統編?這箱貨放哪一個架子?客人問的是退貨還是換貨?每一題都不用寫作文,只要從選項裡挑一個。
AI 應用也是這樣:一個流程裡常常有「這封信該分到哪個部門」「這個動作要不要執行」之類的小決策。每一個都很簡單,但一天跑幾萬次,延遲和費用就會堆起來。Decisions API 的想法是:別讓大模型每次都寫一大段話,只叫它做選擇題,直接回答案。
發生什麼事
OpenAI 在 10 月 22 日宣布 Decisions API 正式上線(GA)。它用 GPT-6 Luna,可以從文字、圖片和結構化資料做判斷,官方說最快比用 Responses API 呼叫 GPT-6 Luna 快 10 倍。
公測之後新增的東西:
- 直接整合即時語音模型 GPT-Live
- 重複使用的內容有提示快取,另有美國與歐盟區域的資料處理選項
- 可以直接傳 JSON 資料、在題目裡附圖片
- 單次請求最多 400 題,是公測時的兩倍
- 官方也說亞洲幾個區域增加了容量,延遲持續改善
三種題型
| 題型 | 用在什麼時候 | 回傳 |
|---|---|---|
predicate |
判斷條件成不成立,例如商品照片有沒有明顯損壞 | 0 到 1 的機率 |
choice |
從固定選項挑一個,例如分到哪個部門 | 你提供的選項,另附各選項機率與信心值 |
score |
依有順序的等級打分,例如問題的嚴重程度 | 各等級機率加權後的平均分數 |
價格與速度
- 輸入每百萬 token 0.1 美元,快取過的輸入是 0.01 美元
- 只收輸入 token,沒有輸出費用
- 自行換算:一次請求 2,000 token、跑 1,000 次,共 200 萬 token,輸入費用約 0.2 美元
- 官方列了幾家客戶自己測的結果:Box 在 30 個保險證明文件案例上,選路徑約快 5 倍、準確度和 Responses API 相同;Ramp 比 GPT-6 Luna 快 4 倍、便宜 30%;Sierra 的延遲在 280 毫秒內(p95),成本降低 90%。這些都是各家在自己場景的數字,不能直接套用到你的專案
給開發者的技術細節
呼叫 POST /v1/decisions,目前只支援 gpt-6-luna。請求有三個欄位:model、input(共用的證據)、questions(要問的題目),回應則是 answers 陣列,每題用 name 對應。下面是依官方文件整理的簡化示意:
{
"model": "gpt-6-luna",
"input": "客戶說:我被重複扣款了,請幫我退費。",
"questions": [
{
"type": "predicate",
"name": "is_refund",
"instructions": "客戶是不是在要求退費?"
}
]
}
- 單次請求可放 1 到 400 題,彼此獨立的題目可以共用同一份輸入
- 圖片可用公開的 HTTP/HTTPS 網址或 base64 資料網址,不支援
file_id;檔案與音訊目前也不支援 - 傳結構化資料用
input_json,只能放在使用者訊息裡 - 官方有提供美國與歐盟的區域處理,符合資格的客戶可使用零資料保留,也可走 Private Link 私有連線
我的看法
很多中小企業的系統,其實有一大堆這種「分類」需求:客服信件分流、表單內容歸類、留言審核、判斷這張照片合不合格。以前不是用大模型太慢太貴,就是自己訓練分類器太麻煩。這個 API 把這件事標準化,而且價格低到可以放在每一次請求的熱路徑上,我覺得是實用的方向。
不過我會注意幾點。第一,模型只有一個選擇,資料也是送去 OpenAI。第二,官方和客戶的數字都是自己場景測的,導入前要拿自己的資料量一遍準確度。第三,Box 的做法值得學:信心值低的案例不要硬放行,送人工複核。小團隊可以先挑一個低風險的流程試,例如內部信件分類,跑一陣子再決定要不要放到客戶面前。
名詞小辭典
- Token:AI 計算文字量的單位,大約是一個字或半個英文單字,API 依 token 數量收費。
- p95 延遲:100 次請求裡,有 95 次的回應速度比這個數字快,用來看「大多數情況」下的速度。
- 分流(Routing):根據內容決定要交給誰或哪個流程處理,例如客服信件分到不同部門。
- 信心值(Confidence):模型對自己答案的把握程度,可以用來決定要不要轉人工。