觀點 · 資訊分享

OpenAI Decisions API 正式上線:專答「是不是、選哪個」的小決策,輸入每百萬 token 0.1 美元

OpenAI 在 10 月 22 日讓 Decisions API 正式上線。它把 GPT-6 Luna 專門用來回答有固定答案的判斷題,官方說最快比 Responses API 快 10 倍,輸入每百萬 token 只收 0.1 美元,輸出不收費。

發布
2026-10-23
篇幅
約 4 分鐘 · 1,913 字
結構
8 節 + 4 題常見問題
標籤
#OpenAI#Decisions API#GPT-6 Luna#API 成本
OpenAI Decisions API 正式上線:專答「是不是、選哪個」的小決策,輸入每百萬 token 0.1 美元

一句話看懂:OpenAI 的 Decisions API 正式上線,專門回答「是不是、選哪個、幾分」這類有固定答案的小決策,最快比 Responses API 快 10 倍,輸入每百萬 token 只要 0.1 美元。

OpenAI Decisions API 正式上線資訊圖卡:專門回答「是不是、選哪個、幾分」的 API,最快比 Responses API 快 10 倍

先用白話講:什麼是「小決策」?

想像超商店員每天要做很多選擇題:這張發票要不要打統編?這箱貨放哪一個架子?客人問的是退貨還是換貨?每一題都不用寫作文,只要從選項裡挑一個。

AI 應用也是這樣:一個流程裡常常有「這封信該分到哪個部門」「這個動作要不要執行」之類的小決策。每一個都很簡單,但一天跑幾萬次,延遲和費用就會堆起來。Decisions API 的想法是:別讓大模型每次都寫一大段話,只叫它做選擇題,直接回答案。

發生什麼事

OpenAI 在 10 月 22 日宣布 Decisions API 正式上線(GA)。它用 GPT-6 Luna,可以從文字、圖片和結構化資料做判斷,官方說最快比用 Responses API 呼叫 GPT-6 Luna 快 10 倍。

公測之後新增的東西:

  • 直接整合即時語音模型 GPT-Live
  • 重複使用的內容有提示快取,另有美國與歐盟區域的資料處理選項
  • 可以直接傳 JSON 資料、在題目裡附圖片
  • 單次請求最多 400 題,是公測時的兩倍
  • 官方也說亞洲幾個區域增加了容量,延遲持續改善

三種題型

題型 用在什麼時候 回傳
predicate 判斷條件成不成立,例如商品照片有沒有明顯損壞 0 到 1 的機率
choice 從固定選項挑一個,例如分到哪個部門 你提供的選項,另附各選項機率與信心值
score 依有順序的等級打分,例如問題的嚴重程度 各等級機率加權後的平均分數

價格與速度

  • 輸入每百萬 token 0.1 美元,快取過的輸入是 0.01 美元
  • 只收輸入 token,沒有輸出費用
  • 自行換算:一次請求 2,000 token、跑 1,000 次,共 200 萬 token,輸入費用約 0.2 美元
  • 官方列了幾家客戶自己測的結果:Box 在 30 個保險證明文件案例上,選路徑約快 5 倍、準確度和 Responses API 相同;Ramp 比 GPT-6 Luna 快 4 倍、便宜 30%;Sierra 的延遲在 280 毫秒內(p95),成本降低 90%。這些都是各家在自己場景的數字,不能直接套用到你的專案

給開發者的技術細節

呼叫 POST /v1/decisions,目前只支援 gpt-6-luna。請求有三個欄位:model、input(共用的證據)、questions(要問的題目),回應則是 answers 陣列,每題用 name 對應。下面是依官方文件整理的簡化示意:

{
  "model": "gpt-6-luna",
  "input": "客戶說:我被重複扣款了,請幫我退費。",
  "questions": [
    {
      "type": "predicate",
      "name": "is_refund",
      "instructions": "客戶是不是在要求退費?"
    }
  ]
}
  • 單次請求可放 1 到 400 題,彼此獨立的題目可以共用同一份輸入
  • 圖片可用公開的 HTTP/HTTPS 網址或 base64 資料網址,不支援 file_id;檔案與音訊目前也不支援
  • 傳結構化資料用 input_json,只能放在使用者訊息裡
  • 官方有提供美國與歐盟的區域處理,符合資格的客戶可使用零資料保留,也可走 Private Link 私有連線

我的看法

很多中小企業的系統,其實有一大堆這種「分類」需求:客服信件分流、表單內容歸類、留言審核、判斷這張照片合不合格。以前不是用大模型太慢太貴,就是自己訓練分類器太麻煩。這個 API 把這件事標準化,而且價格低到可以放在每一次請求的熱路徑上,我覺得是實用的方向。

不過我會注意幾點。第一,模型只有一個選擇,資料也是送去 OpenAI。第二,官方和客戶的數字都是自己場景測的,導入前要拿自己的資料量一遍準確度。第三,Box 的做法值得學:信心值低的案例不要硬放行,送人工複核。小團隊可以先挑一個低風險的流程試,例如內部信件分類,跑一陣子再決定要不要放到客戶面前。

名詞小辭典

  • Token:AI 計算文字量的單位,大約是一個字或半個英文單字,API 依 token 數量收費。
  • p95 延遲:100 次請求裡,有 95 次的回應速度比這個數字快,用來看「大多數情況」下的速度。
  • 分流(Routing):根據內容決定要交給誰或哪個流程處理,例如客服信件分到不同部門。
  • 信心值(Confidence):模型對自己答案的把握程度,可以用來決定要不要轉人工。

資料來源

常見問題

Decisions API 跟一般的聊天 API 差在哪?
一般的 Responses API 會自由生成文字;Decisions API 只回「機率、選項、分數」這三種固定格式的答案,專門處理分類、分流、下一步該做什麼這類有固定答案的判斷,所以更快、更便宜。
Decisions API 要怎麼收費?
輸入每百萬 token 0.1 美元,快取過的輸入每百萬 token 0.01 美元,不收輸出 token 的費用。30 分鐘與 12 小時快取寫入的價格,要看官方的價格說明頁。
三種題型要怎麼選?
只要判斷條件成不成立,用 predicate,回 0 到 1 的機率;從沒有順序的選項挑一個,用 choice;要依有順序的等級(例如嚴重程度)打分,用 score。
什麼時候不該用 Decisions API?
官方文件寫明,如果你需要模型產生符合自己 JSON 格式的物件(例如擷取欄位、寫說明),要用 Responses API 的結構化輸出;需要模型呼叫工具,則用函式呼叫。
LINE