觀點 · 資訊分享

OpenAI API 推出 12 小時提示快取：同一段話重複問 AI，用越多次越便宜

OpenAI 讓 API 可以把重複使用的提示詞「記住」12 小時（原本只有 30 分鐘）。第一次要多付一點，但同一段內容用到第 3 次就開始省錢，用 12 次大約省下 7 成。

一句話看懂：OpenAI 讓 API 可以把重複使用的提示詞「記住」12 小時，第一次多付一點，用到第 3 次就開始省錢。

OpenAI 提示快取延長到 12 小時資訊圖卡:重複送給 AI 的同一段說明，現在能「記住」半天，用越多次越省

先用白話講：提示快取是什麼？

想像你每天都要請一位家教幫你改作文，每次見面都得先花 10 分鐘解釋「我的作文要符合哪些規定」。如果家教把這些規定抄在筆記本上，下次你只要說「照上次的規定」，就能直接開始改，省時間也省鐘點費。

提示快取就是 AI 的這本筆記本。用 AI 做事的程式，每次都會送一段固定的說明（規則、工具清單、範例），快取就是把這段說明先處理好存起來，下次直接沿用。

問題是，以前這本筆記本只能留 30 分鐘，超過就自動丟掉。

OpenAI 在 10 月 20 日的 API 更新日誌宣布：現在可以選擇把快取保存 12 小時。

用「一般價格 = 1」來算，同一段說明在 12 小時內使用：

以上假設每次間隔都超過 30 分鐘、讀取 0.1 倍，依官方費率自行換算。

設定方式是在 Responses API 的請求裡帶 prompt_cache_options.ttl：

{
  "model": "gpt-6.1-sol",
  "prompt_cache_options": { "ttl": "12h" },
  "input": "..."
}

只適用 GPT-5.6 之後的模型；GPT-5.5 以前的舊模型改用 prompt_cache_retention
內容要一字不差：模型、工具定義、輸出格式只要改一個，後面的快取就全部失效
不保證命中：快取存在個別機器上，官方寫明每分鐘超過 15 個請求時，可能被分到沒有快取的機器
用量欄位 cache_write_tokens_details 會分開列出 ttl_30m_tokens 和 ttl_12h_tokens，上線後記得對帳單確認真的有命中

我自己跑的排程工作（每隔幾小時抓一次資料，丟同一套規則給 AI 判斷）正好是最吃虧的情況：每次間隔都超過 30 分鐘，快取從來沒用到，等於每次都付全價。這種工作開 12 小時快取，幾乎就是直接打折。

反過來說，聊天機器人這類產品，幾分鐘內就會再用到同一段說明，30 分鐘快取已經夠用。硬開 12 小時，每次寫入反而多付一倍。開之前先看看自己的請求間隔，別看到「省錢」就全開。

提示快取是什麼？

把你每次都會送給 AI 的固定內容（例如系統說明、工具清單）先處理好存起來，下次再送同樣的內容時直接沿用，所以比較快也比較便宜。

12 小時快取要怎麼開？

在 Responses API 的請求裡帶 prompt_cache_options.ttl，值設為 "12h"；沒帶就是預設的 30 分鐘。只適用 GPT-5.6 之後的模型，更舊的模型要用 prompt_cache_retention。

什麼情況不該開 12 小時？

如果你的請求本來就很密集（例如聊天機器人，幾分鐘內就會再用到同一段內容），預設的 30 分鐘快取就夠了；硬開 12 小時，每次寫入反而多付一倍。

作者

接案做系統開發、網站與主機託管。觀點裡的文章都是我自己寫的,寫的是做專案時第一手遇到的事。