觀點 · 資訊分享

Cloudflare AI Gateway 新增統一 REST API,一組端點呼叫各家 AI 模型

Cloudflare AI Gateway 改用 api.cloudflare.com 上的 AI REST API,提供 4 個端點,相容 OpenAI 與 Anthropic 的 SDK。第三方模型走 Unified Billing 計費,不用自己管各家的 API 金鑰,記錄、快取、限流與護欄也會自動套用。

發布
2026-05-22
篇幅
約 4 分鐘 · 1,758 字
結構
8 節 + 3 題常見問題
標籤
#Cloudflare#AI Gateway#REST API#Workers AI#Unified Billing
Cloudflare AI Gateway 新增統一 REST API,一組端點呼叫各家 AI 模型

一句話看懂:Cloudflare 的 AI Gateway 現在可以用一組統一的 REST API,呼叫 OpenAI、Anthropic、Google 與 Workers AI 的模型,記錄、快取、限流都自動套用。

AI Gateway 的統一 REST API資訊圖卡:同一組端點與驗證,就能呼叫 OpenAI、Anthropic、Google 與 Workers AI 的模型

先用白話講:AI Gateway 是什麼?

想像你在公司訂外賣,每家餐廳的訂餐方式都不一樣:這家要打電話、那家要用 App、另一家只收現金。AI Gateway 就像一個統一的訂餐櫃檯:你只跟櫃檯說要什麼,櫃檯幫你轉給對應的餐廳,還會幫你記帳、看有沒有重複點餐。

這次的更新,是把這個櫃檯的「訂餐方式」整理成一套官方的 REST API。

發生什麼事

Cloudflare 在 2026 年 5 月 21 日的更新日誌宣布,AI Gateway 現在使用 api.cloudflare.com 上的 AI REST API。不管模型來自 OpenAI、Anthropic、Google,或是跑在 Workers AI 上,都可以用同一組端點與驗證方式呼叫。

四個端點

端點 用途
POST /ai/run 通用端點,支援所有模型與型態
POST /ai/v1/chat/completions 相容 OpenAI SDK
POST /ai/v1/responses 相容 OpenAI Responses API
POST /ai/v1/messages 相容 Anthropic SDK

給開發者的技術細節

官方給的範例是對 /ai/v1/chat/completions 送請求,標頭用 Authorization: Bearer <Cloudflare API Token>,body 的 model 欄位寫成「廠商/模型名稱」的形式,例如 openai/gpt-5.5。

  • 功能自動套用:AI Gateway 的記錄、快取、限流與護欄都會自動套用
  • 計費:第三方模型走 Unified Billing,所以不用自己管理各家的 API 金鑰
  • 預設 gateway:第三方模型請求會經過帳號的預設 gateway,第一次使用時自動建立;要走特定 gateway,加上 cf-aig-gateway-id 標頭
  • Workers AI:原本的 /ai/run/@cf/{model} 路徑繼續可用;要經過 AI Gateway 呼叫 Workers AI 模型,用 @cf/ 前綴的模型名稱(例如 @cf/moonshotai/kimi-k2.6),並帶上 cf-aig-gateway-id 標頭

更新日誌沒有寫 Unified Billing 的加價方式或各模型的價格,要看實際費用請查 Cloudflare 的計費說明。

什麼情況適合用

  • 同一個專案要串好幾家模型,想用同一套記錄與限流來管
  • 已經寫好 OpenAI 或 Anthropic 格式的呼叫,只想換端點、不想重寫
  • 不想在每個環境各存一份廠商的 API 金鑰,希望由平台統一管理與計費
  • 想知道每次呼叫花了多少、有沒有重複請求,需要集中的記錄

我的看法

接案時我常遇到的麻煩,是客戶的系統接了一家 AI,過幾個月想換另一家,結果端點、金鑰、錯誤格式全不一樣。有一個統一的入口,至少讓「換模型」變成改一個字串,而不是重寫一輪。

另外,記錄與限流自動套用也有價值:小團隊最怕的就是 AI 呼叫失控,月底才發現帳單爆掉。

不過「統一計費」也代表你把更多東西交給 Cloudflare:金鑰管理、費用與用量都在同一個平台。要不要接受這種集中,要看專案的規模與客戶的接受度,不是每個案子都適合。

名詞小辭典

  • REST API:用網址與 HTTP 方法(GET、POST 等)讓程式互相溝通的常見介面形式。
  • Workers AI:Cloudflare 自己託管的 AI 模型服務。
  • Unified Billing:把不同廠商模型的費用,統一在 Cloudflare 帳單上計算。
  • 護欄(Guardrails):檢查 AI 輸入與輸出內容是否符合規則的機制。

資料來源

常見問題

AI Gateway 是什麼?
Cloudflare 放在你的程式與 AI 模型之間的中繼站,可以記錄每次呼叫、快取重複的請求、限制頻率與加護欄。
我已經用 OpenAI 或 Anthropic 的 SDK,要大改嗎?
官方提供相容 OpenAI SDK(chat/completions)、OpenAI Responses API 與 Anthropic SDK(messages)的端點,所以多半只需要換端點與驗證,不用重寫呼叫邏輯。實際相容程度請看官方 REST API 文件。
要用 Workers AI 的模型怎麼辦?
原本的 /ai/run/@cf/{model} 路徑繼續可用;若要經過 AI Gateway 呼叫 Workers AI 模型,需用 @cf/ 前綴的模型名稱,並帶上 cf-aig-gateway-id 標頭指定要走哪個 gateway。
LINE