觀點 · 資訊分享

Cloudflare 開源 Clef 決策模型:不寫文章只回機率,9B 版本中位數延遲 38 毫秒

Cloudflare 推出第一批自己訓練的開源模型 Clef 與 Clef-flash。它們不產生文字,而是針對你給的問題直接回答「是的機率多少」「選哪個選項」,適合分類工單、擋不該做的動作。權重以 Apache 2.0 釋出,也能在本機跑。

發布
2026-10-02
篇幅
約 3 分鐘 · 1,508 字
結構
7 節 + 3 題常見問題
標籤
#Cloudflare#Clef#決策模型#開源模型#Workers AI
Cloudflare 開源 Clef 決策模型:不寫文章只回機率,9B 版本中位數延遲 38 毫秒

一句話看懂:Cloudflare 開源 Clef 與 Clef-flash 兩個「決策模型」,它們不寫文章,只針對你的問題回答每個選項的機率,拿來分類和把關又快又好串接。

Cloudflare 開源 Clef 決策模型資訊圖卡:不產生文字、直接給每個答案的機率,分類和把關又快又好接

先用白話講:決策模型是什麼?

想像你請兩位助理幫忙整理客服信件。第一位很會寫作,你問「這封信是不是要退款?」,他會回你一段話:「根據信件內容,客戶似乎……因此我認為是。」你還得自己從這段話裡找出答案。

第二位助理只做一件事:在選項上打勾,並告訴你他有多確定,例如「是退款:92%」。決策模型就是第二位助理。它不產生文字,直接回答機率,程式可以馬上拿來判斷,不用再解析 AI 寫的句子。

發生什麼事

Cloudflare 在 10 月 1 日推出 Clef 與 Clef-flash,這是它的 Workers AI 團隊第一批自己訓練的模型:

  • 兩種尺寸:Clef 有 270 億參數(27B),精準度優先;Clef-flash 有 90 億參數(9B),速度優先
  • 上下文長度:兩者都是 64K token
  • 授權:權重以 Apache 2.0 開源,放在 Hugging Face
  • 使用方式:Workers AI 上可以直接呼叫,也支援 AI Gateway;格式相容 System One API,原本串 Jev 的程式只要換端點和模型名稱
  • 看圖:可以附最多四張圖片一起判斷

跟其他模型比快多少?

官方在 43 次測試中量到的延遲:

模型 中位數 p95
Clef 209.3 毫秒 238.6 毫秒
Clef-flash 38.8 毫秒 122.4 毫秒
Jev(對照) 524.1 毫秒 536.0 毫秒

官方也表示 Clef 在 10 項決策評測中有 7 項拿到最高分。這些都是 Cloudflare 自己公布的數字。

給開發者的技術細節

一次請求最多可以問 64 題,題型有三種:

  • noul:是非題,回傳「是」的機率
  • choice:單選題,回傳選中的選項、每個選項的機率與信心值
  • score:依你定義的評分等級打分,回傳加權分數

在 Workers 裡呼叫的寫法大致如下:

const result = await env.AI.run("@cf/cloudflare/clef", {
  model: "clef",
  state: "客戶來信:上週訂的商品還沒到,我要取消並退款",
  questions: { /* 依官方格式定義 noul / choice / score 題目 */ }
})

官方列的用途包括客服工單分類、網站分類、內容審核,以及 AI 代理呼叫工具前的「要不要放行」檢查。Cloudflare 同時開放 RL 微調服務的設計夥伴報名。

我的看法

做客服系統、表單審核這類案子時,最麻煩的常常不是 AI 夠不夠聰明,而是「怎麼把 AI 的回答變成程式能用的判斷」。請一般模型回 JSON,偶爾還是會多寫一句話、格式跑掉。決策模型直接回機率,還能設門檻(例如低於 80% 就轉人工),整合起來乾淨很多。

它是 Apache 2.0 授權,Ollama 也已經支援,在家用伺服器跑 9B 的 Clef-flash 做內部分類是很實際的玩法。限制也很清楚:它只回答你事先定義好的題目,不會幫你寫回信,所以適合當流程中的「判斷關卡」,不是用來取代對話模型。

名詞小辭典

  • 參數(Parameters):模型內部可調整的數值,數量越多通常能力越強,也越吃硬體。
  • 延遲(Latency):送出請求到拿到結果的等待時間。
  • p95:100 次請求裡,第 95 慢的那次花了多久,用來看最差情況。
  • Apache 2.0:一種寬鬆的開源授權,允許商業使用與修改。

資料來源

常見問題

決策模型跟 ChatGPT 這類模型差在哪?
一般大型語言模型會產生一段文字,你還要從文字裡找答案;決策模型只回答事先定義好的題目,例如「這張工單是不是退款」,直接給出是的機率或每個選項的機率,程式可以直接拿來判斷。
Clef 可以在自己電腦上跑嗎?
可以。權重以 Apache 2.0 授權放在 Hugging Face(Cloudflare/clef 與 Cloudflare/clef-flash),可以自己部署;不想自己架的話,也能直接透過 Workers AI 呼叫。
可以問哪些類型的問題?
有三種:noul 是是非題,回傳「是」的機率;choice 是單選題,回傳選中的選項與每個選項的機率;score 是依評分標準打分,回傳加權分數。Clef 還能一起看最多四張圖片。
LINE