觀點 · 資訊分享

Ollama 0.40.4:Codex CLI 可以直接挑本機模型,終端機一行指令就能讓 AI 判斷是或否

Ollama 0.40.4 讓 ollama launch codex 的模型選單出現本機安裝的模型,決策模型也能直接在終端機用 ollama run 問是非題、分類與評分;另外改善推論效能、支援多模態嵌入,Gemma 4 在 NVIDIA 顯示卡上的前置處理也變快。

發布
2026-10-12
篇幅
約 3 分鐘 · 1,503 字
結構
7 節 + 3 題常見問題
標籤
#Ollama#本地模型#Codex CLI#決策模型#開源
Ollama 0.40.4:Codex CLI 可以直接挑本機模型,終端機一行指令就能讓 AI 判斷是或否

一句話看懂:Ollama 0.40.4 讓 Codex CLI 可以直接挑選本機安裝的模型,決策模型也能在終端機一行指令就用,想用本地 AI 寫程式、做分類的人更方便了。

Ollama 0.40.4 重點整理資訊圖卡:Codex CLI 能直接切換成本機模型,決策模型在終端機一行就能用

先用白話講:Ollama 和 Codex CLI 是什麼?

Ollama 是在自己電腦上跑 AI 模型最常見的工具,下載一個模型、打一行指令就能聊天,資料不用送到雲端。Codex CLI 則是 OpenAI 做的「終端機裡的寫程式 AI」,可以幫你讀程式碼、改檔案、跑指令。

Ollama 提供 ollama launch 指令,能直接幫你把 Codex 這類工具接到 Ollama。這次更新,就是讓這條路更順。

發生什麼事

Ollama 在 10 月 12 日發布 0.40.4,重點有兩個:

1. 決策模型可以直接在終端機用

以前要呼叫 API,現在用 ollama run 就能問是非題、分類或評分,例如把客服工單丟進去問「這是在要求退款嗎?」:

ollama run nimble --ask "Is a refund being requested?" < ticket.txt

2. Codex CLI 看得到本機模型

ollama launch codex 的模型選單,現在會列出你本機安裝的 Ollama 模型,在 Codex CLI 裡輸入 /model 就能切換。

其他更新

  • ollama launch 可以用額度點數(usage credits),不必升級付費方案
  • 重複使用已驗證的模型資訊與已載入的模型,改善推論效能
  • 透過 llama-server 支援多模態嵌入(multimodal embeddings),也修正小上下文的多模態嵌入模型載入問題
  • 在 Apple 晶片上,MLX 執行器支援 Kev 決策模型
  • MLX 執行器改善 Gemma 4 在 NVIDIA 顯示卡上的前置處理效能,並提升推測解碼的穩定性
  • 更新 README 與文件,更清楚說明隱私與雲端服務

給開發者的技術細節

決策模型是 Ollama 在 0.35.0 加入的功能,走 /v1/systemone 端點,回傳的不是文章而是結構化答案。三種題型:

題型 用途 回傳
choice 從幾個選項挑一個 選擇結果與各選項機率
noul 判斷某個條件成不成立 成立的機率
score 依評分標準打分 分數

適合的場景包括工單分流、內容分類、決定要把請求交給哪個模型。這種「只要答案、不要長篇大論」的工作,用決策模型比一般聊天模型更快也更好解析。

我的看法

很多人用本地模型卡在「工具接不起來」:模型裝好了,但習慣的寫程式工具只認雲端 API。這次 Codex CLI 直接列出本機模型,等於少了一道設定。我會建議先拿本機模型處理簡單、重複的修改,例如改命名、補註解、寫小測試,真正複雜的架構調整再切回雲端模型,這樣比較省 API 費用。

決策模型的 CLI 對做系統的人也很實用。像客戶的聯絡表單、LINE 訊息分類,以前要寫一段程式呼叫 API,現在可以先在終端機用真實資料試一試,確定準確率可以接受,再寫進系統裡。

名詞小辭典

  • CLI:命令列介面,在終端機打指令操作的工具。
  • 決策模型:只回傳選擇、機率或分數的模型,適合分類與判斷。
  • 嵌入(Embedding):把文字或圖片轉成一串數字,方便拿來比對相似度、做搜尋。
  • 推測解碼:先用小模型快速猜答案、再由大模型確認,藉此加快產生速度的技術。

資料來源

常見問題

什麼是 ollama launch codex?
這是 Ollama 提供的指令,用來啟動 OpenAI 的 Codex CLI(終端機裡的寫程式 AI),並接上 Ollama。0.40.4 起,Codex 的模型選單會出現你本機安裝的模型,可以用 /model 切換。
決策模型是什麼?
決策模型不寫長篇回答,而是直接回傳選擇、機率或分數,適合工單分類、內容審查、判斷要交給哪個模型處理。Ollama 支援 choice(選擇)、noul(判斷是否成立)、score(評分)三種題型。
本機模型能取代雲端模型寫程式嗎?
要看任務難度與你的硬體。Release notes 只說明可以選用本機模型,沒有提供效能比較。一般來說,簡單、重複的修改可以先交給本機模型,複雜的架構調整仍建議用較強的雲端模型。
作者

韓滷 · 全端系統工程師

接案做系統開發、網站與主機託管。觀點裡的文章都是我自己寫的,寫的是做專案時第一手遇到的事。

LINE