觀點 · 資訊分享

Unsloth Studio 大更新:Gemma 4 開 MTP 約快 2 倍,還能跑 DiffusionGemma 與聊文件

本機跑開源模型的工具 Unsloth Studio 在一週內合併 150 多個 PR,新版支援 DiffusionGemma、Gemma 4 MTP(約 2 倍速)、MiniMax-M3,還新增模型 Hub 與文件問答。

發布
2026-06-13
篇幅
約 3 分鐘 · 1,557 字
結構
9 節 + 3 題常見問題
標籤
#Unsloth#Gemma 4#DiffusionGemma#本地模型
Unsloth Studio 大更新:Gemma 4 開 MTP 約快 2 倍,還能跑 DiffusionGemma 與聊文件

一句話看懂:本機跑開源模型的 Unsloth Studio 發布大更新,Gemma 4 搭配 MTP 約快 2 倍,還新增文件問答與模型 Hub。

Unsloth Studio 一週 150 個 PR資訊圖卡:本機 AI 工具新版:Gemma 4 自動開 MTP 變快,還多了文件問答

先用白話講:Unsloth Studio 是什麼?

你可以把它想成「自己電腦上的 ChatGPT 工作台」:下載開源模型、在家就能聊天,也能拿來微調訓練。資料不用送到雲端,對不想外流資料的人很實用。

發生什麼事

Unsloth 在 2026 年 6 月 12 日發布 v0.1.464-beta(也標為 2026.6.7)。官方說一週內合併了 150 多個 PR,重點如下:

  • 新模型支援:DiffusionGemma、Gemma 4 MTP、MiniMax-M3
  • Gemma 4 約快 2 倍:搭配 MTP,並在 Studio 自動啟用
  • Gemma 4 音訊聊天:支援 wav、mp3、m4a、flac、webm
  • Gemma 4 加入 Preserve Thinking

其他實用更新

  • Hub(實驗性):瀏覽、下載、管理 Hugging Face 的模型與資料集,也能偵測電腦裡已有的模型
  • Chat with Files(實驗性):針對自己的文件與知識庫提問,支援混合搜尋、引用、PDF 預覽
  • Update llama.cpp 按鈕:不用重裝 Studio 就能更新本機後端
  • GGUF 張量平行:官方說吞吐量可增加約 30%
  • 工具呼叫:官方說「催促」問題減少 50% 到 90%,且不影響準確度
  • 加密通道:新增 Cloudflare HTTPS 免費通道,可讓 Studio 端到端加密對外

開 MTP 跟不開差多少?

不開 MTP 開 MTP
Gemma 4 速度 一般速度 官方說約 2 倍
要不要自己設定 - Studio 自動啟用

官方只給「約 2 倍」這個說法,沒有附測試條件,實際倍數會因硬體而異。

誰適合現在更新?

  • 已經在用 Gemma 4、想讓回應變快的人:更新後 MTP 會自動開啟
  • 想在自己電腦上問自己文件的人:可以試試 Chat with Files,但它標示為實驗性
  • 需要一個管理本機模型的畫面的人:新的 Hub 頁面能列出電腦裡已有的模型

這是 beta 版,要用在重要的工作之前,建議先在測試環境跑一輪。

給開發者的技術細節

  • 版本:v0.1.464-beta;公告也提到若 DiffusionGemma 先前不能用,請至少更新到 v0.1.462-beta
  • 本機伺服器對 OpenAI 與 Anthropic 相容 API 的錯誤訊息、token 用量、停止原因都有改善,官方並提到 Claude Code 相容性
  • 硬體面:llama.cpp 預編譯檔更新,改善 Windows / WSL 的 AMD 支援、Strix Halo ROCm 與 Blackwell CUDA 的選擇
  • 工具權限新增:略過權限、每次核准、總是核准、拒絕

我的看法

自架服務的人最在意兩件事:速度夠不夠用、資料會不會外流。這次剛好兩點都有進展:Gemma 4 變快,文件問答也能在本機做完。

但這是 beta 版,而且 Hub、Chat with Files 都標示實驗性。我會先拿來玩、測速度,不會一更新就拿去客戶案子。另外「約 2 倍」是官方說法,實際會因為硬體與模型大小而不同,建議自己用手邊的機器量一次。

名詞小辭典

  • MTP:公告沒有解釋;一般指讓模型一次預測多個字來加速。
  • GGUF:一種常見的本機模型檔案格式,可用 llama.cpp 等工具載入。
  • RAG:先從你的文件裡找出相關段落,再交給 AI 回答,所以能引用資料來源。
  • 張量平行:把一個模型的運算拆給多張顯示卡一起做,以提高速度。

資料來源

常見問題

Unsloth Studio 是什麼?
Unsloth 推出的本機介面,可以下載模型、在自己的電腦上聊天、微調訓練,並提供相容 OpenAI 的 API 給其他程式使用。
MTP 是什麼?
官方沒有在這份公告中解釋;一般指讓模型一次預測多個字,以加快產生速度。公告只說 Gemma 4 搭配它約快 2 倍,且在 Studio 自動啟用。
哪些功能還是實驗性的?
公告明寫 Hub 與下載管理員、Chat with Files(RAG)都標示為實驗性,穩定度請自己評估。
LINE