觀點 · 資訊分享

少想一點也能答對：Ember-1 推理 token 少約 4 成，上架 Vercel AI Gateway

Fireworks 以 Kimi K3 為基礎訓練的推理模型 Ember-1，9 月 27 日上架 Vercel AI Gateway。官方說它在品質相近的情況下少用約 40% 的 token，目前是為期兩週起跳的研究預覽。

一句話看懂：Fireworks 把 Kimi K3 重新訓練成「只想有用的部分」的 Ember-1，官方說品質相近、token 少約 4 成，9 月 27 日起可以透過 Vercel AI Gateway 試用。

Ember-1：更省 token 的推理模型資訊圖卡：把 Kimi K3 重新訓練成只想有用的部分，答案品質相近、token 更少

先用白話講：推理 token 是什麼？

現在很多 AI 模型在回答前會先「想一下」，把思考過程寫成一大段草稿，再給出答案，這段草稿就是推理 token。

問題是，AI 跟某些人一樣，有時候會想太多：同一件事反覆確認、繞遠路，最後答案其實沒變。偏偏 API 是照字數（token）收費的，想得越久，帳單就越長，等待時間也越久。

Ember-1 的目標就是教 AI「別想廢話」：保留真正有用的推理，刪掉不會改變答案的部分。

9 月 23 日：Fireworks Research 發表 Ember-1，以 Kimi K3 為基礎再訓練，是 Ember 系列的第一個模型
9 月 27 日：Vercel 宣布 Ember-1 上架 AI Gateway，模型名稱 fireworks/ember-1，以研究預覽形式先開放兩週

Fireworks 公布的重點：

Fireworks 公布的評測（Ember-1 對 Kimi K3 Max）：

評測	Ember-1	Kimi K3 Max	token 變化
Terminal Bench 2.1	82.0%	80.9%	少 51.9%
SWE-bench Verified	92.2%	93.2%	少 15.5%
SWE-Interact	20.0%	21.3%	少 32.5%
DeepSWE 1.1	75.2%	66.4%	少 23.7%

可以看到有高有低，並不是每項都贏；但每一項的 token 都變少了。

我很喜歡這個方向。很多時候我們不是需要「更聰明」的模型，而是「一樣聰明但不囉嗦」的模型。對每天跑大量 API 請求的服務，token 少 3、4 成就是直接省錢。

不過要保持冷靜：所有數字都是廠商自己測的，評測結果也有高有低。而且它還是研究預覽，兩週後能不能繼續用不確定。我會拿它跑自己的實際工作，對照原本的模型比成本和正確率，有明顯好處再考慮，不會一開始就把正式服務切過去。

Ember-1 和 Kimi K3 是什麼關係？

Ember-1 是以 Kimi K3 為基礎、由 Fireworks 再訓練的版本，不是全新架構。訓練目標是刪掉「不會改變答案」的推理步驟，讓同樣品質的回答用更少 token。

少用 token 有什麼好處？

推理模型是依 token 收費，想得越久就越貴、也越慢。在品質相近的前提下少用 token，代表每個任務的成本和等待時間都會下降。

效果一定比較好嗎？

不一定。Fireworks 公布的表格裡，Ember-1 在 Terminal Bench 2.1 與 DeepSWE 1.1 高於 Kimi K3 Max，但在 SWE-bench Verified 與 SWE-Interact 略低，而且這些都是廠商自己測的數字。

可以長期使用嗎？

目前是研究預覽。Vercel 寫的是先開放兩週；Fireworks 說研究版本會先提供兩週，再依社群需求決定是否常態提供。

作者

接案做系統開發、網站與主機託管。觀點裡的文章都是我自己寫的,寫的是做專案時第一手遇到的事。