觀點 · 資訊分享

德國 Aleph Alpha 開源 Kolibri:78B 參數只動 3.5B,Apache 2.0 授權、最長 100 萬 token

德國 AI 公司 Aleph Alpha 釋出開放權重模型 Kolibri,總共 780 億參數,但每個 token 只動用約 35 億,採 Apache 2.0 授權。它主打英文與德文,訓練到 25.6 萬 token 上下文,調整設定後可延伸到 100 萬。

發布
2026-10-04
篇幅
約 4 分鐘 · 1,679 字
結構
7 節 + 3 題常見問題
標籤
#開源模型#Aleph Alpha#Kolibri#MoE#vLLM
德國 Aleph Alpha 開源 Kolibri:78B 參數只動 3.5B,Apache 2.0 授權、最長 100 萬 token

一句話看懂:德國 Aleph Alpha 開源 Kolibri,總參數 78B、每個 token 只用約 3.5B,Apache 2.0 授權可商用,主打英文與德文。

Aleph Alpha 開源 Kolibri資訊圖卡:總參數 78B、每個 token 只用約 3.5B,開放權重可商用,主打英德雙語

先用白話講:MoE 模型是什麼?

想像一間有 100 位專家的顧問公司。客人來問稅務問題,櫃台只會請兩、三位稅務專家出來回答,其他人繼續休息。公司整體很有學問,但每次接案只動用少數人,所以成本不高。

MoE(混合專家)模型就是這樣運作:模型裡有很多「專家」子網路,每處理一個 token,只挑少數幾個來算。Kolibri 總共有 780 億參數(78B),但每個 token 只動用約 35 億(3.5B),等於用小模型的運算量,換取大模型的知識量。

發生什麼事

德國 AI 公司 Aleph Alpha 在 10 月 3 日釋出 Kolibri:

  • 授權:Apache 2.0,完整權重放在 Hugging Face(Aleph-Alpha/Kolibri-1)
  • 架構:英德雙語的 MoE Transformer,總參數 78B、每 token 約 3.46B
  • 語言:英文與德文,預訓練資料約 21.3% 是德文
  • 訓練量:預訓練 20T token,加上後續階段約 24T token
  • 上下文:訓練到 256K token,加上設定覆寫可延伸到 1M token
  • 推理強度:none、low、medium、high 四段
  • 知識截止:2026 年 6 月 18 日

跑分怎麼看

以下是官方自測結果(對照組分數也是官方頁面列出的):

測試 Kolibri Qwen3.6-35B-A3B
AIME 2025(數學) 96.9 84.6
GPQA Diamond(英文) 84.3 83.4
LiveCodeBench v6(程式) 85.9 82.5
LongBench Pro(長文) 64.5 70.8

從官方表格也看得到,它在長文理解等測試落後部分對手。另外,在兩張 H100 的服務測試中,官方表示 78B 的 Kolibri 能同時處理比 123B 模型更多的請求。

給開發者的技術細節

Kolibri 不是下載下來就能用一般工具直接跑,需要官方的 vLLM 外掛:

pip install "aleph-alpha-inference>=1.0"
  • 也可以用官方容器 ghcr.io/aleph-alpha/aleph-alpha-inference
  • 啟動時要開推理與工具呼叫解析器:--reasoning-parser kolibri1、--tool-call-parser kolibri1、--enable-auto-tool-choice
  • 超過 262,144 token 的上下文,要加 --max-model-len 1048576 並覆寫 max_position_embeddings
  • 官方建議取樣參數:temperature 1.0、top_p 0.97、top_k 128

我的看法

Apache 2.0 授權、可商用的開放權重模型又多了一個,對想自架 AI 的團隊是好事。MoE 架構每次運算量小,同樣的伺服器能服務更多人,這點對成本很有幫助。

但老實說,它對台灣使用者的吸引力有限:主打英德雙語,中文表現官方完全沒提;部署又要裝官方專屬的 vLLM 外掛,門檻比一鍵安裝的工具高。78B 的權重還是要整份載入記憶體,家用 NAS 或一般顯示卡應該很難跑得動(推測,官方沒寫硬體需求)。我會把它當成「歐洲主權 AI」的代表觀察,真的要用在中文案子,還是先找有公布中文測試結果的模型,再拿自己的資料比較。

名詞小辭典

  • 開放權重(Open Weight):公開模型訓練好的參數檔,任何人都能下載部署。
  • MoE(混合專家):模型內有多個專家子網路,每次只啟用一部分,以降低運算量。
  • vLLM:一套常用的開源推論引擎,專門讓大型語言模型跑得更快、同時服務更多請求。
  • 上下文(Context):模型一次能讀進來的文字量,用 token 計算。

資料來源

常見問題

78B 參數卻只用 3.5B 是什麼意思?
Kolibri 是混合專家(MoE)模型,裡面有很多「專家」子網路,每次處理一個 token 只挑少數幾個來算。所以它擁有 78B 參數的知識量,但每次運算量大約只有 3.5B 左右。
可以在自己的電腦上跑嗎?
官方沒有寫最低硬體需求,只提到在兩張 H100 上的服務測試。雖然每次只動 3.5B,但 78B 的權重還是要整份載入記憶體,一般家用顯示卡大概很難直接跑完整精度版本。
中文能力好嗎?
官方主打英文與德文,預訓練資料約 21.3% 是德文,沒有公布中文的測試結果。要用在中文情境,建議先拿自己的資料實測。
LINE