觀點 · 資訊分享

微軟發表第三代自研 AI 晶片 Maia 300：每兆瓦多產出 4 成 token，2027 年起大規模上線

微軟公布 Azure Maia 300，主打 AI 推論，官方預估每兆瓦電力能比主流 GPU 系統多產出 40% 的 token，96 顆加速器一個機櫃的吞吐量是上一代的 7 倍。2027 年開始正式部署，目標是成為微軟產品的主要推論系統。

一句話看懂：微軟公布第三代自研 AI 晶片 Maia 300，主打用更少的電讓 AI 回答更多問題，2027 年開始大規模部署，目標是成為微軟產品背後的主要 AI 引擎。

Azure Maia 300 重點整理資訊圖卡：專為 AI「回答問題」設計的晶片，同樣的電能產出更多 token，2027 年起上線

先用白話講：AI 晶片和「推論」是什麼？

AI 的工作分兩階段。第一階段是「訓練」，像學生讀書；第二階段是「推論」，像學生上考場回答問題。我們每天用 Copilot、ChatGPT 問問題，背後跑的都是推論。

推論每產生一個字（token）都要耗電。使用者越多，電費和晶片成本就越驚人。所以各大雲端廠商都在自己設計晶片，想用同樣的電做更多事。Maia 就是微軟自己的 AI 晶片系列，這次的 Maia 300 是第三代。

微軟雲端與 AI 事業負責人 Scott Guthrie 在 10 月 12 日發文：

2027 年起，Azure Maia 系列會擴展到「數 GW 等級」的部署，成為微軟產品與服務的主要推論系統
Maia 300 效率：預估每兆瓦電力產出的 token，比主流 GPU 系統多 40%
整櫃效能：96 顆加速器的完整配置，機櫃級 token 吞吐量最高是 Maia 200 的 7 倍
上一代 Maia 200：已在 Microsoft Copilot 正式使用，正部署到美國、歐洲與澳洲；GitHub Copilot 與 Microsoft Foundry 預計年底前跟進

官方特別強調一個觀念：大型 AI 推論的瓶頸，越來越不是「算得夠不夠快」，而是「資料搬得夠不夠快」。所以 Maia 300 把重點放在減少資料搬移、拉高記憶體頻寬，並把運算、記憶體控制、輸入輸出拆成不同的小晶片（chiplet）。

這則新聞對一般開發者不會立刻有感：Maia 是微軟拿來跑自家服務的，公告也沒說會開放租用。但它透露的方向很清楚，大廠都在想辦法把 AI 的「每個 token 成本」壓下來。

對接案的人來說，這類基礎設施的競爭，最後會反映在 API 價格與速度上。我自己在幫客戶估 AI 功能的長期成本時，會假設價格逐年下降，但不會把這種「預期」寫進合約，報價還是以當下的實際價格為準。另外，運算晶片用的是台積電 N2P 製程，台灣供應鏈在這波 AI 基礎建設裡的位置，又多了一個例子。

Maia 300 我可以直接租來用嗎？

官方公告的定位是微軟自家產品與服務的主要推論系統，例如 Copilot、GitHub Copilot、Microsoft Foundry。公告沒有提到開放客戶直接租用 Maia 主機。

「每兆瓦多 40% token」是什麼意思？

AI 回答問題時會一個一個產生 token，這需要大量電力。這個數字代表同樣用掉一兆瓦電力，Maia 300 預計能產出比主流 GPU 系統多 4 成的 token。微軟沒有說明比較的是哪一款 GPU。

跟台灣有什麼關係？

官方寫明 Maia 300 的運算晶片採用台積電 N2P 製程。對一般使用者來說，自研晶片若真的壓低成本，長期可能反映在 AI 服務的價格與速度上，但這屬於推測，官方沒有說明價格會怎麼變。

作者

接案做系統開發、網站與主機託管。觀點裡的文章都是我自己寫的,寫的是做專案時第一手遇到的事。