微軟 Maia 300 搭載 288GB HBM4,降低對 Nvidia 的依賴

新聞摘要
微軟於 2026 年 10 月 12 日(太平洋時間,根據報導發布日期)發表 Azure Maia 300,這是其第三代自研 AI 加速器。該晶片設計用於在微軟自家雲端中執行大型 AI 工作負載,並減少對 Nvidia GPU 的依賴。量產部署預計於 2027 年開始,微軟表示計劃將 Maia 系列擴展至多吉瓦(multi-gigawatt)規模。以下所有效能數據均為微軟自行宣稱,尚未經獨立測試驗證。
微軟發布內容
Maia 300 是繼 Maia 100 與 Maia 200 之後,微軟客製化加速器系列的第三代產品。微軟將該系列定位為自家產品的主要推論平台,也就是在 AI 模型訓練完成後,負責回應使用者請求的硬體。Maia 200 已用於生產環境,包括 Microsoft Copilot,並協助微軟的 MAI 團隊開發下一代模型。微軟計劃在 2026 年底前將 GitHub Copilot 與 Microsoft Foundry 的工作負載遷移至 Maia 200,部署區域包括美國、歐洲與澳洲。
主要硬體規格
每個 Maia 300 加速器搭配八組 HBM4 記憶體堆疊,提供 288 GB 記憶體與 18 TB/s 頻寬。運算晶片基於台積電 N2P 製程,功耗約為 950 W。在機架層級,一個 96 加速器機架約耗電 167 kW,提供約 27.6 TB 高頻寬記憶體,總記憶體頻寬約 1.7 PB/s。
相比之下,Maia 200 的報導描述為台積電 3nm 設計,配備 216 GB HBM3e、7 TB/s 頻寬,功耗約 750 W。部分次要數據在不同媒體間有所差異,建議讀者在微軟發布完整文件前,將細節視為暫定資訊。
相較 Maia 200 的宣稱改進
微軟宣稱,與 Maia 200 相比,機架級 token 吞吐量提升達 7 倍,每瓦效能提升超過 2.5 倍。報導亦提到運算效能提升 36%、記憶體容量增加 33%、記憶體頻寬提升 2.5 倍,以及擴展頻寬提升 14%。微軟進一步表示,Maia 300 每百萬瓦(megawatt)可產生的 token 數比領先的 GPU 系統多約 40%,這項指標之所以重要,是因為電力與散熱已成為資料中心擴張的主要限制。
記憶體與效率的重要性
現代語言模型花費大量時間在資料搬移而非算術運算。高頻寬記憶體負責將模型權重餵給處理器,因此更大的容量與頻寬能讓晶片同時服務更大的模型或更多使用者。「每瓦 token 數」衡量系統每單位電力能產生多少文字,直接影響大規模 AI 服務的營運成本。
供應鏈與產量
在發布前,引用 The Information 的報導指出,微軟曾討論確保台積電產能以供應超過 30 萬顆 Maia 300 晶片,預計 2027 年出貨,長期目標超過一百萬顆。Azure Maia 總經理 Andrew Wall 表示,報導中的數字並未反映該計畫的實際規模,但未透露具體產量。業界觀察家指出,先進封裝與 HBM 供應可能影響進度。
對 Nvidia 與 AI 晶片市場的影響
Nvidia GPU 仍是 AI 訓練的主流硬體,分析師預期其地位短期內不會迅速改變。然而,客製化晶片讓大型雲端供應商能控制自家服務的成本與供應,且據報導微軟正考慮向 Anthropic 等外部客戶提供 Maia 產能。Maia 200 被認為不如競爭對手成熟,採用速度較慢,因此 Maia 300 的評價將取決於 2027 年的實際部署,而非發布當天的數據。
後續觀察重點
關鍵訊號包括獨立基準測試、提供給開發者的軟體堆疊、Copilot 與 Foundry 流量中由 Maia 服務的比例,以及外部客戶是否採用。微軟的多吉瓦目標也凸顯了電力基礎設施在 AI 時代的重要性,已不亞於晶片設計。
資料來源
本次報導參考的媒體包括 The Verge、Unite.AI、Techzine Global、Neowin、Converge Digest、Notebookcheck、Moor Insights & Strategy、eWeek 與 TheNextWeb。
本文由 AIBARS 編輯部在 AI 輔助下整理。AI 可能出錯,重要資訊請以原始來源為準。發現錯誤?請來信 [email protected]。