微软Maia 300搭载288GB HBM4,降低对英伟达的依赖

新闻摘要
微软于2026年10月12日(太平洋时间,基于报道的发布日期)发布了Azure Maia 300,这是其第三代自研AI加速器。该芯片旨在运行微软自有云中的大型AI工作负载,并减少公司对英伟达GPU的依赖。生产部署计划于2027年开始,微软表示有意将Maia系列扩展到多吉瓦级别。以下所有性能数据均为微软自行声称,未经独立测试。
微软发布了什么
Maia 300是继Maia 100和Maia 200之后,微软定制加速器系列的第三代产品。微软将该系列定位为其自有产品的主要推理平台,即在AI模型训练完成后,负责响应用户请求的硬件。Maia 200已在运行生产工作负载,包括Microsoft Copilot,并帮助公司的MAI团队开发下一代模型。微软计划在2026年底前将GitHub Copilot和Microsoft Foundry的工作负载迁移至Maia 200,部署区域包括美国、欧洲和澳大利亚。
关键硬件规格
每颗Maia 300加速器配备八组HBM4内存堆栈,提供288 GB内存和18 TB/s带宽。计算芯片基于台积电N2P工艺,功耗约为950瓦。在机架层面,一个96加速器机架功耗约167千瓦,提供约27.6 TB高带宽内存,聚合内存带宽约1.7 PB/s。
相比之下,关于Maia 200的报道描述其采用台积电3nm设计,配备216 GB HBM3e,带宽7 TB/s,功耗约750瓦。不同媒体的部分次要数据有所差异,因此读者应将细节视为暂定,直到微软发布完整文档。
相比Maia 200的改进
微软声称,与Maia 200相比,机架级令牌吞吐量提升高达7倍,每瓦性能提升超过2.5倍。报道还提到计算性能提升36%,内存容量增加33%,内存带宽提升2.5倍,扩展带宽增加14%。微软进一步表示,Maia 300每兆瓦产生的令牌数比领先的GPU系统高出约40%,这一指标很重要,因为电力和冷却已成为数据中心增长的主要限制。
为什么内存和效率很重要
现代语言模型大部分时间用于移动数据而非进行计算。高带宽内存为处理器提供模型权重,因此更大的容量和带宽让芯片能够同时服务更大的模型或更多用户。“每瓦令牌数”衡量系统每单位功率可生成的文本量,直接影响大规模运行AI服务的成本。
供应链与规模
在公告发布前,引用The Information的报道称,微软曾讨论确保台积电产能,以在2027年交付超过30万颗Maia 300芯片,长期目标超过一百万颗。Azure Maia总经理Andrew Wall表示,报道中的数字并未反映该项目的规模,但未透露生产数量。行业观察人士指出,先进封装和HBM供应可能影响进度。
对英伟达和AI芯片市场的影响
英伟达GPU仍是AI训练的主导硬件,分析师预计这一地位不会很快结束。尽管如此,定制芯片让大型云提供商能够控制自身服务的成本和供应,微软据报道正寻求向Anthropic等外部客户提供Maia容量。Maia 200被视为不如竞争对手硬件成熟,采用速度较慢,因此Maia 300将根据2027年的实际部署情况而非发布时的数据来评判。
后续关注点
关键信号包括独立基准测试、面向开发者的软件栈、Copilot和Foundry流量中由Maia服务的比例,以及外部客户是否采用。微软的多吉瓦目标也凸显了在AI时代,电力基础设施正变得与芯片设计同等重要。
来源
参考的报道包括The Verge、Unite.AI、Techzine Global、Neowin、Converge Digest、Notebookcheck、Moor Insights & Strategy、eWeek和TheNextWeb。
本文由 AIBARS 编辑部在 AI 辅助下整理。AI 可能出错,重要信息请以原始来源为准。发现错误?请发邮件至 [email protected]。