微软发布AI推理芯片 Maia 300

微软于10月12日发布第三代自研AI推理芯片 Maia 300，并表示将从2027年起把 Maia 系列扩展至数吉瓦规模部署，使其成为自家产品与服务的主力推理系统。公司预计，Maia 300每兆瓦产出的token将比领先的GPU系统多40%。在装满96个加速器的机架配置下，机架级token吞吐量最高可达上一代 Maia 200 的7倍。

此次发布的前提是已经在运行的第二代芯片。据微软介绍，Maia 200 目前承担 Microsoft Copilot 的生产工作负载，并支持内部 MAI 团队开发下一代模型，GitHub Copilot 和 Microsoft Foundry 将在年底前跟进。这款芯片同时运行 OpenAI 模型、微软自有的 MAI 模型以及主要开源模型。它正在美国、欧洲和澳大利亚部署，公司称，在 Teams、Copilot 和 Cowork 内置的AI功能上，其每瓦产出的token最高比领先的GPU基础设施多1.7倍。云与AI事业部执行副总裁 Scott Guthrie 在发布视频中表示："以AI服务的真实指标衡量，Maia 200 是我们设施中性能最好的AI基础设施。"

Maia 300 的设计目标是推理，尤其是长上下文、高内存占用的解码阶段。每颗芯片搭载8个HBM4内存堆栈，峰值内存带宽达18.0TB/s，热设计功耗（TDP）为950瓦。它首次采用多芯粒架构，将计算、内存控制器和输入输出功能分开，计算芯粒采用台积电（TSMC）N2P工艺制造。芯片内的SRAM被用作由软件管理的暂存空间，以减轻HBM负担；增强版 MXFP4 等低精度格式则减少了计算和KV缓存存储所需的内存。Azure 硬件系统规划与架构副总裁 Saurabh Dighe 将这些变化归纳为五个方向：多芯粒架构、HBM4、新的精度数据类型、下一代纵向扩展网络，以及更大、更节能的机架。

机架层面的数字是7倍吞吐量的依据。一个 Maia 300 机架在167千瓦功率范围内容纳96个加速器，并将27.6TB的HBM和1.7PB/s的合计HBM带宽作为一个高速纵向扩展域使用。加速器之间的互连针对张量并行进行了优化，基于以太网的自研AI传输方式则让同一拓扑从单个机架扩展到数据中心规模。根据 METAL 核实的微软公开规格表，每颗芯片的HBM容量为288GB，双向纵向扩展带宽为3.2TB/s，一个纵向扩展域可连接约1.2万个 Maia 加速器。

公司用瓦和兆瓦来呈现数字是有原因的。Azure 硬件系统与基础设施总裁 Rani Borkar 表示："AI的经济性越来越不取决于峰值算力，而取决于整个系统能多高效地大规模生成token。"微软认为，大型推理系统的瓶颈不是算力而是数据移动，因此通过软件定义的数据流架构和AI辅助的内核优化来减少数据搬运。芯片分析师 Austin Lyons 在公司分发的分析师评论材料中指出，由于智能体在规划、调用工具和再次推理的过程中必须保持上下文，推理正日益成为数据移动问题。

与模型团队的结合也是此次发布的一大支柱。Microsoft AI 首席执行官 Mustafa Suleyman 表示："芯片与模型的协同设计对我们打造前沿超级智能至关重要。"他补充说，过去几年把 MAI 模型部署在 Maia 200 上所获得的经验，已直接融入 Maia 300 的设计。Microsoft 365 技术院士 Jim Kleewein 介绍说，Maia 200 是 Copilot 和 Cowork 中支撑信息摘要、内容撰写和多步骤任务的基础设施。公司表示，两代芯片的设计目标涵盖 GitHub 的编程体验、Foundry 的模型服务、MAI 团队的推理与数据生成，以及帮助减轻医护人员行政负担的 Dragon Copilot。

以自研芯片降低依赖的趋势也延伸到了云之外。METAL 曾报道 Waymo 为其自动驾驶出租车开发自研芯片以减少对英伟达的依赖。Moor Insights & Strategy 的 Pat Moorhead 在同一份评论材料中表示，从 Maia 100 到200再到300的演进显示出自研芯片战略的成熟，在这样的规模下，自研芯片的意义可以超越性能，成为改善微软自有AI服务经济性的因素。

Maia 300 将于2027年开始投入生产部署。微软表示，将在下个月于旧金山和线上举行的 Microsoft Ignite 2026 上进一步介绍其战略。每兆瓦40%的数字仍是部署前的预期，而 Maia 200 每瓦1.7倍则是在实际服务中测得的数值。2027年的数吉瓦部署，将在真实的数据中心里检验这两个数字之间的距离。