微软计划2027年规模化部署Maia 300，效率指标引发质疑

微软计划从2027年起将Azure Maia系列扩展到数吉瓦规模，并用于旗下产品和服务的主要推理任务。Maia 200目前已在美国、欧洲和澳大利亚上线，为Copilot及MAI团队提供算力，年底前还将支持GitHub Copilot和Microsoft Foundry。微软称，在Teams和Copilot的AI功能中，Maia 200每瓦Token处理量最高达到领先GPU系统的1.7倍。

Maia 300预计于2027年投入生产，定位是长上下文、内存密集型和重解码推理，不支持训练。每颗加速器配备8组HBM4，容量288GB、带宽18TB/s，TDP为950W；每个机架容纳96颗芯片，总功耗167kW，HBM容量27.6TB、聚合带宽1.7PB/s。

Maia 300的计算Chiplet采用台积电N2P工艺，内存控制器和I/O置于独立芯片。相比Maia 200，其计算FLOPs提升36%，内存带宽提高至2.5倍，每瓦HBM带宽约提升一倍。架构还改用NUMA，让软件把数据放置在更接近计算单元的位置。

网络部分采用基于以太网的定制AI传输机制，将纵向扩展和横向扩展整合到统一Fabric中，加速器可直接连接Superpod内任意节点，无需主机或独立横向扩展网卡。同一托盘内芯片通过直连通信，机架内连接96颗加速器，第二级光交换机最多连接128个机架，组成含12288颗加速器的Superpod。

系统划分出芯片直连、Pod内一跳和跨Pod三跳三个延迟域，软件会优先把张量并行流量留在低延迟范围。机架与跨机架带宽并非固定分配，而取决于任务放置；在部分通信跨机架时，单颗加速器仍可提供最高750GB/s带宽。

Maia 300还支持Prefill与Decode节点分开部署，Prefill完成后，KV状态可通过同一Fabric传给指定Decode节点，无需主机中转。网络同时支持跨机架故障接管，故障托盘可由其他机架的备用托盘替代，且对软件内核透明。

微软预计，Maia 300每兆瓦Token处理量比领先GPU系统高40%，机架级吞吐量最高为对比系统七倍，每瓦性能超过Maia 200的2.5倍。但业内质疑“每瓦Token”缺少统一定义，Token数量与计算量并不等价，也可能鼓励更长输出；外界还追问是否应采用每瓦每秒或每千瓦时指标，以及上下文长度、Agent工作负载和内存瓶颈等测试条件。

微软没有公布对比GPU、有效Token的判定标准，也未说明客户能否直接预配Maia算力。公告提到的应用主要是Copilot、GitHub Copilot、Foundry、MAI团队和Dragon Copilot，客户更关心的是承诺容量下每个保障Token的价格。除工程博客外，目前没有更多技术论文，微软计划在下月旧金山举行的Ignite 2026上披露详情。