Watch at Ease看见世界,读懂生活。

科技 · 新闻解读

微软Maia 300:2027年部署计划与两种不同吞吐量声明

微软10月12日公布下一代推理系统。40%的效率比较和最高七倍的机架比较采用不同参照,均不能保证每个应用获得相同提升。

Maia 300两种不同公司吞吐量声明
原创编辑示意图:微软每兆瓦多40%与Maia 200机架最高七倍的声明比较边界不同,均非独立实测结果。 Watch at Ease

微软于10月12日公布Maia 300,计划2027年开始生产部署。公司打算将Maia系列扩展至多吉瓦规模,用于自己的AI产品与服务。公布部署计划,不等于硬件已经为所有客户提供服务。

Maia 200已运行,Maia 300是下一步

微软有日期的公告说,Maia 200已服务于包括Microsoft Copilot在内的生产工作负载;GitHub Copilot与Microsoft Foundry将在年底前跟进。Maia 300的生产部署则从2027年开始。区分两代产品与各自里程碑,才能避免把未来计划写成当前可用。

两个数字比较的对象不同

微软预计,Maia 300相对领先GPU系统,每兆瓦可输出多40%的token;另一个声明是,完整96加速器配置下,机架级token吞吐量最高达到Maia 200的七倍。两者的比较对象与分母不同:相对功率的产出,不等于整机架总产出。

路透社指出,微软没有说明比较中具体使用了哪些GPU系统。这些仍是公司性能声明。我们没有测试Maia 300,也不能据这些数字认定每种模型、请求长度或部署都会获得相同提升。

机架功率与芯片功率边界不同

微软技术说明列出96个加速器组成167千瓦机架,而单个加速器的热设计功耗为950瓦。只把芯片功率相乘,无法还原完整机架的功率边界:机架还包含主机处理器、网络、内存、存储和相关冷却设施。

小芯片设计将计算、内存控制器与输入输出功能分开。这是已披露的架构,不是独立证明某位客户电费或总运营成本会下降。

客户接下来应核对什么

下一步有用证据是实际生产部署、具体服务可用性,以及目标工作负载的测量。The Verge独立报道了2027年的生产时间表,但没有提供验证40%声明的独立基准测试。

评估应用时,应记录模型、上下文长度、并发量、响应速度目标与测量边界。每兆瓦token产出与机架吞吐量回答不同问题。这份公告本身不能确定新的Azure价格、访问保证或你的应用性能结果。

Maia 300单加速器TDP与完整机架功率边界
原创编辑示意图:950瓦单加速器TDP与96加速器的167千瓦机架属于不同系统边界;生产部署计划从2027年开始。 Watch at Ease