微软计划以Maia 300处理更多AI推理

微软宣布，新一代Maia 300将于明年开始在数据中心部署，专为AI推理任务设计，计划以吉瓦级规模投入使用。微软预计，Maia 300每兆瓦可处理的token数量比主流GPU系统高出40%；公司目前无意将Maia算力直接出租给外部客户，而是优先用于自身AI服务。

微软计划在数据中心部署总规模达数吉瓦的Maia芯片，最新一代Maia300将从明年开始投入部署。Maia芯片面向AI推理，微软希望借此更高效地运行推理任务并减少部分英伟达GPU采购成本；目前其大部分AI推理仍由英伟达GPU提供算力支持。

微软将从第三代 Maia AI 加速器 Maia 300 开始，主要使用自研芯片处理 AI 推理请求，以减少对英伟达 GPU 的依赖。微软预计每个数据中心机架可配置 96 颗 Maia 300，是 Maia 200 的两倍；按微软说法，其每机架可运行的 AI token 数最高可达后者的七倍，每兆瓦处理的 token 数比 GPU 多 40%。