OCP峰会拆解微软自研芯片，云厂商重构推理成本曲线
芯粒化分die设计，AI加速器的主流工程形态
微软在OCP全球峰会上拿出Maia 300，这不是一次常规迭代。
从Maia 200的单片N3P方案切换到多芯粒封装，计算die上台积电N2P，内存控制器和I/O分离到独立die上，部分辅助die用成本更低的3nm。
芯粒化不只是为了堆算力，更是一次成本结构的重排。算力密集的部分用最先进工艺追密度和能效，I/O和控制这类不敏感模块换成熟工艺降成本、提良率，整体账优于单die全先进工艺。
英伟达Rubin世代和AMD Instinct MI350走的是同一条路线，说明异构工艺芯粒已经是高端AI加速器的通用方法论，微软没有另辟蹊径，而是站上了同一条技术主干。
SDLA加NUMA，向数据搬运要能效
真正体现差异化的是微软反复强调的SDLA，软件定义数据流架构。
这个架构在Maia 200上首次引入，核心动作是把控制路径编程和数据路径执行拆开，让软件显式调度数据在局部SRAM、DMA引擎、计算引擎和片间网络之间的位置、搬运和同步。
Maia 300在此基础上做了一处关键改动，内存组织从统一内存访问改为跨芯粒的NUMA。
解码阶段KV Cache不断膨胀，长上下文和智能体负载让推理越来越变成访存密集型任务，瓶颈常常不在算力而在数据搬运。
NUMA加上SDLA对DMA和NoC的显式控制，本质是把数据放在离计算更近的位置，传输距离缩短，省下的就是能耗。
微软给出的结果是这套策略让系统FP4推理算力提升约36%，HBM带宽做到上代的2.5倍，这是厂商内部测算口径。配合针对Softmax、低精度类型转换的ISA增强，以及增强型MXFP4和3bit以下存储格式，每个token搬动的字节数被压到更低，同样功耗下能撑的模型和上下文就更大。
纸面能效，288GB HBM4背后的每瓦Token账本
规格层面，Maia 300配288GB HBM4，8个36GB堆栈，每引脚9Gb/s，总带宽18TB/s，对比Maia 200的216GB HBM3E和7.1TB/s，带宽翻2.5倍，容量加33%，每瓦HBM带宽接近翻倍。
950W的TDP比上代750W高出不少，但带宽涨得更快，能效账是划算的。
微软宣称每兆瓦token产出比领先GPU系统高40%，机架级token吞吐最高达到Maia 200的7倍，后者是在典型长上下文负载下的峰值口径。
这两组数字目前都没有可比配置的对比细节支撑，外部机构无法复测，分析师Patrick Moorhead已公开表示尚无微软以外的机构实测过这些芯片，现阶段只能按厂商口径对待。
开放标准SuperPod，用通用以太网对冲私有互连锁定
网络是Maia 300工程含量最高的部分。
机架内用半交换式拓扑，每颗加速器一半链路直连托盘内邻居，一半走交换网络，机架内全部电互连压低功耗和成本，跨机架的第二级用光互连，最多128个机架组成12288颗加速器的superpod。
更有分量的是scale-up和scale-out统一到一套通信语义，加速器直接和superpod内任意peer通信，不需要主机转发，也不需要独立网卡，单颗加速器对任意peer能提供最高750GB/s。
预填充节点算完KV Cache直接经scale-up网络送给解码节点，prefill和decode解耦部署全程不离开这个互连域。
这套设计对标英伟达的NVL机架方案，区别在于微软基于标准以太网自研AI传输协议，绕开了私有互连生态。
这是OCP系厂商的典型路线，收益是供应链成本和去锁定，代价是纯标准以太网在传输效率和底层优化深度上天然弱于NVLink加CUDA的闭源体系。
这条路线能不能赢，不取决于单卡峰值，取决于规模化部署后的系统级能效和总拥有成本。
机架级工程，高密度部署下的系统级协同设计
机架层面，96颗加速器装进167kW机架，密度是上代的两倍，27.6TB HBM容量，1.728PB/s聚合带宽，整机架FP4算力1324 PFLOPS。
手段包括取消独立主机托盘、50V母线供电、液冷带走80%以上热负荷、六个高基数交换ASIC集成进三个液冷交换机托盘。
这套rack scale engineering和GB200 NVL72同属一个方法论，系统级协同设计已经从英伟达的独门优势变成头部玩家的入场标配。
产业锚点，推理场景是自研ASIC的天然土壤
Maia 300锚定推理，而这正是定制芯片最容易兑现价值的场景。
训练负载多变，依赖CUDA生态和成熟的集群软件栈，替换成本极高，微软自己明确训练继续与英伟达和AMD合作。
推理负载模式固定、规模巨大、对能效敏感，模型结构和算子特征清晰，适合ASIC做深度优化。
更关键的是协同设计的深度，Maia从架构层面就对着Copilot和Foundry这类自有负载长出来的，数据格式、内存层次、互连拓扑都按推理工作负载的特性定制，这是通用GPU给不了的匹配度。
AI算力正在形成训练用GPU、推理用ASIC的二元格局，微软本次没有公布任何训练芯片路线，只迭代推理产品线，也印证了同一个判断，云厂商自研芯片优先切推理，是投入产出比最高的选择。
云厂商握有推理侧的议价主动权
和谷歌、亚马逊的路线对比，差异在商业化形态。
TPU和Trainium已经开始按小时出租给外部客户，微软的加速器目前只服务自家产品，不对外售卖算力。
Maia短期内对英伟达的收入冲击有限，Evercore ISI预计2027年第一季度Maia占微软AI芯片支出约10%，量级是补充而非替代。
但它动摇的是议价权。
当云厂商手里握有自研推理方案，英伟达在推理侧定价就面对一个真实的内部替代选项，而超大规模云厂商贡献了英伟达每季度过半收入。
自研芯片的双重考验
风险同样具体。
芯片2027年才投产，从流片到数吉瓦级运营隔着良率、供货、软件栈成熟度的多重考验，明年部署超百万颗的说法目前只有报道口径。
HBM4和N2P都是刚量产的前沿工艺，成本和产能都是硬约束。
软件生态是更长期的课题，CUDA积累了近二十年的开发者资产，微软需要证明自家软件栈能在生产环境稳定支撑快速演进的模型形态。
Maia 300的信号意义在于自研芯片已经完成从防御性备份到主力推理平台的过渡，微软用三代产品走完这个周期。芯片行业的权力结构正在向需求端倾斜，谁掌握终端负载，谁就有能力和动力定制自己的硅。竞争的单位不再是单颗芯片的算力对比，而是每瓦token成本这场系统级较量，这条赛道上定制ASIC和GPU将长期共存，胜负取决于负载匹配度和工程兑现速度。
今日参考阅读文章： (1)微软发布Maia 300芯片 加速降低对英伟达依赖 （链接：https://www.cls.cn/detail/2502724） (2)微软推出全新 AI 芯片，降低对英伟达 GPU 依赖 （链接：https://m.sohu.com/a/1087006602_121489117?scm=10001.325_13-325_13.0.0-0-0-0-0.5_1334） (3)Microsoft Maia 300 AI 芯片问世，配备惊人的 288 GB HBM4 内存和 18 TB/s 带宽 （链接：https://www.notebookcheck-cn.com/Microsoft-Maia-300-AI-288-GB-HBM4-18-TB-s.1422333.0.html） (4)又一颗2nm AI芯片问世！用上288GB HBM4 （链接：https://mp.weixin.qq.com/s/ZA-L_Ps9pNvO_MgmfA17eg） (5)报道：微软明年将大规模部署自研AI芯片，目标推理效率提升40% （链接：https://wallstreetcn.com/articles/3783460） (6)微软发布2nm芯片，加速抛弃英伟达！ （链接：https://www.163.com/dy/article/L933H0P70511CPMT.html） 本文若有歧义欢迎读者分享指正。
本文来源于DOIT传媒，文章内容仅供参考，不构成投资建议。
评论列表