7月9日，2026开放计算技术大会（OCTS2026）在北京启幕。本次大会锚定AI基建全新发展前沿，聚焦万亿参数大模型、多智能体协作带来的Token指数级爆发，涉及高速互连、供电架构、液冷散热、开放系统等议题。
伴随Agentic AI规模化落地，AI负载早已跳出单一模型训练、单次对话推理的传统范畴，演化成多智能体协同、长上下文交互、工具调用、多层记忆管理、自主循环执行的复杂混合负载。
AI数据中心（AIDC）的竞争逻辑被改写：行业不再单纯追求单点GPU算力峰值，而是打通计算、存储、网络、供电、散热、调度全链路，构建能够稳定承载高并发、低时延、高性价比Token生产的一体化基础设施。
一、算力架构变革：从GPU单点驱动转向CPU-GPU异构协同
2012年前传统机器学习以CPU为核心，SVM、逻辑回归并行度低、数据集偏小；2012至2024年深度学习阶段，AlexNet、Transformer将视觉、NLP任务全面迁移至GPU，形成GPU主导的算力格局；自2025年起正式进入Agentic时代，智能体需要完成任务拆解、流程编排、工具调用、多层记忆管理、循环自省等逻辑密集型工作，CPU价值全面回归，行业正式进入CPU、GPU深度协同的全新阶段。
“未来AI推理性能瓶颈，早已不是GPU单次张量计算速度，而是跨CPU、GPU、多级内存与高速网络的全局协同效率。”阿里云首席云服务器架构师陈健指出，Agent工程历经Prompt、Context、Harness、Loop四层技术演进，人的干预持续减少，CPU调度与记忆管理复杂度持续攀升。
同时智能体分为主从两级架构，主Agent长周期维持全局上下文，负责子任务编排、结果汇总；子Agent瞬时执行原子任务、无状态运行，任务结束立即清空上下文。这种“有状态主Agent+无状态子Agent”混合负载，会出现瞬时子Agent抢占CPU缓存、TLB资源的问题，对CPU资源隔离、缓存管控、协同调度服务提出严苛要求。
阿里云磐久UMX统一内存扩展架构，整合HBM、DRAM、HBF、SCM、TLC/QLC SSD多介质存储接入ALink Scale-Up Fabric，依托Load/Store语义分发不同时延内存请求，搭建超长KV Cache缓存池；同时引入DeepSeek Engram作为CPU-GPU协同标杆方案，将静态知识库前置存放于GPU机头CPU，Decode阶段直接就近查询，省去重复Transformer解码开销，大幅降低推理时延。最终阿里云落地全栈异构AI集群，CPU与GPU配比趋近1:1，适配海量智能体并发运行需求。
海量智能体7×24小时并行协作，倒逼整机柜、超节点架构同步革新。过去Chatbot仅为一问一答的简单对话，负载几乎全部交给GPU；但当下Agent具备自主拆解复杂需求、串联多步骤任务、长期持续运行的能力，每一个智能体本质都是独立CPU沙箱，大量流程调度、工具调用、权限管控、记忆维护等逻辑运算全部落在CPU侧，传统以GPU为核心的单一算力架构完全无法适配海量Agent并发场景。
浪潮信息面向Agent场景，打造业界首款CPU原生液冷整机柜，并且开源完整液冷OCM开放算力模组标准，支持多元算力灵活组合，单柜可集成业界最高密度384颗CPU，支持4万+个Agent高并发运行。
浪潮信息副总经理赵帅表示，CPU原生液冷整机柜服务器采用领先的原生液冷理念，散热架构与计算架构协同设计，面向智能体应用，重构CPU计算系统，通过系统解耦与立体化设计，实现CPU和内存计算单元、网卡和光模块通信单元、SSD存储单元等模块全域液冷重构，保证极限部署密度的同时，散热能力超前匹配芯片功耗增长。
针对Agent背后源源不断的大模型推理需求，浪潮信息推出元脑SD200多模融合超节点服务器，构建高性能Token生产引擎。该产品依托自研原生内存语义开放总线与3D Mesh低时延互连架构，单机可提供4TB统一显存空间，能够同时驻留4个万亿参数大模型，支持多候选模型并行推理、评审融合。
经过持续软硬件协同优化，元脑SD200将万亿参数模型单Token生成时延从初代8.9毫秒压缩至4.77毫秒，成为国内首个突破5毫秒大关的超节点产品。赵帅现场公布多模融合实测基准数据：采用多模型并行输出、交叉评审、结果补全的融合方案，在AIME2026数学推理、GPQA Diamond高难问答两大权威测试集分别取得97.2%、90.8%的优异成绩，全面超越单一模型推理精度，完美适配Agent复杂逻辑推理、专业知识问答、代码生成等高频业务。
考虑到大量中小企业无法部署64卡、128卡超大超节点，浪潮信息同步推出SD200企业版，基于16卡统一Scale-up计算域，依托Open Fabric Switch实现统一寻址、低时延跨卡通信，万亿参数模型推理TTFT提升40%以上，适配企业本地私有化部署智能体场景。生态层面，SD200系列完成Kimi K2.6、DeepSeek V4、GLM 5.2等几乎全部主流开源大模型适配，依托开放计算架构降低企业迁移适配成本。
“GPU负责高效产出高质量Token，CPU液冷整机柜承载海量智能体调度、沙箱隔离、工具执行与记忆管理，两套系统协同形成群智协同体系，这是Agent时代基础设施的标准形态。”赵帅总结道，AI行业竞争已经从单一模型能力比拼，转向多模型协同、多元算力调度的全栈系统能力竞争，只有CPU、GPU算力底座同步升级、深度协同，才能支撑大规模Agent集群落地。
面向全球化大规模业务部署，字节跳动服务器架构师高晓军分享头部互联网企业兆瓦级算力落地一手实践。他直言，未来2-3年单XPU功耗将攀升至2000-3000瓦，单机柜功率、集群互连带宽将实现数倍跃升，模块化、整机柜统一交付的AI Rack架构成为行业刚需。
字节迭代两代AI Rack超节点方案：AI Rack2.0双柜承载256卡，单机柜240千瓦，机柜内部以铜互连替代传统光互连压缩成本、提升可靠性；全新AI Rack3.0完成全方位升级，双机柜最高支持576颗XPU，双向互连带宽达460TB/s，单机柜功率突破500千瓦，整套集群实现兆瓦级算力输出。整套架构兼容铜互连与NPO光互连，配套800V高压供电与全液冷散热，机柜维持标准600mm宽度，供电、网络、液冷采用标准化三插设计，便于整机柜快速交付运维。
“AI基础设施的核心目标是让算力更密、更快、更省、更开放，依托开放架构兼容多元算力，通过全链路标准化降低大规模集群部署门槛。”高晓军总结道，字节同步推进NPU交换机、光引擎自研，通过8计算柜+2网络柜组合搭建1024卡超大超节点集群，适配未来超大模型与海量Agent协同需求。
二、高速互连分层演进：铜光协同构建高密度超节点网络
随着超节点规模从64卡拓展至千卡集群，高速互连带宽、硬件可靠性、运维便捷度成为制约集群效率的核心瓶颈。庆虹电子产品总监陈宣豪在分享中表示，当下超节点生态百花齐放，方案各有侧重，但共性需求高度统一：更高互连带宽、更稳定无源硬件、适配高密度液冷机柜的布线方案。行业互连协议持续丰富，NVLink、CXL、UB、OISA、UALink方案并行发展，物理介质形成柜内Scale-up铜互连、柜间Scale-out光互连的分层协同格局。
“面向机柜内XPU近距离高密度互连，线缆背板Cable Tray、近芯片NPC、板外线缆OTB、共封装CPC等铜互连形态，将长期作为Scale-up连接的基础载体。”陈宣豪介绍，铜互连方案凭借低成本、易运维、低延迟优势，适配单机柜内部高密度算力扇出；庆虹自研224G互连ARK系列方案已全面开源，向行业开放全套图纸、设计文件，推动高速背板、线缆组件标准化，减少非标定制件，降低全产业链成本。
工艺层面同样具备独家落地细节：庆虹将AI Agent引入高速线缆全流程生产，针对Cable Tray结构化布线、浮动自纠偏结构设计做全流程量化监控，采集加工工艺、长期可靠性数据反向优化生产参数，平衡机柜散热、供电与布线空间。
三、算电热一体化重构：800V高压+全液冷支撑兆瓦级算力
Agent时代高密度算力集群带来芯片功耗、机柜功率指数级上涨，供电、散热不再是数据中心配套能力，而是与计算、网络深度绑定的核心架构，传统“先设计算力、再配套供散热”的模式彻底淘汰，算力、供电、散热、园区能源同步规划的一体化设计成为新标准。
伟创力电源研发和产品管理部总监谢玮聚焦供电架构革新，指出兆瓦级机柜彻底颠覆传统48V两级供电体系，800V高压直流、三级供电架构、近负载垂直供电模块成为下一代智算中心标配。他梳理电源模块50年迭代历程：早期单模块仅40瓦，互联网时代1/4砖型模块达400瓦，当前AI场景指甲盖大小模块可输出1500-2000瓦，功率密度实现数十倍跃升。
机柜功率分层对应供电方案清晰可落地：250千瓦以内机柜可采用48V风冷；500千瓦机柜液冷成为刚需；1兆瓦级别机柜受机架空间限制，衍生Sidecar独立电源机柜，伟创力已实现单Sidecar机柜1兆瓦供电交付能力。
传统数据中心采用48V两级供电架构，先48V转6.75-12V，再供给芯片；兆瓦级集群升级为800V三级供电架构，800V高压先转换50V再逐级降压。高压核心价值在于降低传输电流，大幅减少线路铜损，提升整机供电能效，但800V属于高压体系，安规绝缘、电磁干扰、防护设计要求远高于48V低压，行业需要依托新能源车成熟产业链协同完善配套生态。
与此同时，单芯片功耗突破2000瓦，推动垂直集成供电模块规模化落地，模块与XPU封装兼容、节省主板布线空间；行业形成8×8mm、10×9mm两种标准化多相模块尺寸，拓宽供应商选择空间，伟创力已迭代至第四代垂直集成供电模块，深度配合芯片厂商联合开发。
结语：开放协同，共建Agent时代AIDC全新底座
未来，算力不再是单纯的硬件峰值指标，而是CPU、GPU、内存、网络、供电、散热深度协同，支撑海量智能体自主拆解任务、循环反思、持续产出高质量Token的综合系统能力。以开放计算为纽带，产业链上下游将持续协同迭代，加速千行百业AI智能体规模化落地，推动AIDC产业迈向高密度、高能效、高弹性的全新阶段。
本文来源于DOIT传媒，文章内容仅供参考，不构成投资建议。
评论列表