AI时代CPU何为系列文章-英特尔至强6成Agent集群的系统中枢

在2026台北电脑展上,英特尔正式量产至强6全系列,分为性能核P-Core与高密度能效核E-Core两大产品线,所有改动都紧扣新型AI负载的短板。

在2026台北电脑展上,英特尔正式量产至强6全系列,分为性能核P-Core与高密度能效核E-Core两大产品线,所有改动都紧扣新型AI负载的短板。

其中,至强6+处理器,核心代号Clearwater Forest,面向下一代数据中心的高性能计算核心。这款基于Intel 18A制程工艺打造的新品,以最高288颗能效核、具有突破性的能效表现以及针对AI计算的全方位优化,成为英特尔数据中心战略转型的里程碑式产品。

时下,越来越多的需求正在向推理侧迁移。而且推理工作负载与训练工作负载存在显著差异,而这正是英特尔能够发挥自身技术优势的领域。

至强6+是英特尔首款采用Intel 18A制程工艺的数据中心CPU,依托Power Via与RibbonFET技术,实现更短供电路径与更低待机功耗,在能效与性能密度上实现代际飞跃。

架构层面,英特尔至强6+采用Foveros Direct 3D堆叠加EMIB 2D封装融合方案,由4颗基于Intel 18A制程工艺的计算模块堆叠于3颗Intel 3工艺基底模块之上,每个计算模块里集成了24核,搭配沿用至强6的I/O晶片,通过EMIB 2D封装技术完成高速互联,最终实现单路 288核的业界最高内核密度。

智能体AI是至强6+聚焦的一个全新方向。现在有越来越多的智能体在代表人类自身去处理事务,无论企业侧的业务工作负载,还是研发侧的开发工作,或者是近期处于一切核心地位的代码编写,亦或是针对网络安全的不同类型研究,以及日常专业工作的方方面面,皆是如此。

从模型训练角度来看,CPU与GPU之间1:4或1:8的比例。但现在,随着智能体AI工作流的出现,这个比例正在向CPU倾斜,CPU的比重开始超越GPU。

针对Agentic AI场景,至强6+的288核架构可轻松支持400-500个以上智能体并发,兼顾高密度部署与快速响应能力,适配多智能体衍生、子任务协同等复杂工作流。

第一,迭代第三代AMX加速单元,补齐CPU张量算力短板。第四代至强仅支持INT8、BF16精度,而新一代AMX新增FP16硬件加速,单周期运算吞吐量提升5倍,原生适配INT4权重量化模型。实测在Llama3 8B/13B纯CPU推理场景下,至强6相比上代至强提升超过90%,可以直接完成后训练LoRA微调、奖励模型评估等轻量化张量任务,不再完全依赖GPU分担计算。

对于RLHF多模型并行评估、RAG向量检索场景,AMX+AVX-512形成双层加速:向量内积由AMX完成,文本分词、文档解析由向量单元处理,完整打通RAG知识库从文档入库到实时检索的全链路CPU加速。

第二,内存子系统全面革新,破解KV Cache与多模型内存墙。至强6全面支持MRDIMM内存,带宽最高突破8800MT/s,相比传统DDR5提升30%;同时开放多达64条CXL 2.0通道,可以外接独立内存扩展池,单机物理内存轻松突破4TB。

这一改动精准命中推理解码阶段的核心瓶颈:大模型推理的延迟绝大部分来自KV缓存的随机读写,统一大容量内存可以把全部权重与上下文缓存常驻内存,规避GPU显存频繁换页带来的巨大开销。在多Agent并发场景中,CXL弹性内存可以动态分配给数百个独立沙箱,完美承接智能体记忆库动态扩容需求。

第三,混合架构拆分算力负载,兼顾单核分支性能与多核并发密度。P-Core型号拥有更强的乱序执行与分支预测能力,负责Agent的规划决策、多分支逻辑判断;E-Core型号最高做到单路288核,依靠超高核心密度承载数百个Agent微虚拟机并发运行。英特尔官方明确给出场景划分:P核机型用于后训练RLHF、大模型协同推理主机;E核机型专门部署大规模数字员工Agent集群,实现算力精准分层。

除此之外,至强6搭载最多192条PCIe 5.0高速通道,配合200GbE以太网控制器,大幅降低AI流水线的数据传输延迟。过去CPU只负责喂数据给GPU,现在可以独立完成全链路数据预处理,GPU只需要执行核心矩阵运算,集群整体算力利用率提升一倍以上。

软硬件闭环只为AI而生

从落地节奏来看,英特尔已经完成软硬件闭环。火山引擎、阿里云快速上线基于至强6的新一代通用实例,主打中小模型私有化部署、离线批量文档处理、企业RAG问答场景。大量企业客户开始将7B~13B模型从GPU迁移至纯CPU服务器,综合TCO降至GPU方案的1/7~1/10。

面对70B以上大模型,英特尔推出CPU-GPU协同推理框架:由至强6分担中低层Transformer解码计算,依靠CXL内存卸载海量KV缓存,释放GPU显存资源,让单张H100可承载的并发量提升5倍。这套方案直接确立了CPU在异构集群里“内存+调度+次级计算”三位一体的核心地位,不再仅仅是主机头节点。

除了CPU更新,英特尔还同步更新了GPU产品。Crescent Island GPU作为AI推理专属利器,基于Intel Xe3P架构设计,面向AI推理与智能体负载优化;它搭载480GB LPDDR5内存,TDP仅350W,支持风冷部署,成本低;同时原生支持FP64,兼顾HPC与AI场景,可4卡部署1.6T参数大模型;并且兼容oneAPI、PyTorch、vLLM等主流框架,软件栈开箱即用。

Crescent Island是为智能体AI而生的GPU。在350W功耗下,可以在现有的风冷数据中心中运行。凭借兼容PCIe的外形规格,它在扩展方面也极具灵活性。它支持最广泛的AI数据类型,这使其成为AI领域极具吸引力的产品。

软件方面,英特尔将提供开箱即用的广泛模型软件支持,基于这些原则,英特尔支持行业标准框架、提供卓越性能,并将英特尔GPU集成到现代部署环境中。同时秉持在AI服务框架上的上游优先(upstream first)原则,如PyTorch、vLLM和SGLang编排。这将对开发者更为友好,并允许开发人员在熟悉的生态系统和编排工具(如Dynamo)中工作。英特尔正致力于将对至强处理器和英特尔GPU平台的支持合并到上游,以减少部署阻力,并使推理服务在实际应用环境中更具可用性。

为此,英特尔还提供了一个用于协同调度分布式推理状态的平台,有助于解决在CPU和GPU之间进行调度、路由和解决推理工作负载时的运营复杂性。英特尔将提供全栈AI软件,而oneAPI底层技术将继续在这里发挥关键作用。例如此前锐炫Pro B70的软件开发工具包,展示了开发人员所期望的前向和后向兼容性。未来,更多用户将能够在B70上进行开发,并部署到数据中心级GPU Crescent Island上。这对于行业客户来说吸引力极大。

本文来源于DOIT传媒,文章内容仅供参考,不构成投资建议。

赞 ()

相关推荐

发表回复

评论列表

点击查看更多

    联系我们

    微信:百易小助手

    邮件:contact@doit.com.cn

    工作时间:周一至周五,9:30-18:30,节假日休息

    微信