AI时代CPU何为系列文章-第五代AMD EPYC(霄龙)的逆袭之路

在AMD EPYC(霄龙)处理器中,代号为“Turin”的第五代AMD EPYC(霄龙)处理器采用了“Zen 5/Zen 5c”核心架构。

通常英特尔CPU单核性能较强,高频设计使其在单线程应用,如传统数据库、ERP 等场景中更具优势。AMD凭借chiplet设计优势,核心数更为丰富,在处理数据库、AI训练等并行任务时性能突出。

AMD EPYC产品线的发展之路,与其说是发展之路,不如说是一条逆袭之路,从当年的2%市场占比到如今的34%占比,气势如虹。

在AMD EPYC(霄龙)处理器中,代号为“Turin”的第五代AMD EPYC(霄龙)处理器采用了“Zen 5/Zen 5c”核心架构。非常有内涵的一个名字,光是看代号就足以窥见AMD的野心,Turin意味着打开新世界的大门。

AMD EPYC(霄龙)服务器处理器当前最高核心数为192核,来自第五代AMD EPYC 9005系列处理器中的EPYC 9965,它拥有192核心,384线程,最高加速时钟频率至高可达3.7GHz。

Zen 5基于台积电的4nm制程,其中16颗运行计算任务的die以及1颗处理IO任务的die,均是采用4nm制程。

Zen 5c略有不同,Zen 5c架构计算任务die数量降低到了12,并且采用了3nm制程,IO die数量不变。因为Zen 5c制程更先进,功耗更低,理论上来说可以支持更多die,这里反而减少了计算Die数量,很大可能性是因为3nm制程工艺成本大幅增加导致成本压力增大不得不做出妥协。

Zen 5c,得益于3nm制程,可以实现更高的核心密度,单核性能不强但是可以支持更多核心数量,因为它功耗更低,但成本上推测略高于Zen 5。

Zen5架构深度优化AI混合工作流

AMD第五代EPYC(霄龙)9005系列基于Zen5内核,针对AI非结构化混合负载做出针对性优化。通用业务下IPC提升17%,而在机器学习、大模型推理场景下,IPC增幅达到37%,核心优势体现在强串行逻辑与多任务并行的平衡能力上。

产品清晰分为两条产品线,精准对应两类CPU新场景:

高频主机型号EPYC 9575F,主频拉高至5GHz,强化单线程分支处理性能,专门作为多卡GPU集群的前端主机。在RLHF流水线、多模型异步调度场景中,它可以快速完成样本筛选、任务分片、进程分发,解决GPU长时间空等数据的老大难问题。实测在8卡MI350P集群中,搭配这款CPU后,整体训练迭代效率提升30%以上。

超高密度型号EPYC 9965(Zen5c),最高192核384线程,单插槽内存上限做到6TB,依靠超大容量内存完整加载量化后的13B~34B模型。内置AV112向量单元与XDNA AI加速模块,原生加速INT8向量计算,在Llama3、DeepSeek等开源模型纯CPU推理测试中,吞吐量对比同代竞品具备最高89%的性能优势。

AMD EPYC(霄龙)服务器可带来性能出色的基于CPU的AI推理平台,并能胜任小型AI模型开发、测试和批量训练。当以FP32精度运行XGBoost(Higgs数据集)时,基于192核AMD EPYC(霄龙)9965处理器的双路服务器的机器学习吞吐量(平均每小时运行次数)大幅提升。

内存与互联补齐短板,抢占私有化离线AI市场

和英特尔路线一致,AMD全面拥抱CXL 2.0开放内存标准,双路平台提供160条PCIe 5.0通道,CPU与加速卡之间无带宽争抢。对于金融、政务等数据不出域的私有化项目,霄龙9005凭借超大统一内存、SEV硬件内存隔离能力,同时满足离线推理与数据安全双重需求。

目前,超微、浪潮已经推出大量纯CPU推理服务器,面向企业知识库、本地智能助手、批量文本摘要业务。AMD的核心打法非常清晰:一方面守住GPU集群主机CPU的基本盘,另一方面依靠多核大内存优势,切入纯CPU推理蓝海市场,在后训练、私有化RAG场景持续扩大份额。

本文来源于DOIT传媒,文章内容仅供参考,不构成投资建议。

赞 ()

相关推荐

发表回复

评论列表

点击查看更多

    联系我们

    微信:百易小助手

    邮件:contact@doit.com.cn

    工作时间:周一至周五,9:30-18:30,节假日休息

    微信