480GB显存只要350W,英特尔这张新GPU瞄准AI推理

英特尔GPU D系列基于英特尔最新Xe3P架构,在350瓦功耗范围内,可为用户提供高达480 GB的LPDDR5X内存、1.5 TB/s内存带宽以及1.3 PFLOPS FP8算力。这一产品充分兼顾了内存容量、计算能力与能效表现,体现了英特尔围绕真实推理场景持续优化基础设施的思路。

在 OCP 峰会上,英特尔介绍了代号为Crescent Island的推理GPU,将其归类为英特尔GPU D系列,专为持续运行的内存密集型AI推理工作负载而打造,主打超大容量显存和超低功耗,可以提升推理负载的成本效益。


英特尔GPU D系列基于英特尔最新Xe3P架构,在350瓦功耗范围内,可为用户提供高达480 GB的LPDDR5X内存、1.5 TB/s内存带宽以及1.3 PFLOPS FP8算力。这一产品充分兼顾了内存容量、计算能力与能效表现,体现了英特尔围绕真实推理场景持续优化基础设施的思路。

面向大语言模型、长上下文工作负载和高并发推理服务,单张英特尔GPU D系列最高可支持3000亿参数模型的运行,八卡系统则可支持超过1万亿参数模型的运行。其应用场景涵盖多租户AI服务、机器人以及其他对低延迟要求较高的工作负载。

英特尔GPU D系列采用标准的PCIe外形规格、风冷设计以及通用的Xe软件基础,可简化在现有数据中心环境中的部署,并支持应用在不同英特尔GPU平台之间灵活移植。这一设计,让客户无需再部署专用机柜或冷却基础设施,即可扩展推理能力。

目前,英特尔正与OEM、ODM、专业AI云基础设施服务商(neoclouds)、独立软件开发商(ISV)、硬件设备提供商以及AI原生企业在内的广泛生态系统展开合作,推动英特尔GPU D系列的性能优势更快地转化为实际价值。

英特尔重点介绍了不断壮大的生态系统,聚集了支持英特尔GPU D系列的广大客户与合作伙伴,涵盖OEM、ODM、专业AI云基础设施服务商、软件提供商以及AI原生企业。许多企业均为开放计算项目(OCP)成员,致力于提供经过验证、具备互操作性的AI基础设施,以及可直接部署的解决方案。

目前,客户送样工作正有序推进,英特尔将继续扩展硬件、软件和开源生态布局,为企业在现有及新建数据中心基础设施中部署与扩展推理能力,提供更大的灵活性。

本文来源于DOIT传媒,文章内容仅供参考,不构成投资建议。

赞 ()

相关推荐

发表回复

评论列表

点击查看更多

    联系我们

    微信:百易小助手

    邮件:contact@doit.com.cn

    工作时间:周一至周五,9:30-18:30,节假日休息

    微信