DOITAPP
DOIT数据智能产业媒体与服务平台
立即打开
DOITAPP
DOIT数据智能产业媒体与服务平台
立即打开

标签:CXL

云计算

想用DDR5和SSD来扩展显存,老黄能答应吗?

朱 朋博 发布于 2024-07-08

说到显卡,算力固然重要,懂行的AI专家也都知道显存的重要性,尤其是HBM在处理复杂AI模型和大数据集时的关键作用。 然而,现代显卡内置的显存容量有限,常常限制了它们在AI训练和高性能计算中的表现。 为了解决这个问题,有一家公司想通过PCIe总线连接更多的内存扩展设备,甚至可以使用...

业界

服务器变革:存储从HBM到CXL

张 妮娜 发布于 2024-06-24

本文参考自“从云到端,AI产业的新范式(2024)”,通常单台传统服务器价格在1万美金以内,而搭载8张H100算力卡的DGX H100AI服务器价值量可达40万美金(300万人民币左右)。 处理器性能不断提升,“内存墙”成为计算机系统的瓶颈。计算机系统的运行受到处理器和内存的配合...

业界

如何利用CXL技术突破内存墙?

张 妮娜 发布于 2024-06-02

CXL诞生的基础是为了解决CPU内存和附加设备内存的互联,实现资源共享,得到最大的性能提升。随着数据大规模超算、AI、5G、云技术、边缘计算、自动驾驶等蓬勃发展,未来的数据存在指数级的增长且要求实时计算。 从2019年的CXL 1.0,CXL协议目前已经发展了CXL 3.1。服务...

智能数据

CXL要适配AI训练吗?

崔 欢欢 发布于 2024-03-28

英伟达最近GTC大会发布了系列重磅产品,除了芯片和NIM软件外,在连接能力上继NVLink和NVLink-C2C还发布了X800 系列交换机,为AI训练量身定制,进一步加速各种数据中心中AI、云、数据处理和高性能计算应用。主要还是在大模型训练上是绝对王者。 而另一个高速...

云计算

第五代英特尔至强可扩展处理器现已支持CXL内存扩展

朱 朋博 发布于 2023-12-18

2023年12月15日,英特尔发布代号为Emerald Rapids的第五代英特尔至强可扩展处理器,更多的核心,更大的缓存,全新的芯片底层架构,相较于年初发布的第四代又有了更多提升。 第五代至强的核心数从原来的最高60核提高到了64核,而L3缓存则从原来最多105MB提高到了32...