共 28 篇文章

标签:CXL

想用DDR5和SSD来扩展显存,老黄能答应吗?-DOIT-数据产业媒体与服务平台

想用DDR5和SSD来扩展显存,老黄能答应吗?

说到显卡,算力固然重要,懂行的AI专家也都知道显存的重要性,尤其是HBM在处理复杂AI模型和大数据集时的关键作用。 然而,现代显卡内置的显存容量有限,常常限制了它们在AI训练和高性能计算中的表现。 为了解决这个问题,有一家公司想通过PCIe...

朱 朋博朱 朋博云计算

服务器变革:存储从HBM到CXL

本文参考自“从云到端,AI产业的新范式(2024)”,通常单台传统服务器价格在1万美金以内,而搭载8张H100算力卡的DGX H100AI服务器价值量可达40万美金(300万人民币左右)。 处理器性能不断提升,“内存墙”成为计算机系统的瓶颈...

张 妮娜张 妮娜业界动态

如何利用CXL技术突破内存墙?

CXL诞生的基础是为了解决CPU内存和附加设备内存的互联,实现资源共享,得到最大的性能提升。随着数据大规模超算、AI、5G、云技术、边缘计算、自动驾驶等蓬勃发展,未来的数据存在指数级的增长且要求实时计算。 从2019年的CXL 1.0,CX...

张 妮娜张 妮娜业界动态

CXL要适配AI训练吗?

英伟达最近GTC大会发布了系列重磅产品,除了芯片和NIM软件外,在连接能力上继NVLink和NVLink-C2C还发布了X800 系列交换机,为AI训练量身定制,进一步加速各种数据中心中AI、云、数据处理和高性能计算应用。主要还是...

崔 欢欢崔 欢欢智能数据