算力「芯」动向 | 显存墙之下:美光“近GPU NAND”背后的存储层级重构开始内置AI

🐆:美光探索“近GPU NAND”,将高耐久闪存置于GPU封装或PCB上,直连数百GB存储池。其本质是在显存与存储之间新增缓冲层,与SK海力士、闪迪的HBF殊途同归。存储厂商正集体向算力核心靠拢,争夺AI硬件下一层级的定义权。

图片

据DigiTimes与TechPowerUp报道,美光正在研究一种高耐久性NAND闪存模块:不再经由多重协议接入远处的存储池,而是把闪存直接部署在GPU封装内部或PCB之上,让GPU直连一个数百GB的本地存储池。

这一架构目前被称作“近GPU NAND”(near-GPU NAND)。

图片

单看这则消息,只是一次存储产品的技术探索。

但把它放进当下的产业坐标里——HBM供不应求、DRAM价格持续上行、大模型推理被显存容量死死卡住——它指向的是一件更大的事:存储厂商正在集体向算力核心靠拢,“存储层级”本身正在被重新划分。

不是更快的闪存,而是多一层存储

理解这项技术,关键不在NAND这些字,而在于它的位置。

美光的思路是刻意做一款存储密度低于传统TLC/QLC、但I/O速度与带宽更高的NAND,放在显存与普通存储之间,充当一个全新的高速缓冲层。

向上,它够不着HBM、GDDR7的极致带宽,但容量大得多;向下,它比远端SSD存储池近得多、快得多,却远便宜于HBM,恰好落在“对延迟和带宽敏感、但不必极致”的那类负载上。

图片

这类负载,正是当下增长最猛的大语言模型推理。

当模型参数超出显存容量,系统不必再单纯堆GPU数量或做复杂的模型切分,而是可以把一部分权重与中间数据驻留在这一新层级中。

换句话说,美光做的不是单点改良,而是在VRAM与系统存储之间“插入一层”——这是典型的体系结构层面的卡位。

一堵墙,逼出了三条路

这件事的驱动力,是AI行业那堵众所周知的“显存墙”。

GPU算力仍在快速提升,但单卡显存容量与带宽的扩展速度远跟不上模型参数膨胀的速度,昂贵的AI芯片因为等数据而空转,是整个行业都在承受的成本浪费。

而当HBM受制于产能与堆叠工艺、短期难以大幅放量时,产业自然开始寻找旁路。

于是我们看到的其实是同一个逻辑的三条并行路径:

  • SK海力士与闪迪此前已率先推动HBF(High Bandwidth Flash)方案,试图用更耐久的NAND去扩展GPU的HBM寻址空间;

图片
  • 美光此次探索“近GPU NAND”,把闪存直接贴到GPU封装与PCB上,物理上重构存储与计算的距离;

  • 更上游,原厂们则在HBM、DDR4产能上持续紧张调配,用涨价与扩产应对供需缺口。

三条路形态不同,方向一致。

谁能在显存与存储之间造出新的、够快够大的层级,谁就握住了AI硬件的下一个定价权。

存储厂的战场,正在向算力中心迁移

传统上,NAND的市场在终端设备与数据中心存储池,距离GPU这个算力核心很远,价值分配也由服务器CPU与网络架构决定。

而“近GPU NAND”意味着存储芯片第一次试图直接进入GPU的物理半径之内——那里历来是HBM、GDDR的专属领地。

对存储原厂而言,这是一次价值上移。

从容量供应商走向算力架构的共建者。

对AI芯片与系统厂商而言,多一层缓冲意味着单卡可支撑的模型规模变大,等效摊薄算力成本。

这也是为何HBF与近GPU NAND几乎同时进入业界视野。这不是某一家公司的孤立灵感,而是整个存储产业在AI红利重新分配时的集体转向

竞争的焦点,正在从“谁的闪存密度更高”转向“谁的存储离算力更近”。

差距与不确定性都真实存在

不过,客观地说,这项技术距离落地仍有相当距离。

所有厂商面对的是同一个硬问题。

工会8成都支持!美光台湾陷罢工危机劳方诉求公司回应一次看-日报-工商时报

如何在保留NAND成本优势的同时,大幅缩小它与HBM在带宽和耐久性上的差距。

NAND的读写机理决定了它的耐久性天然弱于DRAM,靠近GPU意味着更高的访问频率,对耐久设计是实打实的考验;而密度换速度的策略,也意味着它必须证明自己的成本-性能平衡点确实落在有价值的工作负载区间,而非两头不靠。

此外,这类“显存—近端存储”的协同需要GPU架构、互联协议与软件栈的深度配合,不是闪存厂一家能够独立完成。

目前报道均停留在“探索”与“研究”阶段,量产时间表、产品规格均未披露。它更像一次方向性下注,而非成熟方案的发布。

图片

美光的近GPU NAND,表面是闪存摆放位置的改变,实质是AI算力瓶颈向存储环节传导的必然结果。当模型的胃口持续超出显存的供给,产业就会被逼着在存储层级上“无中生有”出一层新的缓冲地带。

这一层能否成立、由谁定义,将决定未来几年存储价值在AI硬件链条中的重新分配——HBM之外的第二条存储赛道,已经悄然开闸。

说明:本文依据DigiTimes、TechPowerUp的公开报道整理分析,技术细节以报道披露口径为准;文中不涉及任何未公开的产品规格与量产信息。


算力“芯”动向 · 专注AI与算力产业观察

今日参考阅读文章:

(1)美光探索近GPU NAND闪存技术

(链接:https://chinaaet.com/article/3000180188)

(2)美光探索近 GPU NAND 闪存,可支撑更大规模 AI 模型

(链接:https://www.ithome.com/0/997/668.htm)

(3)消息称美光正探索开发近GPU NAND闪存以运行更大的LLM

(链接:https://www.chinaflashmarket.com/newsflash/38753)

(4)美光“近GPU NAND”技术探索:为人工智能大模型运行开辟硬件新路径

(链接:https://m.sohu.com/a/1071549387_362225?scm=10001.325_13-325_13.0.0-0-0-0-0.5_1334)

(5)美光探索近GPU NAND闪存,GPU可直连数百GB存储池

(链接:https://www.163.com/dy/article/L5TSQJCF0519QIKK.html)

本文若有歧义欢迎读者分享指正。

图片

·END·


本文来源于DOIT传媒,文章内容仅供参考,不构成投资建议。

赞 ()

相关推荐

发表回复

评论列表

点击查看更多

    联系我们

    微信:百易小助手

    邮件:contact@doit.com.cn

    工作时间:周一至周五,9:30-18:30,节假日休息

    微信