AI计算 · SK海力士 | 当搬数据比算数据更贵,内存开始重新定义自己在AI计算中的位置

SK海力士3D FeNAND存内计算瞄准AI冷权重就地推理。搬运贵过计算已成瓶颈,内存竞争标尺正从每比特成本转向每瓦特算力,存储厂商争夺AI权重层定义权。

图片

存储×AI计算·行业观察

问题根源:AI推理的内存墙,搬运成本压倒计算

这一轮关于SK海力士3D FeNAND的讨论,核心不在一款新闪存,而在于一个正在形成的行业共识。AI计算的瓶颈正在从算力芯片本身,转移到数据在存储与计算之间搬运的成本上。

AI计算性能已经不能只用计算单元的速度来解释,数据存放在哪里、计算在哪里发生、能减掉多少数据搬运,直接决定系统效率。

经典架构中数据存在内存、运算由处理器完成,二者之间的搬运通道远慢于运算本身。传统计算中这笔账可以接受,因为单次搬运量小、复用率高。

大模型推理是另一种形态。权重参数动辄数百GB,每一轮生成都意味着海量乘积累加运算和权重数据的反复往返,AI加速器相当一部分功耗和时间消耗在搬运而非计算上。

现在主流推理系统已经是三级分层。HBM承载高频复用的热权重,DRAM做中间缓存,SSD存放冷权重并需要频繁搬向GPU。3D FeNAND存内计算要解决的正是在最底层的冷权重介质上直接完成部分矩阵运算,避免TB级权重在存储与GPU之间反复流动。

图片

SK海力士此次公布的模拟存内计算方案,逻辑是让存储单元利用自身电学状态直接执行乘积累加,在存储器内完成运算,减少数据搬运。

为什么是NAND,为什么是铁电?

模拟存算的器件选型逻辑

存内计算不新鲜,落地难点在于存储单元必须能在单一单元内稳定区分足够多的电流状态。

传统3D NAND采用电荷俘获氮化物结构,电子被俘获在氮化物层中,追求的是密度极限而非状态精细度。铁电材料的极化状态在外部电场消失后仍能保持,因此可以在单一存储单元内产生多种电流状态,恰好对应权重数据的模拟表达需求。

这组研究实际由两届IEDM论文构成。

图片

2024年12月的论文首次在3D垂直铁电NAND中实现模拟计算,通过栅堆栈工程获得单单元256级以上电导态,阵列存算密度较2D方案提升4000倍,阵列MAC运算精度87.8%,计算效率提升1000倍。

2025年12月的论文进一步对存储单元、外围电路、页级方案做协同优化,仿真显示吞吐量和能效分别最高提升16倍和4950倍,官方新闻室的口径是10到20倍与4000到5000倍。

这组数字必须钉死对比基准,否则极易误读。

SK海力士官方明确提升幅度对比的是传统2D非易失存储阵列,且限定在相同芯片面积下,源于3D FeNAND能一次装下更多权重、减少反复加载。这不是在真实服务器上与HBM或GPU系统对比的实测指标,而是仿真结果。

87.8%是阵列层面的MAC运算精度,模拟存算存在逐层误差累积,完整模型端到端推理精度会进一步衰减,这项研究自身的定位也是面向速度低功耗优先于极致精度的边缘场景。

此外,铁电材料极化随时间和温度漂移导致电导态偏移、垂直串中不同位置单元的电学特性不一致、模拟电流读出依赖高精度ADC而外围电路功耗占比高,是模拟存算路径公认的工程难题。存储阵列要同时扮演可靠仓库和称职计算器,本身就相互牵制。

短期看这是远期布局,看不到商业回报。

HBM上半场结束,存储厂商争夺AI权重层定义权

2026年8月,SK海力士与Sandisk经开放计算项目发布首版HBF高带宽闪存标准,定位在HBM与SSD之间的新层级,单封装最高512GB,带宽0.4到3.0TB/s分三档,采用UCIe互连,联盟成员包括Google与Tenstorrent。

SK海力士首席开发官在SEDEX 2026上的判断很坦率,单靠HBM应对不了激增的AI内存需求,HBF目标容量约为HBM的10倍,把大容量反复读取的数据集拉近计算端。

注意区分HBF是把传统NAND用TSV堆叠出来的容量层,FeNAND是存算一体研究原型,两条不同路线,指向同一个判断:AI推理的权重分层存储加就地计算,正在成为存储厂商的正式战场。

横向看,存内计算已经分出两条技术路线。

三星的LPDDR5X-PIM在DRAM存储体内嵌入数字计算模块,精度可控、即插即用,2026年7月在FMS首次公开亮相,8月在Hot Chips 2026披露工作硅片实测数据。但DRAM易失,断电权重即失,只适合热权重。

SK海力士的FeNAND走模拟路线,非易失、密度极高,代价是噪声与一致性难题,更适合冷权重。加上SK海力士已有的GDDR6-AiM与AiMX加速卡,可以看到头部厂商的共同思路不是寻找DRAM的单一替代品,而是围绕模型冷热分层,为每一层定义存储与计算的组合方式。

存储不再只是算力的仓库

3D FeNAND短期不是用来取代HBM加GPU的组合。

它更现实的潜在落点,是对精度容忍度较高、权重容量巨大的任务,比如低比特量化模型、检索增强、推荐系统的矩阵运算。

它标记的方向已经很清晰。

当模型规模让数据搬运贵过计算本身,内存产业的竞争标尺就从每比特成本扩展到每瓦特、每平方毫米的有效算力。谁能把存与算的距离压到物理极限,谁就在AI计算的下一个十年握有定义权。这条路还很长,但牌桌上的玩家已经开始落子。

-----------------------------------------------------------------

算力“芯”动向 · 专注AI与算力产业观察

今日参考阅读文章:

(1)不只是储存还能跑AI,SK 海力士用3D FeNAND 实现记忆体内运算

(链接:https://technews.tw/2026/10/16/sk-hynix-unveils-3d-fenand-for-ai-computing/)

(2)SK Hynix Backs Its Roadmap as CXMT Noise and Solidigm Optionality Collide

(链接:https://www.ad-hoc-news.de/boerse/news/unternehmensnachrichten/sk-hynix-backs-its-roadmap-as-cxmt-noise-and-solidigm-optionality-collide/70326302)

(3)SK 海力士推出 3D FeNAND 技术,瞄准 AI 计算

(链接:https://www.ithome.com/1/013/604.htm)

(4)SK海力士推出3D FeNAND技术

(链接:https://www.cls.cn/detail/2505987)

本文若有歧义欢迎读者分享指正。



本文来源于DOIT传媒,文章内容仅供参考,不构成投资建议。

赞 ()

相关推荐

发表回复

评论列表

点击查看更多

    联系我们

    微信:百易小助手

    邮件:contact@doit.com.cn

    工作时间:周一至周五,9:30-18:30,节假日休息

    微信