Agentic AI重塑存储需求,企业级SSD开始从“拼性能”走向“管性能”

随着大模型应用从训练加速走向规模化推理,AI 基础设施正在迎来新一轮存储需求增长。尤其是长上下文、多轮对话和 Agent 等应用不断发展,KV Cache 数据规模快速扩大,传统依赖 HBM 等高成本介质的存储方式面临容量和成本双重压力。在此背景下,如何利用更大容量、更具成本优势的 SSD 承接 AI 数据,成为存储产业关注的新方向。

在2026 全球闪存峰会同期举行的面向AI的存储系统创新与实践论坛上,忆恒创源客户技术服务部高级经理高建国发表《释放 QLC 潜力,赋能 AI 大模型存储新范式》主题演讲,围绕 AI 大模型时代的存储挑战,重点分享了 QLC SSD 与 FDP(Flexible Data Placement,灵活数据放置)技术的结合,以及忆恒创源在 AI 存储领域的产品实践。

 

一、AI 推理加速,KV Cache 成为新的存储变量

高建国表示,AI 大模型正在推动 SSD 需求持续增长。与传统数据中心业务相比,AI 工作负载不仅需要海量容量,同时对带宽、IOPS 以及低延迟提出了更高要求,而且呈现出明显的混合 I/O 特征 —— 既包含大块顺序读写,也包含大量小块随机 I/O。

其中,KV Cache 正在成为影响 AI 推理系统存储架构的重要因素。

KV Cache 可以理解成大模型的 “短期记忆”。模型每回答一个问题、每记住一段对话,都要往这个 "记忆库" 里写东西。对话越长、用户越多,"记忆库" 就越大,很容易超过HBM、系统内存的容量上限。

高建国给了一组直观的数据:在 128K 超长上下文场景下,如果让 GPU 每次都从头重新计算,首次出字要等 17 秒;而如果数据提前存在本地 SSD 里、直接命中,1 秒就能出字。多用户场景差异更大 ——80 个用户同时对话 10 轮,只靠内存时系统吞吐卡在 12.5K TPS,借助 SSD 扩容后能冲到 66K TPS,提升超过 5 倍。

“随着算力的持续增加,供给流已经成为限制系统发挥极限性能的主要因素。”高建国说到。

二、QLC 承接海量数据,FDP 破解性能与寿命难题

KV Cache 等新型 AI 数据的出现,也让存储介质的选择发生变化。

高建国指出,AI 大模型场景下的 KV Cache 具有不同生命周期:简单问答等数据生命周期较短;长文档分析、总结等任务具有中等生命周期;而持续对话、代码生成和调试等 Agent 任务产生的数据生命周期更长。不同生命周期数据交错写入,对 SSD 的数据管理能力提出了新的要求。

在此背景下,QLC SSD 凭借更高的存储密度和容量优势,为 AI 数据存储提供了新的选择。相比 TLC,QLC 能够在单位介质上存储更多数据,更适合承接大规模 KV Cache Offloading 以及数据集等容量型负载。但与此同时,QLC 在写入性能和擦写寿命方面存在一定挑战。

“为应对这种情况,QLC 加上 FDP 是承接 KV Cache Offloading 的更优选择。”高建国表示。

FDP 的价值,正是从数据管理层面改善 SSD 的写入效率。传统 SSD 中,不同生命周期的数据可能混合存放,当 SSD 进行垃圾回收(GC)时,即使部分数据已经失效,仍可能需要搬运大量有效数据,由此产生额外的写放大,进一步影响性能和寿命。FDP 则将部分数据放置决策交给主机,主机可以根据数据生命周期等特征,将不同类型的数据指定到不同的 RU(Reclaim Unit,回收单元)中,使生命周期相近的数据尽可能实现物理上的统一放置。这样当某一 RU 需要进入 GC 阶段时,可以确保其中大部分数据已经失效,就可以大幅减少有效数据搬运,从而降低写放大。

在高建国看来,FDP 并非单纯的硬件加速技术,其核心在于改变主机与 SSD 之间的数据管理方式。“FDP 解决的不是简单的硬件加速,它是从数据管理层入手,通过智能的数据分布,从根本上优化 SSD 性能与寿命。”

在忆恒创源的测试中,传统 SSD 的写放大约为 2.5,而采用 FDP 后可以维持在 1。通过降低无效数据搬运,FDP 能够减少 GC 带来的额外 I/O 开销,同时改善 SSD 的性能稳定性和使用寿命。

三、QLC+FDP 落地,面向 AI 存储需求持续布局

围绕 AI 大模型对容量、性能和成本的综合需求,忆恒创源已经将 QLC 与 FDP 技术结合,并在 PBlaze7 7A40 Ocean QLC 产品上实现落地。该款SSD最大容量为 122.88TB,顺序读取带宽最高可达 14.2GB/s,顺序写入带宽最高可达 4GB/s,支持 NVMe 2.1 协议,专为 KV Cache 卸载与海量数据集加载等 AI 负载设计。

在 FDP 固件支持下,产品整体性能能够保持在与标准盘相近的水平。同时,通过对不同 RU 进行数据放置和管理,可以在 AI 典型应用场景中实现不同 I/O 之间的合理隔离,在降低写放大的同时兼顾性能表现。

除了大容量 QLC 产品,忆恒创源也在持续完善面向不同 AI 场景的企业级 SSD 产品布局。高建国表示,面对 AI 基础设施对极致性能和大容量存储的双重需求,忆恒创源正在积极推进后续 QLC 产品的研发。

END

全球闪存峰会已走过第九个年头。作为峰会主办方,DOIT传媒已深耕存储二十余载,是国内首家、最具影响力的专业存储媒体,多年初心不改,搭建起存储、AI 等前沿技术与行业应用市场的交流平台,为促进国内外技术交流、加速产品落地、推动数字化转型发挥了重要作用。

本文来源于DOIT传媒,文章内容仅供参考,不构成投资建议。

赞 ()

相关推荐

发表回复

评论列表

点击查看更多

    联系我们

    微信:百易小助手

    邮件:contact@doit.com.cn

    工作时间:周一至周五,9:30-18:30,节假日休息

    微信