跳出制程围城,东方算芯以3D近存计算开辟国产算力新路径

从一颗芯片到一套可运行的大模型训练系统,东方算芯的探索表明,国产AI算力有机会在先进制程外,寻找新提升空间

当AI大模型持续升级,算力需求不断增长,如何提升AI芯片性能与能效,成为产业关注的重要问题。

长期以来,先进制程是推动芯片性能提升的重要技术路径,通过缩小晶体管尺寸、提高集成密度,让芯片能在有限面积内集成更多计算资源。然而,随着AI模型规模扩大,影响算力效率的因素不再局限于计算单元本身。存储带宽、数据搬运、芯片互连以及软件适配等环节正在共同决定AI系统能释放多少有效算力。

大众开始重新审视计算与存储的关系。近存计算受到越来越多的关注,其通过缩短计算单元与存储单元之间的数据传输路径,来改善数据访问效率,为突破传统架构中的存储瓶颈提供了新思路。

近日,在第二十六届中国国际工业博览会期间,东方算芯展示了基于3D近存计算架构的DF1000 AI芯片及其训练集群落地成果。DF1000还获得了2026国芯展的创新成果奖。

更值得关注的是,东方算芯披露,自2024年启动研发以来,历时24个月,完成从芯片研发、全栈软件适配到百卡级训练集群部署的完整闭环,并实现多个大模型训练任务的稳定运行。

从一颗芯片到一套可运行的大模型训练系统,东方算芯的探索表明,通过底层架构创新与软硬件协同设计,国产AI算力有机会在先进制程之外,寻找新的效率提升空间。

为什么选择3D近存计算路线?

传统计算架构中,计算单元与存储单元相对分离。执行计算任务时,处理器需要不断从存储器中读取数据,完成运算后再将结果写回。尤其大模型训练场景,模型权重、激活值及中间计算结果的频繁读写,对存储带宽和数据传输效率提出了更高要求。

当数据供应速度无法充分匹配计算单元的处理能力时,即使芯片原本拥有高算力,也无法充分发挥性能。还有数据在计算单元与存储器之间的频繁移动也会带来额外的能耗,这些形成了AI计算领域长期担忧的存储墙。

为缓解这一瓶颈,业界持续通过高带宽存储、先进封装、更大容量缓存及互连技术等方式改善数据访问效率。但随着算力规模扩大,如何进一步降低数据搬运成本,仍是芯片架构创新的重要方向。

东方算芯选择的3D近存计算路线,就是从这一问题出发。和通过不断升级制造工艺提升晶体管密度的思路不同,近存计算更关注计算与存储间的组织方式。

东方算芯的3D近存堆叠架构通过计算与存储资源的紧密集成,从硬件底层缩短数据传输路径,提升数据访问效率。其技术思路是减少计算过程中不必要的数据搬运,让计算资源能更高效地获取所需数据,从而改善整体算力利用效率。

对于AI芯片而言,这种架构创新的价值不仅在于改善数据访问性能,也在于为芯片设计提供新的优化空间。当数据传输效率得到改善,系统就有机会在不单纯依赖提高晶体管集成密度的情况下,获得更高的有效计算性能,这也是东方算芯强调成熟制程与3D近存计算相结合的重要原因。

先进制程能提升晶体管密度和能效,但同时也伴随着较高的研发、制造成本以及供应链要求。东方算芯另辟蹊径,在成熟制程条件下实现目标算力,将性能优化的重点进一步延伸到计算与存储之间的数据流动效率。

对国产AI芯片而言,这种从数据搬运效率入手的架构创新,为成熟制程条件下提升有效算力提供了新思路。

软件定义与全栈协同,让架构创新转化为应用能力

对AI训练芯片而言,硬件架构决定基础计算能力,编译器、算子库及训练框架等软件体系,则影响这些能力能否被实际模型高效调用。随着大模型架构不断演进,软件适配效率也成为影响AI芯片产业化的重要因素。

东方算芯的研发也并非从零起步。公司成立于2024年5月,总部位于上海张江,当前团队规模超过500人。其核心技术源于清华大学在可重构计算领域二十余年的研究积累。

2021年,相关团队已开展软件定义近存计算芯片研制,并验证技术路线的可行性。2023年,进一步探索高算力、高带宽服务器的产业化应用,为后续产品研发奠定了技术基础。

与此同时,东方算芯汇聚了具有芯片研发、AI软硬件架构及企业管理经验的核心团队。创始人魏少军同时也是清华大学集成电路学院长聘教授,长期深耕集成电路及可重构计算领域。其高管团队拥有知名企业芯片研发与AI软硬件架构设计经验,这些技术积累与团队背景,为东方算芯推进芯片、软件和集群协同研发提供了重要支撑。

东方算芯在研发DF1000时,采用了芯片设计、编译器与算子库开发、集群系统架构并行推进的方式。

与芯片完成流片后再逐步开展软件和集群适配的串行开发模式相比,这种协同研发方式能够让硬件设计与软件需求更早相互反馈,减少后续系统集成过程中可能出现的重复调整。

在软件层面,东方算芯围绕DF1000构建了覆盖编译器、算子优化、集群调度和大模型适配的技术体系,强调芯片、软件与集群之间的原生协同。

其软件定义技术路线,旨在通过统一的软件体系,提高不同AI模型的适配效率,并增强软硬件能力的协同性。

一个值得关注的案例是大模型适配速度——其团队在7天内完成了Step 130B大模型训练适配。模型适配通常涉及算子支持、计算图优化、运行时环境配置以及分布式训练等多个环节。如果能通过统一的软件技术栈复用已有开发成果,便有机会减少不同模型之间的重复适配工作,缩短从模型迁移到实际运行的周期。

24个月完成全链路落地,近存计算走向系统级验证

当然,架构创新与软件适配只是走向实际应用的基础。从单颗芯片到大规模训练集群还要解决系统集成、多卡通信、集群调度和工程交付等问题。 

东方算芯此次披露的大规模算力训练集群成果,正是其3D近存计算技术路线走向系统级应用的一次阶段性验证。

此外,DF1000加速卡已完成算力、显存带宽、通信带宽、功耗和温度等规格测试,11项BF16算子测试一次性通过,相当于芯片顺利通过了AI训练基础计算能力的阶段性考核,为后续大模型适配和集群训练奠定了基础。

在集群层面,东方算芯实现了128卡训练系统的稳定运行,并支持Llama2-70B、JYXC-130B等多个大模型训练任务。其测试结果显示,相关集群实现72小时连续训练无中断,训练精度达到既定要求,初步验证了系统在长时间训练任务下的运行稳定性。2026年底,东方算芯将推进千卡级训练集群交付。

这些成果的意义在于,将近存计算从单颗芯片的技术能力验证推进到了多卡协同的大模型训练场景。

从百卡到千卡级,2026年,对东方算芯而言,注定意义非凡——集群规模的扩大意味着更复杂的通信、调度和运维挑战。其后续交付及实际训练表现,也必然成为检验这条技术路线规模化能力的重要观察点。

最后

AI芯片的产业化竞争正在从单一硬件指标转向更加综合的系统能力。

东方算芯从DF1000芯片研发到百卡训练集群部署的实践,提供了一个观察国产AI芯片如何通过架构创新与全栈协同推进工程化落地的案例。

未来,随着千卡级集群交付及新一代产品研发推进,其技术路线还需要在更大规模训练任务中持续验证性能、能效、稳定性和成本优势,我们将持续保持关注!

本文来源于DOIT传媒,文章内容仅供参考,不构成投资建议。

赞 ()

相关推荐

发表回复

评论列表

点击查看更多

    联系我们

    微信:百易小助手

    邮件:contact@doit.com.cn

    工作时间:周一至周五,9:30-18:30,节假日休息

    微信