华中科技大学冯丹发布面向AI存内计算技术的最新探索

11月29日，2023中国数据与存储峰会主论坛上，新晋入选国际电气和电子工程师协会（IEEE）2024年Fellow名单的华中科技大学计算机学院院长冯丹带来题为“面向AI的存内计算技术探索”的主题演讲。

在演讲中，针对冯诺依曼存算分离架构设计中，因为存力、算力不均衡发展所导致的访存墙的问题，冯丹院长论述并介绍了PCM、RRAM、MRAM等新型非易失存储介质的特点，及其通过存算一体方式，破解访存墙问题的可行性。冯丹院长介绍了存算一体的原理及其与基于传统DRAM内存存内计算技术的对比。

冯丹院长指出：存算一体原理简单，但是在工程实践中，还有很多的难题需要解决，如单元阵列线电阻与寄生电容的RC延迟问题，IR drop效应，也就是电流通过电阻时产生的压降问题，这些问题需要借助模拟和仿真软件进行判断和研究，为此，华中科技大学做出了“ PIMTorch ” 存算一体仿真软件 。

该软件可以支持对架构设计方案的快速探索与验证，可以对“器件-阵列-架构”跨层次协同评估、优化进行支撑；支持快捷方便的存算一体架构设计与验证。在此，冯丹院长也分享了该软件用于阵列内磨损不均衡、C2C变化性下的训练、阵列单元有效电压等问题的仿真验证结果。

“我们的阵列级和算法级实验证明了所提出方法的准确性、性能和通用性。对于节点分析模型和自定义迭代模型，分别可实现232.9和63.2倍的加速比。我们设计的通用、稳健和高性能的模拟器能够供系统架构师在广阔的早期架构设计空间中快速探索最优设计方案。”她说。

在演讲中，冯丹院长详细论述了基于阵列分区的行列协同时序优化机制，以及IR drop的低开销分区补偿方法。新的机制可以有效提升存内计算系统性能，而新的方法则可以提升推理准确度，减少计算迭代次数。

冯丹院长表示：PIMTorch存算一体仿真软件可用于芯片设计，也可以结合电路特性做一些优化的办法，从而推动技术发展、普及和实用化，加速AI的现代化进程。

希望有更多的公司们能够关注到存算一体化的发展和进程！

未经允许不得转载：DOIT » 华中科技大学冯丹发布面向AI存内计算技术的最新探索