开源之风吹向存算一体芯片

作为继X86和ARM之后的新星，RISC-V的崛起可以说是一次乐成的手艺演进。RISC-V指令集作为CPU领域的开源指令集，极大的促进了CPU新型生态的形成。RISC-V的乐成充实展示了开源头脑在手艺创新和生态构建上的伟大气力。

近年来，存算一体芯片依附其革命性的架构，逐渐走入人们的视野，而且展示了伟大的潜力和远景。然则存算领域尚缺乏类似RISC-V这样的开放的指令集。尤其在海内环境下，开放的指令集为中国存算一体芯片的研发提供了自主可控的手艺路径，有助于削减对外部手艺和专利的依赖。

存算一体芯片目宿世长面临的挑战

存算一体芯片作为一种新型架构，可以有用解决传统冯·诺依曼架构在处置人工智能算法时性能和能效存在的访存瓶颈限制。尤其是基于交织阵列的存算一体手艺，通过在存储器中原位执行矩阵向量乘，行使存储单元的固有并行度大幅提升盘算性能，并消除部门访存，能够成百上千倍地提升深度神经网络推理的性能和能效。

近些年来，学术界在存算一体的各个方面都举行了大量探索，提出了众多存算一体加速器架构，中科院微电子所、清华大学、斯坦福大学等单元也制备出了存算一体芯片原型。海内也涌现出了一批存算一体初创企业，包罗知存科技、后摩智能、亿铸科技、苹芯科技等等，它们研发了基于SRAM、闪存、RRAM等存储器的存算一体芯片，且已有产物问世。

然而，当前存算一体芯片的生长还处于起步阶段，面临着诸多挑战，其中最主要一点即是生态与编程框架不完善，缺乏响应的指令集与软件工具。

一方面，各单元、公司开发的存算一体芯片均基于自行界说的编程接口，缺乏统一的编程接口，造成了存算一体软件生态的涣散，差异厂商开发的上层软件无法相互通用，极大的影响了存算一体芯片的大规模使用。

另一方面，除了高效的硬件设计，神经网络模子面向存算一体架构时，盘算义务若何映射、调剂，也是施展神经网络加速器性能和能效的要害。

总体而言，现阶段，行业内尚缺乏神经网络面向存算一体芯片的自动化部署方式和工具。

存算一体芯片有了开源指令集和编译器

我们注重到，在今年的集成电路EDA领域*集会IEEE/ACM Design Automation Conference(DAC)上，中国科学院盘算手艺研究所智能盘算机中央陈晓明和韩银和研究员团队揭晓论文，宣布了一项新的研究功效：PIMCOMP-NN存算一体通用编译器和PIMSIM-NN——存算一体通用模拟器，二者基于一套之前该团队开源的存算一体指令集，组成了完整的开源存算一体工具链，该项事情或将为存算一体芯片确立统一的生态做出一定的孝顺。

下面让我们来剖析下他们的这项研究。

该论文详细形貌了一整套面向神经网络的存算一体工具链，框架如图1所示。这套工具链的焦点由两部门组成：

编译器PIMCOMP-NN：编译器PIMCOMP-NN吸收ONNX花样的神经网络形貌和一组存算一体架构设置参数作为输入，通过编译优化天生指令序列。

模拟器PIMSIM-NN吸收编译器：模拟器PIMSIM-NN吸收编译器天生的指令序列和架构设置参数（与编译器所用相同）作为输入，通过行为级模拟，获得神经网络在存算一体架构上运行的性能、能耗和功耗。

该套工具基于统一的对软硬件抽象建模而开发，不针对详细的存算一体芯片，也不限制存算一体器件，因此可向上对接差其余神经网络算法，向下屏障存算一体芯片硬件细节。

图1 面向神经网络的存算一体工具链

该工具链确立在一套面向神经网络的存算一体指令集基础上。指令集作为芯片软硬件设计的接口，对于软件生态有着举足经重的作用，为了使工具链对多种多样的存算一体芯片的底层操作具有通用性，该课题组首先抽象了存算一体架构支持的基本算子，界说了一套统一的面向神经网络的存算一体指令集。

这些指令有四类，划分是矩阵指令（例如矩阵向量乘）、向量指令（例如向量加）、标量指令（主要是传统寄存器操作）和传输指令（主要是各级存储间的数据传输指令），其中每个指令对应硬件的一个抽象操作。面临详细存算一体芯片时，可通过转化程序利便地翻译到详细的硬件指令上。

触达1.5万亿红线，抖音向通达系寻求快递解法

触达1.5万亿红线，抖音向通达系寻求快递解法,抖音本身做不好重资产的物流，但它可以通过投资、合建以及收购等方式解决。

进一步来看，PIMCOMP-NN是一个面向存算阵列架构的神经网络通用编译框架，它确立在对硬件架构和算子的统一抽象基础之上。为实现对上层算法的通用性，PIMCOMP-NN接纳ONNX花样的神经网络形貌作为输入，因而可以处置多种多样的神经网络模子。为实现对硬件架构的通用性，PIMCOMP-NN确立在一个抽象的存算架构之上，如图2所示。该抽象架构由多个焦点组成，每个焦点包罗存算一体矩阵单元来完成矩阵-向量乘法运算和向量盘算单元来完成向量盘算。课题组界说了一组统一的参数来形貌该抽象架构。该架构可适配已有研究中普遍接纳的多条理Crossbar/PE/Tile/Chip结构，包罗揭晓在ISCA、ASPLOS、ISSCC等多个顶会上的多种存算一体加速器。

图2 抽象存算一体架构

PIMCOMP-NN实现了从神经网络结构形貌到指令流的自动化天生，并在编译历程中优化义务映射和调剂，其框架如图3所示。编译器前端将读取用户提供的抽象架构设置参数（阵列尺寸、焦点数目、芯片数目等），同时加载基于ONNX的神经网络模子，通过预处置获得神经网络模子的拓扑关系和参数信息。编译器后端包罗四个通用编译优化阶段：节点划分、权重复制、焦点映射和数据流调剂，这四个阶段均在所界说的伪指令集基础上实行。通过节点划分，天真地将权重数据举行拆分以顺应阵列尺寸。通过权重复制，充实行使存算阵列资源。通过焦点映射，高效分配盘算义务。通过数据流调剂，发生运行完整神经网络的指令流。此外，为了顺应差异应用场景，论文设计了两种具有差异层间流水线粒度的编译模式，划分具有高吞吐量和低延迟的特点，在编译历程中划分优化整体吞吐量和推理延迟。

图3 PIMCOMP-NN编译器框架

PIMSIM-NN是一个基于指令的存算一系一切模拟器，PIMSIM-NN的整体架构如图4所示，从上到下划分是芯片-焦点-基础模块-模拟引擎SystemC，整个芯片由多个焦点通过片上互连网络毗邻形成，焦点则由多个内部模块组成，焦点内部模块使用基础模块搭建，最终在SystemC的框架下运行。PIMSIM-NN吸收指令序列文件和架构设置文件作为输入。指令序列文件包罗每个焦点的指令序列，由编译器PIMCOMP-NN天生。架构设置文件则对存算一体架构的各项参数举行设置，使模拟器能够仿真差其余存算一体架构。焦点设计是PIMSIM-NN的重点，主要有4个处置单元，划分是矩阵单元、向量单元、传输单元和标量单元。矩阵单元的焦点是存算阵列单元，其会预先写入权重数据，在运行时原地执行矩阵-向量乘运算，阻止权重数据的搬运，降低延迟和功耗。向量单元则认真激活函数和池化等操作，完成一些非线性操作。传输模块则认真核间的数据交流，传输少量的中央效果，并认真核间同步操作。PIMSIM-NN接纳了事宜驱动仿真模子，基于开源的事宜驱动引擎SystemC编写，拥有优越的扩展性并能获得准确的仿真效果。PIMSIM-NN基于图5所示的抽象流水线架构举行仿真，各模块通过SystemC建模，在事宜驱动的引擎中，在仿真历程中高效地举行交互。

图4 PIMSIM-NN模拟器框架

图5 PIMSIM-NN的流水线架构

行使该套工具链，可实现深度神经网络在存算一体架构上的快速自动化部署，它不仅在部署历程中优化了义务映射和调剂，还对天生的指令序枚举行相关性能指标的评估。与此同时，该套工具链相较于之前的存算一体架构模拟器有了较大的改善。先前的模拟器大多接纳数据流架构，能够支持的网络结构牢靠，网络映射方式单一，而该工具链基于抽象的存算一体指令集架构，在编译器的支持下能够处置更多的网络结构，并支持更天真的盘算义务映射方式。编译器提供了多种预设的编译优化方案可供选择，同时也可以修改编译器代码实现其它编译优化方案，通过连系模拟效果的迭代反馈可进一步实现编译空间探索，寻找针对给定存算一体架构的*的编译优化战略，甚至是编译优化与架构设计连系的软硬件协同设计。

结语

中国科学院盘算手艺研究所智能盘算机中央所推出的完整开源存算一体工具链，可以说是存算一体领域的一项主要突破。这一工具链不仅增强了存算一体架构的定制化和天真性，还促进了深度神经网络在存算一体架构上的高效自动化部署。

随着开源理念在存算一体领域的拓展，将有助于行业确立统一的编程和接口尺度，从而使来自差异厂商和研究机构的产物实现互通。这一尺度化历程将有助于解决现在存算一体芯片领域的碎片化问题，提高生态系统的协同效率。进一步推动存算一体芯片更容易与人工智能、大数据、物联网等产业相连系，形成加倍厚实和庞大的应用场景。

参考资料

详细手艺细节可参考该团队揭晓在DAC2023上的论文， Xiaotian Sun, Xinyu Wang, Wanqian Li, Lei Wang, Yinhe Han, Xiaoming Chen, “PIMCOMP: A Universal Compilation Framework for Crossbar-based PIM DNN Accelerators”, in Design Automation Conference (DAC’23)。

其中，编译器开源地址：https://github.com/sunxt99/PIMCOMP-NN，

模拟器开源地址：https://github.com/wangxy-2000/pimsim-nn。

【本文由投资界互助同伴微信民众号：半导体行业考察授权宣布，本平台仅提供信息存储服务。】若有任何疑问，请联系（editor@zero2ipo.com.cn）投资界处置。