摘要
近日，我院博士生王继鹏、硕士生彭子旋在我院集成电路工程系王超研究员的指导下，在类脑计算计算芯片研究领域取得重要进展，设计了一款高精度、高能效的脉冲神经元电路。该项研究提出了仿生脉冲神经元电路的高效误差补偿和抑制方法，打破了国际学术界仿生脉冲物神经元电路设计的精度记录，并大幅度提高了神经元膜电位更新的能量效率。相关成果发表在影响因子为5.23的国际生物医学电路与系统顶级期刊IEEE Transactions on Biomedical Circuits and Systems（IEEE TBioCAS）上，论文题目为“ A High-Accuracy and Energy-Efficient CORDIC based Izhikevich Neuron with Error Suppression and Compensation”。我校为论文第一和通讯作者单位，王超老师为论文通讯作者，合作者包括我院余国义老师和南洋理工大学张坤翔研究员。这也是我院第一次由博士生以第一作者身份在IEEE TBioCAS上发表学术论文。
背景
近年来，类脑计算/神经形态计算技术的不断发展，不仅促进了众多能量受限边缘计算应用场景的芯片研发，而且也在帮助人们探索大脑奥秘，为神经修复提供了非常有效的解决方案。脑机接口（BMI）作为恢复受损的听觉、视觉和肢体运动能力的关键技术，其主要研究内容是模拟和实现大脑不同寻常的皮层可塑性，这就需要对神经信号如何在大脑皮层上进行传递及处理等现象有着很深入的理解。神经元是生物神经系统的核心基本单元，能够感知环境的变化，将信息传递给其他的神经元，并指令集体做出反应。其神经信号传递的本质是膜电位脉冲，这可被理解为细胞编码的时间离散式脉冲信号，类似于计算机中的数字信号0 和1。
为了模拟生物神经元的脉冲特性，神经科学家们已经提出了数种具有不同抽象级别的仿生物神经元模型。Hodgkin-Huxley（H-H）神经元模型是一种生物学上似是而非的神经模型，需要复杂的计算，因此不适合高效的硬件实现。Leaky Integrated and Fire（LIF）神经元模型则是在Integrated and Fire（IF）神经元模型基础上，将输入电流的线性滤波与严格的电压阈值相结合，作为一种简单的脉冲神经元模型被广泛应用，但它在反映真实生物神经元特性方面存在明显的局限性。与上述两种模型相比，Izhikevich 神经元模型不仅能模拟大脑所产生诸多丰富的神经元脉冲发放模式，而且所需的计算量也比HH模型少得多，非常适用于类脑计算硬件的设计和实现。
图1(a) 生物神经元；以及Izhikevich神经元的主要脉冲发放波形：(b) tonic spiking；(c) tonic bursting；(d) phasic spiking；(e) phasic bursting。
现状及挑战
国内外已有多个Izhikevich神经元电路实现相关的研究工作，例如基于乘法器的实现方法、异步顺序逻辑电路实现方法、分段线性方法逼近实现方法、幂函数拟合方法逼近实现方法、以及用查找表实现方法。值得注意的是，基于传统CORDIC(坐标旋转数字计算机)的Izhikevich神经元硬件实现方法与其他方法相比，具有硬件资源开销小、时钟频率高等优点。传统的CORDIC工作在线性系统，通过简单的移位操作和加法运算，经过多次迭代来近似计算Izhikevich神经元中的平方等函数。与基于乘法器的实现方法相比，基于传统CORDIC的实习方法硬件开销更小、能耗更低。
王超研究员课题组通过研究发现：传统CORDIC在计算平方的过程中会产生冗余迭代，导致迭代过程中出现累积误差，导致仿生神经元电路的精度下降；冗余迭代也增加了不必要的操作时间和处理延迟，并且浪费了能量；更严重的是，虽然基于传统CORDIC的Izhikevich神经元电路模拟出的前几次发放脉冲波形与理论波形匹配良好，但由于误差的累积和传播，经过多次脉冲发放后，会发生严重的波形失真和脉冲时间误差。此外，类脑芯片往往由数以百万计个神经元组成，而整个芯片的面积和功耗非常受限，单个神经元电路的资源开销和能量消耗都不宜过大。因此，如何在不额外增加硬件资源和能量消耗等性能参数的情况下尽可能地提高神经元电路的精度，取得精度-面积-能效之间的优化设计，是亟需解决的关键问题。
(a) (b)
图2基于线性系统下传统CORDIC的平方计算：(a) 迭代过程；(b) 仿真波形与平方函数对比图。
解决方案
针对上述问题，王超研究员课题组提出了一种基于快速收敛CORDIC (FC-CORDIC)的高精度、高能效Izhikevich神经元设计方法学。通过将快速收敛策略推广到计算平方函数的线性系统CORDIC中，减少了冗余迭代和不必要计算，从而减少了累积误差和能量消耗。建立了神经元计算的误差传播模型，对主要误差进行分类、来源和精度影响的系统分析，创新地提出了参数调整误差补偿法和位宽扩展误差抑制法，有效减小了Izhikevich神经元电路的误差，打破了Izhikevich神经元电路设计的精度记录。
图3高精度Izhikevich神经元设计方法学与评估流程：将恢复系数变化范围的1%作为判断恢复系数误差是否偏大的经验阈值。
图4Izhikevich神经元的误差传播模型，分析了Izhikevich神经元的主要误差来源以及误差对Izhikevich神经元精度的影响。
图5 不同参数调整误差补偿方法下的phasic bursting发放脉冲波形来展示一个两阶段的分段参数调整过程：(a) 膜电位v；(b) 恢复系数u。注意，在(i)和(ii)段分段参数调整后，a和d的参数保持不变。
设计实现
王超研究员课题组所提基于FC-CORDIC的Izhikevich神经元已在ZYNQ-7000 ZedBoard FPGA评估板(xc7z020clg484)中实现。通过选择基于传统CORDIC的Izhikevich神经元设计作为基准来进行神经元电路性能评估。为了验证所提出的高精度、高能效Izhikevich神经元设计，实现了8种典型的脉冲波形图，其输入激励具有不同的特性。得益于FC-CORDIC、以及所提的误差补偿和抑制方法，与重新复现的目前最先进的神经元电路工作相比，所提高精度、高能效Izhikevich神经元电路将ERRT误差降低了93.0%，将NRMSD误差降低了75.8%，将计算延迟降低了41.4%，将处理能效提高了41.9%，并具有最佳的归一化FoM指标。
(a) (b)
图6 硬件架构图：(a) 优化的基于定点FC-CORDIC的平方计算电路；(b)基于FC-CORDIC的Izhikevich神经元电路。
图7所提高精度、高能效Izhikevich神经元电路与国内外相关工作的总体比较：该设计取得了国际仿生脉冲物神经元电路设计中最高精度的学术记录，并大幅度提高了神经元膜电位更新的能量效率。
图8所提高精度、高能效Izhikevich神经元电路在Xilinx ZYNQ-7000 FPGA评估板上实现的测量结果，使用数模转换器将数字膜电位转换为模拟电压在示波器上进行显示8种高精度脉冲发放波形：(a) Tonic Spiking；(b) PhasicSpiking；(c) Tonic Bursting；(d) PhasicBursting；(e)Class 2 excitable；(f)Subthreshold Oscillations；(g) DAP；(h)Inhibition-Induced Spiking。
图9基于高精度Izhikevich脉冲神经元的可重构类脑网络处理单元65 nm工艺实现版图
研究成果
自2019年回国后，王超研究员所组建的低功耗与智能集成电路研究室团队，将类脑神经科学与集成电路芯片技术相结合，开拓了新型类脑芯片关键技术研究的交叉学科新方向，和清华大学、中科院微电子、南洋理工大学等国内外一流团队合作，取得了一系列的重要研究进展，初步解决了类脑芯片精度不高、资源开销大、可靠性不好等关键难题。其研究成果在TBioCAS、TCAS-I、NEWCAS、ICTA等国际核心期刊和知名会议上发表类脑计算芯片相关的学术论文4篇。该领域的研究工作得到了国家自然科学基金类脑神经网络芯片项目（61974053）和自主创新研究基金科研启动项目（2019kfyXJJS049）的资助。
主要论文成果：
[1] J. Wang, Z. Peng, Y. Li, Y. Zhan, G. Yu, K. Chong, andC. Wang*, “A High-Accuracy and Energy-Efficient CORDIC based Izhikevich Neuron with Error Suppression and Compensation,” inIEEE Trans. on Biomedical Circuits and Systems (TBioCAS), early access, 2022. (SCI索引，影响因子5.23，JCR分区Q1) Print ISSN: 1932-4545; Online ISSN: 1940-9990; https://ieeexplore.ieee.org/document/9830060
[2] J. Wu, Y. Zhan, Z. Peng, X. Ji, G. Yu, R. Zhao andC. Wang*, “Efficient Design of Spiking Neural Network with STDP Learning Based on Fast CORDIC,” inIEEE Trans. on Circuits and Systems-I Regular Papers (TCAS-I), vol. 68, no. 6, pp. 2522-2534, June 2021. (SCI索引，影响因子4.14, JCR分区Q1) Print ISSN: 1549-8328;Online ISSN: 1558-0806;https://ieeexplore.ieee.org/document/9366935
[3] Z. Peng, J. Wang, Y. Zhan, R. Min, J. Luo, G. Yu, K. Chong, andC. Wang*, “A High-Accuracy and Energy-Efficient CORDIC Based Izhikevich Neuron,” inProc. of 19th IEEE Interregional NEWCAS Conference (NEWCAS 2021), June 13-16, 2021. https://ieeexplore.ieee.org/document/9462786
[4] Y. Li, G. Hong, Z. Peng, J. Wang, J. Xu, G. Yu, C. Huang, andC. Wang*, “An Energy-efficient Adaptive Exponential Integrate and Fire Neuron based on Novel Area-Efficient Fast CORDIC for Spiking Neural Networks,” inProc. of IEEE International Conference on Integrated Circuits, Technologies and Applications (ICTA 2021), Nov.24-26, 2021.https://ieeexplore.ieee.org/document/9661975
