近年来,智能物联网(AIoT)的广泛应用使得低功耗智能边缘计算设备(intelligentedge-devices)的需求逐年增加。这种需求引起了学术界对存内计算(Computing-in-Memory,简称CIM)创新研究的广泛关注,旨在减少存储模块和逻辑计算模块间数据搬移造成的时间和能量损耗。
忆阻器(memristor)作为一种新颖的存储器技术,具有非易失性、快速切换和低操作能耗等优异特性,成为面向新型人工智能的存内计算系统的候选之一。基于状态实质蕴含逻辑(stateful IMPLY logic)的忆阻存内逻辑(memristiveLogic-in-Memroy,简称memristive LIM)方案则适用于低功耗智能边缘设备,进行简单逻辑运算、信号处理及基于轻量级(Lightweight)神经网络模型的分类任务。然而,作为一种新型的存内计算器件技术,忆阻器还面临着在其操作过程中存在的随机偏差(random variability)、阻态漂移(statedrift)和老化引起的阈值电压退化(Aging-induced degradation of memristors threshold voltage)等诸多非理想性问题,特别地对基于忆阻器的存内计算可靠性带来了巨大挑战。
图1 (a) 基于忆阻器的存内计算系统图; (b) 具有内置错误监控模块的存内逻辑子模块,包括1T1R阵列、灵敏放大器(SA)、局部控制器等。
在先前的工作中,因为忆阻器非理想问题会严重影响忆阻器IMPLY操作结果的准确性,研究人员已经对忆阻器随机偏差和阻态漂移问题进行了系统性阐述和分析,并分别提出了操作电压约束条件设计(即保护带设计)以及Smart IMPLY电路结构。但学术界仍缺少对于忆阻器阈值电压由于频繁擦写致使的持续漂移对逻辑操作造成的可靠性问题分析;同时,使用传统的编程-验证(Program-Verify)方法对阵列中忆阻器阈值电压进行检测不可避免地需要中断存内计算系统的工作状态,引入额外的检测模式对忆阻器阵列进行检测,严重地影响系统的工作效率。因此,研究忆阻器阈值电压漂移问题并设计相应的原位监测/校正方案,以提高IMPLY逻辑存内计算系统的可靠性和检测效率,有潜力进一步推动忆阻器存内计算的广泛应用。
本研究工作为了填补这一学术领域的空缺,对IMPLY逻辑操作中由于阈值电压漂移所造成的误操作问题进行了系统性分析,总结了由传统保护带方案无法避免的两类误操作,并针对性地提出了一种原位监测方案,用于检测和区分这两类误操作,根据阈值电压漂移方向动态调整操作电压(图1)适应忆阻器的老化过程,延长存内计算系统的工作寿命。所提监测模块可以在两种工作模式下分别对IMPLY逻辑存内计算系统中的两类核心逻辑操作,即IMPLY操作和FALSE操作实现实时原位监测。图2展示了文中提出的原位错误监测电路,包括自适应脉冲发生器,错误检测电路以及监测控制模块。
图2所提误操作监测模块在1T1R忆阻器阵列中的实现方案原理图
本工作所提出的存内计算系统的原位监测方案具有不中断系统逻辑操作和快速误操作检测/区分的优点,仅引入一个额外的输入模式识别步骤(针对IMPLY操作)便可以完成对 IMPLY 和 FALSE基本逻辑操作的误操作检测,检测准确率达到99.95%,相比于传统编程-验证方法有效提高了检测效率。为了验证所提提出的方案在更多实际应用中的可行性和有效性,本工作针对4位IMPLY逻辑加法器的错误监控方案设计进行了案例分析。此外,本工作还进一步在基于IMPLY逻辑存内计算系统的VGG-11二值神经网络(BNN)应用中对所提出的错误监控进行了进一步分析。分析结果表明,与传统的编程-验证方案相比,所提出的原位监测方案在加法器应用中的检测速度提高了75.2%。 对基于VGG-11的二值神经网络中使用所提出的监测方案也可以实现了74%的检测速度提高,这表明所提出的原位误操作监测方案是一种有效的解决方案以提高基于IMPLY的忆阻CIM系统的可靠性。所提出的原位监测方案也可通过修改普遍适用于面向内计算系统的忆阻器阵列阈值电压检测和片上修调中。
图3本工作中对基于VGG-11的二值神经网络中的一个计算密集过程层的卷积操作进行了统计分析,初步设计动态误操作监测方案,用于评估所提方案的性能优势
该工作作为本课题组在存内计算研究领域的一项初步研究成果,近期以In-Situ Aging-aware Error Monitoring Scheme for IMPLY-based Memristive Computing-in-Memory Systems [1]为题被国际电路与系统领域顶级期刊IEEE Transactions on Circuits and Systems I: Regular Papers(TCAS-I)接收。该工作第一作者为2021级博士生许家瑞,由本团队王超老师、余国义老师合作指导完成。新加坡科技研究院(A*STAR)的蒋文宇研究员、清华大学的赵蓉教授以及纪兴龙博士对该工作提供了宝贵的意见。目前该成果得到了华为海思研发团队的认可,与王超老师团队一起洽谈有关合作项目,探索存内计算路线的实际应用,推动产学研融合发展形成创新合力。该研究获得了国家自然科学基金类脑脉冲神经网络芯片项目(61974053),新加坡政府研究创新计划(A1687b0033)及中央高校基本科研基金(2019KFYXJJS049)的资助。
[1]J. Xuet.al,In-Situ Aging-aware Error Monitoring Scheme for IMPLY-based Memristive Computing-in-Memory Systems,” inIEEE Trans. on Circuits and Systems I: Regular Papers(TCAS-I), 2021.