随着人工智能、物联网等新兴信息技术的发展,信息处理已由计算密集型向数据密集型转移,亟需具有非结构化数据处理能力的低延时、低能耗边缘计算系统,满足终端设备对未来海量非结构化数据处理能力的需求。受生物启发的脉冲神经网络(SNN)因其使用稀疏、异步的脉冲序列作为输入/输出,并以存内计算的方式处理信息而具有大规模并行和低能耗的特点。但要充分发挥SNN的优势,亟需在硬件方面开发出紧凑、低功耗、可训练的新型突触电子器件。
电解质栅控晶体管(EGT)是一种新型非易失性电子器件,具有满足上述需求的潜力(参见D. S. Shang, et al. Adv. Intell. Syst. 2020, 2, 2000156; D. S. Shang, et al. Adv. Func. Mater. 2018, 28, 1804170; D. S. Shang, et al. Adv. Mater. 2017, 29, 1700906)。在前期工作中,中科院微电子所微电子器件与集成技术重点实验室刘明院士团队的尚大山研究员等人,利用无机氧化物Nb2O5和Li掺杂SiO2作为沟道和栅电解质材料,实现了EGT的大面积阵列制备以及SNN功能演示(参见Y. Li, J. Lu, D. S. Shang, et al., Adv. Mater. 2020, 32, 200301)。但利用EGT构建SNN边缘计算系统还面临许多挑战。首先,由于 EGT 具有类似电池的结构和工作机制,沟道电导更新后会存在自放电现象,导致沟道电导退化,影响网络的识别精度。其次,原位脉冲时序依赖可塑性(In-situ STDP)是SNN中的重要学习规则,如何在EGT阵列中实现这种STDP学习规则是实现低功耗在线学习的关键。
针对上述问题,团队提出了一种One-Transistor-One-EGT(1T1E)结构作为突触单元。该结构不仅能有效缓解EGT的自放电现象(图1 a-b),优化阵列器件选通问题,还能结合CMOS神经元电路灵活、高效地实现STDP学习规则(图1 c-d)。根据突触单元的测试结果,团队进一步构建了一种基于时间编码的SNN。该网络具有联想记忆功能,能够实现对MNIST数据集中手写数字图像的学习和恢复(图1 e-f),并对EGT器件读写噪声、非线性调节等非理想特性展现出了良好的鲁棒性(图1 g-i)。由于采用了时间编码方式,并结合器件自身的低电流操作,这种基于1T1E突触单元的SNN在训练过程和推理过程中的核心峰值能效分别可达 2 pJ/SOP (Picojoule per synaptic operation)和 80 TOPs-1W-1 (Tera operations per second per watt),相比常规的基于忆阻突触器件和频率编码方式的SNN有了巨大提升。以上结果为构建低能耗的神经形态边缘计算系统提供了重要参考。
这一成果近期发表在《先进功能材料》期刊上(Advanced Functional Materials, DOI: 10.1002/adfm.202100042),微电子所博士研究生李悦、中国科学技术大学博士研究生宣自豪为文章的共同第一作者,微电子所尚大山研究员为该文章的通讯作者。
该成果得到了科技部、国家自然科学基金委、中科院和之江实验室的支持。
图1. (a) 1T1E突触单元结构示意图;(b) 1T1E突触单元保持特性;(c)基于1T1E和CMOS神经元电路的in-situ STDP学习规则实现方案;(d)器件沟道电导变化量 (ΔG)随前、后脉冲时间差(Δt)变化的关系图;(e)时间编码示意图,利用0-200 ms间的分立时间点编码图像中五种不同的灰度值;(f)对网络输入残缺并带有噪声的数字“1”图像,网络能够恢复出正确的图像;器件非理想特性(g)非线性 (h)写噪声和 (i)读噪声对网络恢复率的影响规律,器件特性实测结果也被标出。
论文信息:
https://onlinelibrary.wiley.com/doi/abs/10.1002/adfm.202100042
One Transistor One Electrolyte-Gated Transistor Based Spiking Neural Network for Power-Efficient Neuromorphic Computing System
Yue Li, Zihao Xuan, Jikai Lu, Zhongrui Wang, Xumeng Zhang, Zuheng Wu, Yongzhou Wang, Han Xu, Chunmeng Dou, Yi Kang, Qi Liu, Hangbing Lv, Dashan Shang*
Advanced Functional Materials, 2021, DOI: 10.1002/adfm.202100042
责编:Luffy Liu