研究背景
并行计算可以提供高能效和高速的数据处理，作为一种可以处理大量非结构化数据（如图像、文本、声音和视频）的未来技术，最近引起了相当大的关注。一种经过充分研究的并行计算技术是类脑神经形态计算，它基于硬件人工神经网络(HW-ANN)，由人工神经元和突触之间的大规模并行连接组成。与基于传统冯诺依曼架构的串行计算不同，由于人工突触同时处理和存储数据的独特能力，基于HW-ANN的并行计算可以有效地处理非结构化数据而不会出现瓶颈问题。近年来，为了实现HW-ANNs，已经报道了大量关于具有各种结构的人工突触的研究。早期对人工突触的研究主要集中在基于交叉阵列结构的两端非易失性存储器件上，例如电阻式随机存取存储器、导电桥式随机存取存储器和相变存储器。然而，两端突触器件在顶部和底部电极之间有一个导电路径，共享用于写入和读取突触权重。这使得在读取过程中难以维持突触权重，从而干扰精确的权重更新。最近提出了基于晶体管操作的三端人工突触，因为其结构特征能够实现非破坏性读取和并行访问以更新突触权重。更新后的权重水平长期稳定，并且在权重更新操作期间可以并行处理每个突触权重。尽管有这种技术进步，但这种三端器件在实现高器件密度方面的竞争力不如两端器件。最近，几个研究小组报道了一种以交叉阵列结构排列的垂直晶体管结构，有望提高突触器件的密度。
成果介绍
有鉴于此，近日，韩国成均馆大学Jin-Hong Park教授团队开发了一种垂直突触器件，通过离子凝胶层中移动离子依赖于电场的运动来远程控制权重更新。这种突触器件通过电学测量成功地展示了所有基本的突触特征，例如兴奋性/抑制性突触后电流(E/IPSC)、成对脉冲促进(PPF)和长时程增强/抑制(LTP/D)，并展示了具有竞争力的LTP/D特性，动态范围(Gmax/Gmin)为31.3，不对称性(AS)为8.56。LTP/D特性的稳定性也通过50次循环的重复测量得到验证，Gmax/Gmin和AS的相对标准偏差(RSD)分别计算为1.65%和0.25%。这些出色的突触特性使声学和情感信息模式的训练和推理任务的识别率达到≈99%。该研究有望成为实现未来高效节能和高速数据处理的并行计算网络的重要基础。文章以“Electrolyte-Gated Vertical Synapse Array based on Van Der Waals Heterostructure for Parallel Computing”为题发表在著名期刊Advanced Science上。
图文导读
图1. 基于石墨烯/WS2异质结的电解质栅控垂直突触阵列。（a）垂直突触阵列的示意图。（b）OM图像。（c&d）LTP/D权重更新机制的示意图和能带图。（e）垂直突触装置的电流-电压（Ipost-VWC和Ipost-Vpre）特性。（f）施加10和100个增强/抑制脉冲后20秒的E/IPSC响应。（g）垂直突触器件的PPF/PPD特性。（h）通过连续300个增强脉冲和300个抑制脉冲，垂直突触器件的LTP/D特性。
突触前末梢和突触后末梢之间存在的突触间隙传输突触前脉冲信号。通过释放神经递质将突触前神经元转化为突触后神经元，同时调节其间连接强度（称为“突触权重”）。为了实现这种突触功能，本文提出了一种由石墨烯/WS2异质结构和离子凝胶组成的垂直晶体管型人工突触。图1a显示了人工突触的示意图。WS2垂直沟道夹在底部Au漏极和顶部石墨烯源极之间，离子凝胶WCL覆盖整个石墨烯电极。WS2薄片通过精确的无残留干法转移技术形成在Au底部电极上，石墨烯顶部电极通过常规湿法转移和光刻工艺布置在WS2薄片上与底部电极相交。随后，通过旋涂和紫外光图案化形成离子凝胶WCL。主电流通过垂直沟道从底部流向顶部电极，其中离子凝胶中移动离子的运动引起沟道电导的长时程变化，导致突触权重的LTP和LTD。如图1b的OM图像所示，3×3的突触器件阵列制作精良，有源交叉点沟道区域为10×10 μm2（图1b）。LTP/D特性的详细机制如图1c和d中的示意图所示。当正VWC施加到权重控制(WC)端时，正离子移动到石墨烯源极，同时负离子被吸引到WC端。这种离子运动使石墨烯的费米能级上移，从而降低了从石墨烯源极到WS2沟道的注入势垒，从而增加了注入概率。因此，突触后电流(Ipost)和沟道电导(Gpost)增加（LTP现象）。另一方面，在负VWC脉冲下，正离子被推到WC端，负离子被吸到石墨烯源极。这会导致石墨烯的费米能级下降，从而导致Gpost降低（LTD现象）。
突触后电流-权重控制电压(Ipost-VWC)特性通过VWC的离子运动支持长时程可塑性的物理机制（图1e的上图）。当VWC从-10变为+10 V（第一次扫描，正向）时，Ipost保持其低电流状态并开始在≈0 V处增加。这可能是因为最初施加的大负VWC(-10 V)吸引了许多负离子到石墨烯源极。因此，Ipost可能会在很长一段时间内被限制在低状态，直到负离子从石墨烯中释放回来。另一方面，当VWC从+10 V降低到-10 V（第二次扫描，反向）时，Ipost保持其高电流状态到大约-5 V，此后开始降低。这是因为大的正VWC(+10 V)将许多正离子推向石墨烯区域，导致长时间处于高电导状态。突触后电流-突触前电压(Ipost-Vpre)特性也证实了电解质栅控垂直突触器件的工作机制（图1e的下图）。Ipost仅在施加正Vpre时才被VWC调制，这清楚地表明VWC的电解质栅控调制仅影响从石墨烯源极到WS2沟道的注入概率。
为了评估详细的突触特征，在向WC端施加10个和100个连续的VWC脉冲后监测Ipost的响应（图1f）。施加10个正VWC脉冲后，Ipost开始迅速下降，但并未恢复到初始值（ΔIpost>0），甚至在20 s后仍保持一定值。在施加100个正脉冲后也观察到这种行为，其中在20 s后保留了更大的Ipost。这表明垂直突触器件对正VWC脉冲数表现出EPSC响应。另一方面，当施加负VWC脉冲时，Ipost在20 s后保持不变，表明了IPSC响应。这种E/IPSC响应至关重要，因为它们根据VWC脉冲显示了电导的可控性。还研究了PPF/PPD特性，因为生物突触根据两个连续脉冲之间的时间间隔(Δt)做出响应（图1g）。然后，确认了LTP/D特征，这是重要的突触特征，强烈影响HW-ANN的系统级性能（图1h）。当对WC端连续施加300个增强脉冲和300个抑制脉冲时，Gpost几乎呈线性增加并完全降低到初始值。LTP/D特性曲线中显示的这种逐渐电导调制表明该器件具有最大(Gmax)和最小(Gmin)电导值之间的多级电导状态。
图2. 电解质栅控垂直突触器件中LTP/D特性的可控性。（a）不同脉冲频率（2、5和10 Hz）下的LTP/D特性曲线。（b&c）与脉冲频率相关的Gmax/Gmin、AS和NSeff值。（d）不同脉冲持续时间（10、30和50 ms）下的LTP/D特性曲线。（e&f）与脉冲持续时间相关的Gmax/Gmin、AS和NSeff值。（g）不同脉冲幅度（±0.1、±0.3、±0.5 V）下的LTP/D特性曲线。（h&i）与脉冲幅度相关的Gmax/Gmin、AS和NSeff值。
在决定LTP/D特性的各种因素中，已知Gmax/Gmin、AS和NSeff是直接影响HW-ANN系统性能的一些最重要因素。每个因素的期望值取决于HW-ANN的结构和算法，但众所周知，需要高Gmax/Gmin、低AS和大NSeff才能实现高性能神经网络。随着脉冲频率从2 Hz增加到10 Hz，Gmax从71.1 ns略微增加到75.8 ns，Gmin从66 ns略微减少到61 ns，如图2a和图2b所示。Gmax/Gmin从1.08到1.24几乎没有变化，低于实现高性能神经网络的所需值（Gmax/Gmin>10）。相比之下，随着脉冲频率增加，NLP和NLD都显著下降，导致AS从11.99下降到7.06。此外，由于线性和恒定动态范围的显著改善，LTP和LTD区域的NSeff分别从165增加到186和从170增加到183（图2c）。结果，总NSeff从335增加到369，表明可用电导状态与600个状态总数的比率从55.8%增加到61.5%。然后，通过施加具有10、30和50 ms各种脉冲持续时间的VWC来分析Gpost（图2d）。随着脉冲持续时间从10 ms增加到50 ms，Gmax/Gmin从1.24增加到2.85（图2e）。这可能是因为单个VWC脉冲传递的能量随着脉冲持续时间增加而增加。同时，AS不受脉冲持续时间变化的影响并保持在7附近。由于Gmax/Gmin的提高和AS值的恒定，总NSeff从369增加到486。特别是，在50 ms脉冲持续时间条件下，总电导状态的81.0%是可用的（图2f）。将脉冲频率和持续时间分别固定为10 Hz和50 ms，研究了脉冲幅度对Gpost响应的影响（图2g）。随着脉冲幅度从±0.1 V增加到±0.5 V，Gmax/Gmin从2.85显著增加到31.3，AS从7.52略微降低到8.56。这些值似乎足以在设计的HW-ANN中实现高训练精度。NSeff从486略微下降到455，但总电导状态的75.8%仍然可用。
图3. 电解质栅控垂直突触器件中电学性能的稳定性。（a）10/10~300/300不同增强/抑制脉冲数下垂直突触器件的LTP/D特性曲线。（b）不同增强/抑制脉冲数量提取的Gmax/Gmin和AS值。（c）垂直突触器件超过50个循环的LTP/D特性曲线，其中一个循环由300个增强脉冲和300个抑制脉冲组成。（d）第1个循环和第10至第50次每10个循环的LTP/D特性曲线。（e）50个LTP/D循环提取的Gmax/Gmin和AS值。（f）在两个不同连续脉冲集（“PPPDDD”和“PPDPDD”）下的状态稳定性和第1、25和50次循环中的Gpost图。
为了由电子突触器件组成的HW-ANN的可靠工作，还应确保突触性能对电应力的稳定性。图3a显示了两个周期内不同脉冲数的LTP/D特性曲线。所有LTP/D曲线形状相似，Gpost随着增强脉冲逐渐增加，并在抑制脉冲的作用下恢复到初始值。这表明无论脉冲数量如何，突触器件都可以保持其渐进的电导调制特性。Gmax/Gmin和AS值分别从1.33逐渐增加到30.62和从1.56增加到6.96，显示了动态范围和线性度与脉冲数之间的权衡关系（图3b）。为了专门研究器件的耐久性，监测了50个周期的LTP/D特性曲线。如图3c所示，突触器件呈现出针对电应力高度稳健的LTP/D特性，其中动态电导调制范围在整个测试周期内保持不变。然后绘制了第1次和第10次循环的LTP/D曲线（图3d），并确认6条LTP/D曲线在形状上彼此高度相似。为了定量评估耐久性，提取了每条LTP/D特征曲线的Gmax/Gmin和AS，并计算了六条曲线的RSD（图3e）。对于所有测试循环，Gmax和Gmin值均保持不变，因此Gmax/Gmin的RSD仅为1.65%。此外，即使经过50个循环，NLP和NLD仍保持不变，特别是AS的RSD极低，仅为0.25%。这一结果表明，突触器件在对抗电应力的动态特性方面是高度稳定的。此外，还研究了Gpost对两个不同连续脉冲集的响应（图3f）。每个电导状态的错误率只有0.005%、0.128%和0.025%，这表明突触器件具有高度稳定的电导状态，可以随时访问。
图4. 声学和情感模式的训练和推理任务。（a）附着在前额、眼睛、鼻子和脖子上的基于机械的声学和情感传感器的示意图。（b）提取的传感器信号由四个声学信号和四个情感信号组成。（c）声学和情感模式的训练和推理任务。（d）32×32成像，其中突触权重分布在0到1之间。（e）由输入神经元层、突触层和输出神经元层组成的单层人工神经网络。（f）声学和情感模式中错误分类模式的识别率和数量。
最后，设计了一种用于声学和情感信息翻译的新型感觉神经形态系统，该系统由用于检测声学和情感信号的碳纳米管(CNT)/石墨烯/SEBS传感器和用于解释图案数据的垂直突触器件阵列组成。然后，通过人工神经网络(ANN)模拟使用基于机械的语音和面部运动传感器获得的声学和情感模式，确认了垂直突触器件对系统的适用性。同时测量语音和面部运动信号，然后将信号转换为声学和情感模式。过程如下：i)将几个基于机械的声学和情感传感器连接到前额、眼睛、鼻子和颈部（图4a）并测量与语音和面部运动相关的信号（图4b），ii)采样语音和面部运动信号的幅度分量作为时间的函数，此外，通过傅立叶变换将时域信息变换到频域以获得信号的宽度分量，以及iii)将离散信号信息转换为具有32×32阵列大小的声学和情感成像（图4d）。然后，设计了一个由1024个输入神经元、16个输出神经元和1024×16个突触组成的单层ANN。按照单层人工神经网络的设计，对组合模式进行训练和推理任务（图4e）。将声学和情感信息模式的识别率绘制为训练时期的函数，如图4f所示，优化了LTP/D特性的突触器件帮助ANN达到了≈99%的最大识别率。这些结果表明突触器件可以用于实现并行计算网络。
总结与展望
本文使用WS2/石墨烯异质结和离子凝胶层实现了电解质栅控的垂直突触阵列。长时程可塑性是生物突触的重要特征之一，利用离子凝胶WCL内的离子运动，通过费米能级调制成功地模拟了这种可塑性。特别是，通过优化各种VWC脉冲条件下的LTP/D特性，实现了动态范围(Gmax/Gmin=31.3)和权重更新线性度(AS=8.56)。此外，该突触器件高度稳定，在由300个增强脉冲和300个抑制脉冲组成的30 000组VWC脉冲下，Gmax/Gmin和AS的RSD分别为1.65%和0.25%。最后，使用1024×16的单层ANN通过声学和情感模式的训练和推理任务验证了垂直突触阵列用于并行计算网络的可行性，并且使用优化的LTP/D特性实现了≈99%的最大识别率。垂直突触器件的研究及其在网络中的应用有望为未来并行计算网络的实现提供必要的基础信息。
文献信息
Electrolyte-Gated Vertical Synapse Array based on Van Der Waals Heterostructure for Parallel Computing
(Adv. Sci., 2021, DOI:10.1002/advs.202103808)
文献链接：
https://onlinelibrary.wiley.com/doi/10.1002/advs.202103808