文章链接：
https://advanced.onlinelibrary.wiley.com/doi/full/10.1002/adma.202411237?saml_referrer
摘要
深度神经网络在持续学习中的局限性源于对生物神经回路复杂性的简化，通常忽视了记忆稳定性和学习可塑性之间的动态平衡。本研究介绍了一种增强了元可塑性的人工突触器件，采用石墨烯量子点（GQDs），它是一种更高阶的突触可塑性，能够像生物系统中那样促进记忆和学习过程的动态调节。这些基于GQDs的器件通过界面介导的非对称导电沟道的修改，复制了经典突触可塑性机制。这使得未来权重变化的可重复和线性编程调整与历史权重相关联。将元可塑性引入深度神经网络中对于实现泛化至关重要，这使得神经网络能够在保持已获得知识的同时更加流畅地适应新信息。基于GQDs的器件系统在第四个MNIST数据集任务上实现了97%的准确率，并且在先前任务上始终保持在94%以上的性能。这一表现验证了将元可塑性原理直接应用于深度神经网络的可行性，从而解决了灾难性遗忘问题。研究结果为开发具有强大且持续学习能力的类脑神经系统提供了有前景的硬件解决方案，能够有效地弥合人工神经网络和生物神经网络之间的差距。
研究背景和主要内容
深度神经网络在游戏、计算机视觉任务和自然语言处理等各个领域都表现出了令人瞩目的进步，并常常在某些领域超越人类的表现。然而，这些进步依赖于覆盖历史知识以获得新技能的前提——这种现象被称为灾难性遗忘。灾难性遗忘对许多神经网络架构构成了重大挑战，包括卷积神经网络 (CNN) 和循环神经网络 (RNN)。与此形成鲜明对比的是，生物大脑已经发展出终身持续学习的能力，这得益于促进获取新信息的可塑性和巩固先前知识的稳定性的机制。如何将人工神经网络的灾难性遗忘特性与生物系统的持续学习能力相协调，引入了突触可塑性-稳定性难题，这仍然是该领域的一个尚未解决的挑战。随着数据集和任务的规模和复杂性不断扩大，解决灾难性遗忘问题对于人工智能的发展至关重要。
突触可塑性是一种基本过程，使生物大脑能够通过经验不断学习和适应。元可塑性是指突触修饰的一种高阶形式，被称为可塑性的可塑性，它可以增强记忆保留，同时允许进一步的可塑性变化。开发模拟生物可塑性机制的人工突触对于神经形态计算的进步至关重要。在生物系统中观察到的突触可塑性的典型形式是脉冲时间依赖性可塑性 (STDP)，这已在人工突触中得到实验验证。此外，短期可塑性 (STP) 通过快速衰减暂时改变突触效能，而长期增强 (LTP) 会在重复刺激后引起持久变化。尽管已经探索了各种材料系统来实现可塑性行为，但只有少数材料系统实现了突触元可塑性，而这对于克服神经网络中的灾难性遗忘至关重要。最近，利用石墨烯晶体管通过超塑性实现连续可编程电导调制方面取得了进展。然而，材料转移技术与可扩展制造工艺之间现有的不兼容性对实现有效的神经网络硬件构成了重大障碍。为了克服这一挑战，需要探索创新材料和设备架构，以促进能够直接与超塑性集成的可扩展和可重构神经网络硬件的开发。
在本研究中，我们介绍了一种由 GQD 和氧化铁 (FeOx ) 构成的新型双端元生电阻式记忆装置。该装置旨在促进可扩展神经网络硬件的开发，该硬件专为持续学习应用而设计。GQD 辅助配置能够通过界面介导改变不对称传导通路，以实现可塑性和电导调节。这种增强功能丰富了人工神经网络中的突触操作。通过采用各种脉冲幅度编程技术，这些 GQD 辅助突触器件表现出持续学习能力，与生物海马中观察到的记忆和学习的动态调节相似。为了评估基于 GQD 的系统在解决灾难性遗忘问题方面的有效性，我们利用已建立的神经网络架构在四个不同的 MNIST 数据集上进行持续识别学习。值得注意的是，该系统在第四个任务上的准确率达到了 97%，同时在前面的任务上始终保持 94% 以上的性能水平。这一结果凸显了该方法作为解决灾难性遗忘相关挑战的强大解决方案的潜力。通过利用 GQDs 辅助突触装置，我们构建了一个自适应神经网络，该网络能够通过调节元可塑性权重来响应动态环境，从而实现稳定性和持续学习。
可以借鉴这个文章种两端突触器件的器件结构（电极和沟道材料）的设计思路
图1 a) 交叉存储阵列和忆阻器结构示意图。b) i) 器件的横截面 HR-TEM 图像、ii) 放大的 FeOx区域、iii) 相应的 GQDs HR-TEM 图像和 iv) 相应的 GQDs 快速傅里叶变换散射模式 (FFT) 图像。c) GQDs 的拉曼光谱。d) 10 次连续正扫描（0 到 1 V）和 10 次连续负扫描（0 到 −1 V）下的模拟电流-电压 ( I-V ) 曲线，GQDs 浓度：1.8 mg mL−1。e ) 不同 GQDs 浓度下不对称比率和开关电压的曲线。
图2 a) 生物突触（右）和人工突触（左）的示意图。突触权重是不同脉冲幅度和宽度的增强脉冲数量的函数曲线。d) GQDs 辅助设备的兴奋性突触后电流 (EPSC) 特性，由突触前尖峰 (−1.2 V, 0.6 ms) 表示。e) GQDs 辅助设备中的 STDP 演示。f) 两个增强过程后显示出可塑性。初始电导，G 0 = 10.5 nS。
图3 a）化生促进长期增强作用和化生抑制长期增强作用。b）生物化生曲线。纵轴：权重校正量φ；横轴：输入刺激产生LTP所需的突触后放电阈值水平（θ）。黑线（θM ）作为对照。c）传导通路（CP）的TEM图像。d）与CP相交的线AB处的Fe、O和Pt的EDX分布。e）i）SET和ii）RESET过程的能带示意图。f）图1c中GQDs辅助突触装置 I-V曲线的部分拟合结果SET：ln(I/V)对V 1/2 。g） FeOx中势能阱的分布。
文章元塑性突触核心功能实现与设计
图4 a）海马区神经回路。超可塑性调节突触群的连接强度，实现记忆稳定性和学习可塑性的平衡。基于超可塑性对电导进行多重调节。以15个负脉冲/15个正脉冲进行10个周期的电导编程。测试脉冲条件：脉冲宽度0.6 ms，负脉冲-1.2 V，正脉冲b）+1.2 V；c）+1.6 V；d）+2.0 V。e）10个周期对应电导变化：（
