过渡金属氧化物忆阻器的动态涨落特性及其对神经网络计算的影响研究

Employing memristive synaptic device and artificial neural network as the infrastructure is an important approach to develop neuromorphic intelligent chips, which is of great scientific significance in breaking through the Von Neumann bottleneck and realizing high-efficiency in-memory computing paradigm. However, the variability of the memristive synaptic device, especially the dynamic variability and its impacts on neural network computing will be the key problems in the future application of neural network computing. This project will start the research from the fundamental physical mechanism of the dynamic variability in the transition metal oxide based memristive synaptic device. A systematic characterization method of device dynamic variability will be established. The model of dynamic variability will be developed according to the interaction patterns of dynamic variability with both the device structures and the program parameters, based of which an interactive model of dynamic variability with the neural network will be created and be used to quantize the impact of dynamic variability on the neural network’s key performance indicators. Finally, through co-design and optimization from perspectives of the device, network topology, and algorithm, we will develop neural network topologies and algorithms with the ability to offset the dynamic variability. This systematic studies of the theoretical model, characterization methodology and neural network algorithm for memristor-based neural network computing will be a guideline for advancing the robustness design of the neural network computing with dynamic variability, and will also accelerate the application of memristor-based hardware implementation of neural network computing.

基于忆阻突触器件及人工神经网络构建神经网络智能芯片是发展新型人工智能技术的重要技术途径，对于突破冯·诺依曼瓶颈，实现存算一体的高效处理范式具有重要的科学意义。然而，忆阻突触器件的涨落特性，特别是动态涨落及其对神经网络计算的影响是未来应用中的关键性瓶颈问题。本项目在器件制备基础上展开研究，将从过渡金属氧化物忆阻突触器件动态涨落的物理机制出发，建立器件动态涨落的系统表征方法，掌握器件设计和操作参数与动态涨落的作用规律和行为模型；在此基础上建立动态涨落行为与神经网络交互模型，并量化动态涨落对神经网络关键性能的影响；通过器件、网络拓扑架构、算法多层面协同设计发展具有抗涨落特性的神经网络拓扑架构及算法。本项目率先围绕忆阻突触器件中的动态涨落在理论模型、实验表征和神经网络算法三个层面进行系统研究，将推动神经网络计算的抗涨落性优化设计，为基于忆阻突触器件构建神经网络计算智能芯片的实际应用奠定基础。

基于忆阻突触器件及人工神经网络构建神经网络智能芯片是发展新型人工智能技术的重要技术途径，对于突破冯·诺依曼瓶颈，实现存算一体的高效处理范式具有重要的科学意义。然而，忆阻突触器件的涨落特性，特别是动态涨落及其对神经网络计算的影响是未来应用中的关键性瓶颈问题。.本项目针对高能效架构中忆阻器件本征涨落和退化影响推理精度的问题，提出通过统计器件电流峰-峰值分布求取动态涨落关键参数的快速分析方法，并建立了反应不同条件下动态涨落统计特征的模型；基于实验对早期电阻波动进行了系统的表征与机理分析，建立了反应早期电阻波动动力学特征的蒙特卡洛和集约模型；基于物理图像和测试校准建立的上述模型支持嵌入到存内计算的系统级仿真平台，对有效评估器件涨落对存内计算推理精度的影响具有重要意义。.在所建立的模型的基础上，进行了器件-电路-算法协同的抗噪能力优化研究：在考虑动态涨落对神经网络识别精度影响的基础上，综合评估了在不同权值映射区间、权重单元设计、温度、算法等条件下系统的精度和功耗变化，进一步提出针对涨落的精度-功耗权衡策略；提出器件-算法协同优化方案，并通过实验验证该策略可以在较大涨落下实现不低于90%的推理精度，有利于在不增加额外功耗和硬件开销的前提下提高系统的识别精度。.本项目围绕忆阻突触器件中的动态涨落等不稳定现象，在理论模型、实验表征和神经网络算法三个层面进行了系统研究，推动了神经网络计算的抗涨落性优化设计，为基于忆阻突触器件构建神经网络计算智能芯片的实际应用奠定基础。