基于忆阻器的大规模神经网络的类脑计算架构研究

Brain-inspired information processing is indispensible for breaking the performance bottleneck in the conventional computing systems, which is caused by the separation of the memory and computation, to build neuromorphic computing systems with high-level intelligences. Recently, the memristor is expected to mitigate the energy efficiency and the size gap between the neuromorphic systems built on the CMOS technology and the brain of the human beings. This project will proposes memristor devices and integrated technology, circuits for implementing neurons and synapses, and network architectures targeting large scale spiking neural networks. First, we will develop memristors, for simulating the neural synapses, and integrated technology of the memristor crossbars. Second, we will build mixed-signal circuit models and parameter optimization technology for neurons and synapses and design energy-efficient neuron circuits and synaptic connections between neurons. Third, self-learning based modeling method is used to optimize the neuron parameters and design energy efficient architecture for large scale spiking neural networks by integrating the memory and computation, and design three-dimension reconfigurable network architecture with scalability to optimize sub-regions depending on the intelligent applications.

借鉴脑神经网络处理方式，是突破传统计算系统存-算分离造成的性能瓶颈，发展高智能化仿脑计算系统的必由之路。最近，忆阻器（Memristor）的出现，有望突破基于传统CMOS技术的类脑神经网络系统在能效和规模上与人脑的差异，受到广泛关注。本项目拟面向大规模神经网络计算架构，从忆阻器件与工艺、神经元与突触电路、网络架构三个层面展开系统研究：研制适用于神经突触仿生的高性能忆阻器，开发高密度忆阻器阵列集成工艺；提出基于数模电路的神经元和突触模型及其参数优化方法，设计存算一体的高能效神经元运算电路和突触连接电路；提出自学习建模的方法，优化神经元参数，设计大规模神经网络的存算一体高能效架构及三维可重构扩展架构，实现不同智能应用的分区优化，并搭建类脑智能应用验证系统。本项目有望促进基于忆阻器的大规模神经网络类脑计算技术的发展，为构建人脑规模的并行信息处理系统奠定科学和技术基础。

基于忆阻器的神经形态计算技术为发展新型信息处理系统提供了变革性的技术路线，是当前信息领域的研究前沿与热点之一。本项目按计划面向基于忆阻器的大规模神经网络类脑计算架构的实现，从忆阻器及阵列集成、神经元与突触电路实现、神经网络算法与架构以及忆阻器基类脑系统四个方面重点开展了研究工作，取得的代表性成果包括：1）制备了高仿生的突触器件和高稳定性的神经元器件，并开发了突触器件的大规模阵列集成工艺，为忆阻器基神经形态系统的构建奠定器件基础；2）基于阈值转变神经元器件提出了多种紧凑神经元电路设计方法，初步构建忆阻器基类脑原型系统并验证其在智能识别任务中的应用潜力，为大规模芯片设计和实现提供理论指导；此外，构建了传入神经和多模态感知电路，拓展了神经元器件在感知计算领域的应用，为发展高智能机器人技术提供了新思路；3）提出新型深度脉冲神经网络训练算法以及基于忆阻交叉阵列的神经形态系统容错映射框架和三维布图规划设计框架，为实现大规模系统芯片的自动化设计提供了方法学基础；4）开发了基于忆阻器突触阵列和CMOS神经元的脉冲神经网络仿真器并设计实现多核心SoC芯片，验证了系统在手写体识别等智能任务上的先进性，为忆阻器基神经形态硬件的实现和应用奠定基础。基于上述的研究成果，本项目在Nature Communications、Advanced Materials、IEEE Electron Device Letters、IEEE Transactions on Computers、Science Bulletin等期刊上发表论文49篇；在IEDM、NeuIPS、AAAI等会议上发表论文18篇，申请发明专利19项，出版专著2本。在项目执行过程中，项目负责人获得了国家杰出青年科学基金资助，2019年度中科院青年科学家奖；2021年度华为“奥林帕斯”先锋奖（排序2）。