基于概率图模型的脉冲神经网络推理与学习机理研究

How to implement inference and learning with spiking neural networks is one of the forefront research challenges in the field of brain-inspired computation. This project focuses on the problems of being small-scale, task-specific and separation of inference and learning. Based on the framework of probabilistic graphical models and the ideas of variational approximation and sampling, we will study on spiking neural networks from probabilistic inference, network learning and unified computational framework. The research contents are as follows: study on the inference mechanism of spiking neural networks based on variational free energy, implement high-performance inference of large-scale spiking neural networks, propose learning theory of spiking neural networks based on stochastic sampling, implement parameter and structure learning with limited data, design a unified computational framework of inference and learning. The achievements of this project will not only reveal the inference and learning mechanism of spiking neural networks, but also implement unified computation of inference and learning.

脉冲神经网络如何实现推理与学习是类脑计算前沿研究的热点和难点问题。本项目针对目前研究中存在的小规模、任务单一和推理学习分离等问题，提出以概率图模型为基本框架，以变分近似和采样为核心思想，从脉冲神经网络的概率推理、网络学习与统一计算框架三个方面展开研究并构建完整的计算理论。研究内容包括：研究基于变分自由能的脉冲神经网络概率推理机制，实现大规模网络的高性能推理；探索基于随机采样的网络学习机理，实现有限数据下的网络参数与结构学习；建立大规模脉冲神经网络统一计算框架。研究成果有望揭示脉冲神经网络推理学习的计算机理，实现推理与学习的统一计算。

脉冲神经网络如何实现推理与学习是类脑计算前沿研究的热点和难点问题。本项目针对目前研究中存在的小规模、任务单一和推理学习分离等问题，提出以概率图模型为基本框架，以变分近似和采样为核心思想，从脉冲神经网络的概率推理、网络学习与统一计算框架三个方面展开研究并构建完整的计算理论。研究成果包括证明了循环脉冲神经网络的动力学方程与二值马尔可夫随机场推理方程的等价性。提出了一个通用的神经电路模型并称为采样树模型，该模型利用大量神经元进行并行采样从而实现了快速推理。提出了基于突触可塑性的脉冲神经网络学习框架，该框架不仅可以加速脉冲神经网络的学习，而且也解释了脉冲神经网络如何不断的重新布线。提出了基于赢者通吃电路的脉冲神经网络统一计算框架，可以同时实现马尔可夫随机场的推理与学习。该项目目前发表或录用 SCI 期刊论文 9 篇，EI 会议论文 1 篇，申请 3 项脉冲神经网络相关的国家发明专利。