脉冲编码机制通用神经元学习算法研究

As inspired by the way of information processing in the brain, neuromorphic computing has been attracting tremendous attention in recent years. The brain uses electrical pulses (also called spikes) for information processing and transmission, but how neurons learn these spikes still remains unclear. Most proposed learning algorithms are based on a sole spike coding scheme, and cannot be applied to others. In addition, it is still urgent to develop efficient learning algorithms for neuromorphic computing. This project will take inspirations from biological processes of neurons, and use analytical and numerical modelling techniques to study spike-based neuronal learning algorithms. We will develop learning rules being applicable to different coding schemes, and analyze their learning properties and applicability. In addition, we will optimize the proposed learning algorithms for better implementations on neuromorphic chips. This project is significantly important for both theoretical developments and practical applications of neuromorphic computing. It will be helpful for a better understanding of information processing principles in central nervous systems; it will provide efficient algorithms for low-power implementations on neuromorphic chips; it will also provide a new tool to analyze and process spike data.

受脑信息处理方式所启发的类脑计算近年来正受到越来越多的关注。人脑中的信息处理与传递是以电脉冲的形式进行的，但是神经元如何有效地学习这些脉冲信息还并不是很清楚。大部分神经元学习算法的提出都是建立在单一的脉冲编码机制的基础上，其往往并不适用于其它的编码机制。此外，对高效的类脑学习算法的研究也有待进一步开展。本项目将参考生物神经元的生理特性、结合数学建模及计算机解析技术，对神经元的学习算法进行深入研究，提出不依赖于特定编码机制的学习算法、并对其学习特性及应用性进行研究分析。此外，本项目将对所提出的算法进行优化改进，使其能够更好地适合于类脑芯片实现。本项目的研究将对类脑计算的前沿基础理论发展和应用都有重要意义。其将有助于更好地理解人脑神经系统中脉冲信息处理的机制；为低能耗的类脑芯片提供高效的应用算法；为解析及处理神经元脉冲数据提供新的工具。

人脑中的信息处理与传递是以脉冲的形式进行的，这种方式被认为是人脑高效能的原因，但是神经元如何有效地学习脉冲信息还不是很清楚。大部分神经元学习算法的提出都是建立在单一的脉冲编码机制基础上，大都不适用于其他编码机制。同时，对高效的类脑学习算法的研究也有待进一步开展。因此，本项目主要聚焦于神经元高效计算模型、神经元多脉冲学习算法以及基于脉冲神经网络的应用系统探索等三个方面展开研究。原定任务目标全部圆满完成。（1）在神经元计算处理方面，本项目参考生物神经元的生理特性、结合数学建模及计算机解析技术，提出了三种基于脉冲驱动的神经元信息处理高效算法，包括基于双指数核、单指数核以及增广脉冲架构的LIF神经元仿真计算算法。算法计算效率得到了有效提升。（2）在神经元学习算法方面，本项目提出了阈值驱动的高效神经元学习算法。该算法通过神经元阈值和神经元脉冲输出个数的关系，结合一种阈值跨越的线性假设来计算误差导数，从而对突触权重进行有效调控，使得神经元能够针对特定输入发放相应数量的脉冲。该算法能够有效适用于包括基于频率和时间的多种脉冲编码，计算性能较基准提升10倍以上。同时，本项目首次给出了多脉冲学习算法收敛性和鲁棒性的理论证明。以此算法为基础，本项目还提出了多种改进的多脉冲学习算法。（3）在系统应用层面，本项目融合了所提出的多脉冲学习算法，构建了脉冲神经网络架构，充分利用了脉冲神经网络的优势，对整个时间域上的信息进行整合及处理，采用多脉冲发放的策略，根据神经元产生脉冲的个数实现识别认知任务。在复杂环境声音及图像识别任务中，本项目的算法体现出了出色的准确率、鲁棒性、高效性等性能优势。本项目的研究将对类脑计算的前沿基础理论发展和应用都有重要意义。其将有助于更好地理解人脑神经系统中脉冲信息处理的机制；为低能耗的类脑芯片提供高效的应用算法；为解析及处理神经元脉冲数据提供新的工具。