基于完全时间编码的多层脉冲神经网络研究

The high potential of brain-like computing in novel information processing technology and processors has attracted widely attention and support from governments and research community across the world. Spiking neural networks (SNN) are capable of emulating and demonstrating spike based computing the high efficient information processing and computing mechanism in spike based neural systems in the brain, and have become one of the main methodologies to investigate and devise non von Neumann computing system. Brain-like computing consists of two essential problems: neural information coding and temporal spike train learning. The current research still lacks of theories and algorithms to solve the two essential problems efficiently. On one hand, simply transforming the input information to spike trains, results in a large amount of redundant information, loss of key features, and eventually leads to the input information cannot be represented and learned efficiently. On the other hand, the research on single layer SNNs is not capable of solving complex spatio-temporal information. By making use of the latest results in neuroscience, this project will start from investing the fundamental theories of neural information coding and spike based computing, and will establish the optimal neural coding algorithm incorporating feature extraction, and learning algorithm for full temporal coding based multilayer SNN. The project is of significant importance to the progress of multilayer SNNs and brain-like computing theory and their applications.

类脑计算在新型信息处理技术和处理器方面的巨大应用前景，引起了各国政府和研究机构的大力关注和支持。脉冲神经网络（Spiking Neural Networks, SNN）能有效模拟并体现大脑脉冲神经系统的高效信息处理和计算机制，成为研究和探索非冯-诺依曼计算体系的主要途径之一。大脑信息处理有两大核心问题：神经信息编码和时序脉冲序列的学习。目前的研究依然缺乏有效解决这两大核心问题的理论和算法：一方面由于简单地将信息转换成脉冲序列，造成大量冗余信息、关键特征丢失，导致信息无法有效表达和学习；另一方面，停留在单层SNN的研究而无法处理复杂时空（spatio-temporal）信息。本项目依据神经科学最新研究成果，从研究神经编码和脉冲计算的基础理论出发，提出融合特征提取的神经信息编码优化方法，和基于完全时间编码的多层SNN学习算法。本项研究将对促进多层SNN以及类脑计算的理论发展和应用具有重要意义。

人工智能的广泛应用离不开算法和算力的支撑。当前我国人工智能发展亦面临一个历史性机遇：随着摩尔定律逐渐失效，传统冯•诺依曼计算机架构带来的计算局限也日益明显，下一代人工智能理论和算法有待突破。模拟大脑独特计算优势的类脑计算，是未来人工智能发展的重要趋势之一，是我国“十三五”科技创新规划和《新一代人工智能发展规划》重要内容。因此，开展以脉冲神经网络为核心的神经形态计算模型和算法研究具有重要研究价值；在应用方面，神经形态计算有助于我国信息产业占领领先优势，在人工智能芯片、智能机器人、边缘计算等关系到国民经济和国家安全的领域具有巨大的潜在应用价值。. 大脑信息处理有两大核心问题：神经信息编码和时序脉冲序列的学习。本项目致力于提出解决这两大核心问题的有效方法。项目依据神经科学最新研究成果，从研究神经编码和脉冲计算的基础理论出发，在特征提取和神经信息编码优化方法层面提出了方法简单，抗噪性强的编码模型；在深层脉冲神经网络学习层面，提出了新型有效的脉冲映射机制；同时项目还在类脑计算的应用层面进行了探索，将脉冲神经网络有效地应用在空间认知、计算机视觉、计算机听觉等层面。本项目在机器人、神经信息处理、神经形态计算、计算机听觉等方向共发表二十余篇论文，培养研究生二十余名，积极促进类脑计算研究和应用的发展。