基于分层超完备字典稀疏表示的深度学习算法研究及应用

There has been significant recent interest in multi-layered or "deep" models for representation of general data,while overcomplete dictionary provides an opportunity to explore the massive data with the redundant collections to fit the data of interest, while simultaneously encouraging a sparse representation. Consequently, our project aims to give a detailed analysis about deep learning net based on overcomplete dictionary sparse representations using the following four key techniques: 1. based on wavelet and adaptive dictionary, we use Bayesian nonparametric models to automatically determine the model and learn the parameters according to the data in each layer, and then give a detailed anaysis for each multilayered network; 2. we will consider two different data decompostitions (linear combination and convolution) to build deep networks and propose different architectures for different networks; 3.within each layer, we will propose a way to incoporate the label information to improve the learned sparse representations for the classification task with the limited number of training samples; 4. finally, we would like to apply the proposed networks to radar automatic target recognition (RATR) and give a systmetic comparison of them and the existing deep learning models. This project is involved with the three promising machine learning techniques, Bayesian nonparametrics, overcomplete dictionary learning and deep learning, which is very important and foundamental for the future related research fields.

)：深度学习网络模型，在多个领域已获得较大的成功，受到人们显著关注。超完备字典表示方法可以挖掘数据内容并稀疏表示数据，因此，本项目将研究基于字典表示算法的深度学习网络，针对单层字典的设计、基于任务的稀疏表示、如何构造多层网络以及如何在目标识别领域的应用等问题开展研究，具体为以下4 项关键技术：1、在每一层基于小波和自适应字典学习两类模型，利用贝叶斯非参数自适应地进行模型选择和参数学习，并研究对应的多层网络的性能；2、研究基于不同数据表示形式（线性混合和卷积）的深度学习网络的框架模型；3、针对目标识别问题，解决如何在有限样本下利用类别信息构建基于任务的多层网络;4、将所提算法应用于雷达目标识别并给出与现有算法系统的性能比较。本项目研究融合了非参数贝叶斯技术、超完备字典与深度学习三个机器学习领域的热点，力求发展更有效的多层数据表示方法，为其在相关领域的应用尤其是雷达目标识别奠定坚实基础。

多层或深度学习网络模型受到越来越广泛的关注，在多个研究领域展现了良好的性能。本项目结合雷达高分辨距离像（HRRP）和二维合成孔径雷达（SAR）图像的特点，针对贝叶斯非参数超完备字典学习、概率深度模型的构造与推理、深度学习网络在雷达目标识别中的应用等问题进行了重点研究，提出了基于最大间隔准则的有监督数据特征提取方法、基于最大间隔准则的非参因子分析模型、基于稳健字典学习的HRRP目标识别方法、基于lévy随机场非参数贝叶斯的SAR图像属性散射中心参数估计方法、基于深层有向网络的文本以及图像分析方法、针对多模态数据的多层表示方法、基于黎曼流形的随机梯度马尔科夫蒙特卡洛方法等一系列快速采样方法，以及一系列基于多层或深度网络的HRRP、SAR目标识别方法。在本项目的资助下，项目组还针对SAR图像舰船目标检测进行了算法研究及软件设计。经过四年的研究，项目组共发表学术论文23篇，其中SCI检索12篇（II区论文10篇），CCF A类会议3篇，EI检索8篇，申请发明专利25项，其中6项授权，对贝叶斯非参数超完备字典学习算法及深度学习网络的发展和在信号处理及相关领域的应用均有着重要的理论意义和应用价值。