统计稀疏学习方法及其在视觉处理中的应用

统计学习作为统计学与人工智能的交叉学科，近年来发展迅速，正逐步形成有特色的统计稀疏学习学科，并成为统计学习与信息处理的重要研究方向。本项目对目前统计稀疏学习方法中的几个代表性问题及其在视觉任务中的应用进行研究，包括：稀疏无监督降维、稀疏高斯图模型以及基于新范型的稀疏矩阵补充等，并提出相应的学习方法、计算模型及求解策略。其中稀疏无监督降维方法的研究能为高维数据的特征提取和字典学习提供重要方法；稀疏高斯图模型不仅能够为数据稀疏建模提供新方法，而且还能够有效揭示数据样本之间隐含的结构性关联信息，从而为结构性稀疏方法提供新思路；基于新范型的稀疏矩阵补充则在图像恢复、视频处理等任务中具有重要的应用价值。这些代表性问题的深入研究，不仅对统计稀疏学习方法的研究本身具有重要价值，而且对于机器学习、模式识别、计算机视觉等相关领域的研究也具有重要意义。

统计稀疏学习方法是人工智能、应用统计学以及视觉认知等学科交叉的研究方向，不仅具有机器学习、信号处理、压缩传感等领域的理论支撑，而且符合人类认知过程的计算模型，是近年来发展迅速的一个新方向，对当前机器学习的研究产生了重要影响。在本课题执行期间，统计稀疏学习方法持续得到机器学习、人工智能、计算机视觉等国际著名会议、期刊以及国内外学者的广泛关注，其研究成果不仅促进了机器学习领域的相关理论研究，而且在无监督特征学习、大规模数据挖掘、跨模态语义分析等诸多领域取得了成功应用。.本项目的研究内容主要包括统计稀疏学习模型的构建、统计稀疏学习算法求解以及统计稀疏学习方法的应用等几个方面的研究。具体研究内容包括稀疏高斯图模型、非参数稀疏模型、高阶张量稀疏模型等稀疏建模研究；稀疏降维、稀疏特征学习、稀疏多特征融合、字典学习等学习方法及其求解策略；统计稀疏学习在人脸识别、动作识别、三维对象识别、高维信号分解、图像恢复等视觉任务中的应用。.本项目不仅在统计稀疏学习方法的理论研究方面取得了重要进展，而且在具体视觉任务中得到了成功应用。其中有特色的研究进展包括：1）提出了一种能够有效建模多维数据内在关联的统计稀疏图模型及其求解算法，并在国际上首次成功应用于图像恢复任务，该项成果发表的论文获得了2011年ICIP国际会议最佳论文奖。2）提出了一种基于字典的稀疏特征学习模型，该模型能够自动学习出样本数据的共性特征和个性特征，为识别、分类等视觉任务提供了更高效的稀疏特征表达。3）提出了一种创新的基于示例的稀疏降维模型，能够在自动学习出样本数据中隐含的低维流形结构的同时，增加稀疏字典表达的判决能力，有效提高了复杂数据流形情况下的分类精度。4）提出了一种专门针对高维张量数据的稀疏降维模型，在保持高维数据内在结构的同时，极大压缩了数据维度，形成了更稀疏的特征表达。该模型及其求解方法还被成功应用于动作识别与分类任务中，取得了很好的应用效果。5）提出了一种基于字典学习的稀疏多特征融合模型，能够高效融合多种视觉特征，形成更加紧凑、更具判决性的稀疏表达特征。6）提出了一种稀疏无监督迁移学习模型并应用于数据聚类问题。该模型通过优化选取无标签源域数据，并迁移到目标域来丰富数据流形，从而达到更好的聚类性能。.本项目的研究成果与应用示例充分说明了统计稀疏学习方法不仅具有重要的理论价值，更具有潜在的应用前景。