大数据中的广义稀疏几何结构学习方法研究

How to perform data analysis in the era of "big data" is a huge challenge for information science. Sparse geometric structure learning can efficiently model the intrinstic properties and the clustering and classification informations of the data. However, it is difficult for existing methods to handle the so-called "big data" with high-dimensionality and large scale and reveal the dynamic data distribution. This project aims at extending classic sprase theories and provides two generalzied sparse geometric structure learning methods for solving above problems. Firstly, this project addresses the computational issues of conventional low-rank learning methods in both theoretical and algorithmic directions. On the one hand, utilizing the latent low-rank space property of the data, we provide an efficient framework for incremental low-rank geometric structure learning. On the other hand, we design fast numerical algorithm for related models, study the corresponding convergence theory and the GPU based implementation. Secondly, to address the weakness of classic sparse representation for modeling the dynamic distribution of the data, we utilize several mathematical tools, such as fundamental differential invariants, directional sparsity norm and optimal control, to extend sparse representation for the space of PDE. By learning the sparse coefficient functions from the dictionary of differential operators, we design PDE to efficiently model the dynamic distribution of the data and then apply for various complex image processing tasks.

如何在"大数据"时代进行数据分析是信息科学领域需要面对的巨大挑战。稀疏几何结构学习可以有效刻画数据的本质属性及反映其聚类和分类信息。但是现有方法难以处理各种具有高维、海量特点的"大数据"及描述其分布规律。本项目拟对现有稀疏理论进行推广，提出两类广义稀疏几何结构学习新方法解决以上问题。针对传统低秩学习方法在高维、海量数据上的计算效率问题，本项目一方面从数据的隐含空间低秩性出发给出一种有效的低秩几何结构增量学习框架，另一方面针对涉及到具体模型的特点设计低复杂度计算方法并给出理论分析和基于GPU的并行化实现。针对经典稀疏表示模型无法描述数据动态分布规律这一不足，利用基本微分不变量、方向稀疏性范数和最优控制等数学工具将稀疏表示理论推广到PDE空间，通过学习微分算子字典上的稀疏表示函数来设计可以有效描述数据分布规律的PDE，并将其应用到复杂图像处理问题中。

随着高清图像、视频等媒体数据的大量涌现，信息科学领域正在迅速进入“大数据”时代。本项目面向大数据本质几何结构挖掘问题，提出建立基于广义稀疏性的数据分析工具，并将其应用到各种图像和视频分析和处理问题中，取得了非常好的效果。具体内容如下：在理论建模方面，提出基于可学习扩散偏微分方程的图像和视频本质稀疏结构描述框架，利用子模优化技术实现对偏微分方程边界条件的自动学习，并给出该模型的理论性质分析，最后将其应用到图像显著性检测、图像分割、视频目标跟踪等问题中。在计算方法方面，针对非凸非光滑的稀疏和低秩模型设计几种快速求解算法，如针对l0范数求解问题设计了一种改进的交替方向迭代新格式，并给出了算法的严格收敛性分析，针对超大规模低秩矩阵分解问题，利用Nystrom逼近设计了一种有效的在线低秩优化等方法并给出了该算法的理论精度分析。在应用方面，主要面向图像和视频大数据的分析与处理，尤其是在图像显著性检测、图像运动模糊建模和视频目标跟踪等典型问题上取得了较好的结果。在本项目资助下，研究成果发表于IEEE TPAMI，IEEE TNNLS，Neural Networks，Machine Learning Journal, CVPR，AAAI，ECCV，ACCV，ICME，ICIP等国际顶级期刊和会议，并获得了计算机学会推荐B类会议ICME最佳学生论文奖和计算机学会推荐C类会议ICIP最佳10%论文奖等。以上研究成果，为解决视觉大数据的分析与处理提供了较好的理论和算法支撑，具有重要的科学意义和实用价值，应用前景广阔。借助本项目的研究，在未来，将继续针对大数据分析与处理领域的一些关键问题展开深入研究，突破其中关键技术，实现广义稀疏几何分析技术的实用化。