基于数据集“粒结构”和几何结构的子空间学习算法研究

Subspace learning is one of most popular algorithms for feature extraction. In the studies of subspace learning, the geometric structures of data sets have already been made an in-depth exploration, but few attentions are paid on the "granular structures" of the data sets. This project aims to research the subspace learning algorithms with the geometric structure information and the "granular structure" information of data sets. Firstly, we will propose the methods for finding the "granular structure" of data sets with the help of the geometric structure information. The new similarity definition of the data samples and the metrics of "data granulas" will be proposed in this procedure. Based on these definitions, we hope to develop more reasonable subspace learning algorithms which are able to use both the two kinds of structure information of data sets. Secondly, we will analysis the existing subspace learning algorithms. According to characters of the different subspace learning algorithms and the hierarchical "granular structure" of data sets, we aim to propose the ensemble subspace learning algorithms which are capable to use the multi-level "granular structure" infoimation of the data sets. Moreover, we expect to form a unified framework for subspace learning algorithms which use the "granular structure" of data sets. Thirdly, we will introduce the "granular structure" into the proposed algorithms in some new researchment directions of subspace learning. We believe that these new algorithms combined with the "granular struture" information will show promising improvements in different kinds of practical applications. This project will present novel technical approaches and theoretical guidances for feature extraction in the fields of pattern recognition.

子空间学习是应用最为广泛的特征提取方法之一。在子空间学习算法中，数据集蕴含的几何结构信息已被较深入的研究和利用，但对数据集的"粒结构"信息仍然缺乏足够的分析与讨论。本项目旨在将数据集的"粒结构"信息与几何结构信息相结合，将这两种数据集的结构信息综合融入子空间学习算法的设计中：结合数据集几何结构发现数据集的"粒结构"，并设计数据点间的新的相似度及"数据粒"之间的测度，由此开发能够利用数据集两种结构信息的子空间学习算法；分析不同的子空间算法，根据算法特性及数据集"粒结构"具有层次性的特点，开发能够利用不同层次"粒结构"信息的集成子空间学习算法，并提出一个基于数据集"粒结构"的子空间学习算法框架；结合子空间学习算法的发展方向，将数据集"粒结构"信息引入到子空间算法发展的最新成果，发展更高效、鲁棒的子空间学习算法。本项目研究将为特征提取方法研究提供技术方法和理论指导，具有重要的理论及应用价值。

在机器学习及其相关领域，常常会遇到一些高维数据，高维数据会使得很多原本有效的机器学习算法性能急剧下降，子空间学习算法能够在保留高维数据集某种内在信息的基础上对数据进行合理的维数约简，因此得到了广泛的关注。本项目旨在结合数据集“粒结构”以及几何结构基础之上开发新的子空间学习算法，包括：能够同时利用数据集“粒结构”以及几何结构的子空间学习算法；开发能够利用不同层次“粒结构”信息的子空间学习算法；提出基于数据集“粒结构”的子空间学习算法框架等。在项目的开展过程中，我们取得了一系列的研究成果：1）首先，我们在研究稀疏表示的基础上，提出了一种新的能够发现数据集局部“粒结构”信息的高效稀疏表示相关算法——带权弹性网，并在此基础上提出了一种判别分析算法；其次，我们在基于局部约束的协同表示算法基础上，也设计了一种新的判别分析算法，并且进一步我们将基于局部约束的协同表示算法扩展为基于局部约束的核协同表示算法，用来处理非线性数据的“粒结构”的发现，在该算法的基础上，我们也设计了一种新的判别分析算法。这三种算法在人脸识别实验中，都展示出了非常良好的性能。2）首先，在研究多层次数据集“粒结构”基础上，我们发现基于全局“粒结构”的子空间学习算法与基于局部“粒结构”的子空间算法在不同的数据集上性能表现具有很大的差异，因此，我们设计了一种能够同时利用数据集全局和局部结构的子空间学习算法，并提出了一种合理的协调全局和局部子空间性能的方法；其次，在进一步研究稀疏表示的过程中，我们从几何结构的角度设计了一种最利于稀疏分类器及其相关算法判别子空间排列算法，该算法有别于传统的基于稀疏表示的子空间学习算法，在一定程度上为子空间算法提供了思路。3）在分析和发现数据集的“粒结构”基础上，我们研究了低秩表示方法，在此基础上，将子空间学习算法与鲁棒低秩表示构建起了相应联系，开发了一种隐子空间低秩表示方法，在人脸、轨迹分割实验中算法取得了良好的效果。综上，在本项目的开展过程中，我们取得了较为丰富的研究成果，为基于子空间学习研究起到了一定的推动作用。