面向鲁棒特征提取的数据重构和鉴别性问题研究

Producing the robust feature extraction from the noise data or corrupted data is one of hot topic in pattern recognition by employing the sparsity of high-dimensional data. The noise characterizing methods based on L1-norm or L2-norm all supposed that the noise data satisfy the Gauss distribution or Laplacian distribution. In fact, the noise data are connected, they do not follow the assumption of independent identically distribution. This project proposed the robust feature extraction methods which use the L21-norm for characterize the noise data and effectively fuse the data reconstruction and discriminant. (1) This project tries to use the L21-norm to character the noise data and obtain the row-sparsity solution. The method can select the dominant features and secondary features when producing the feature extraction. (2) The project proposed the robust feature extraction method which effectively fuses the data reconstruction and discriminant. The method use two projection matrixes for data reconstruction, and can effectively separate the noise data from the “clean data”. (3) The project proposes robust manifold learning method, which can consider the geometry information of the data and can keep the geometry structure of data. Compared with traditional feature extraction methods, the research can improve the robustness of subspace methods.

如何利用高维数据的稀疏性，从带有噪声遮挡或污染的图像数据中鲁棒地提取特征是模式识别领域的热点问题之一。基于L1范数和L2范数的噪声刻画方法都是假设噪声图像的元素之间满足高斯分布或拉普拉斯分布。实际上，噪声元素之间也具有相关性，不再符合独立同分布的假设。因此本项目拟提出使用L21范数对噪声进行刻画，并有效融合数据重构性和鉴别性的鲁棒特征提取方法。（1）拟提出使用L21范数对结构噪声进行刻画，得到行一致稀疏性的解。进行特征提取的同时对特征进行选择，筛选出主要分量，剔除次要分量。（2）拟提出有效融合数据重构性和鉴别性的鲁棒特征提取方法，使用两个投影矩阵对数据进行重构，达到较好的分离出噪声，得到“干净”可分的数据的目的。（3）拟提出鲁棒流形学习方法，充分考虑数据的几何结构信息和局部信息，保持投影前后数据的几何流形结构。本项目所设计的算法及框架能够获得比其他典型的子空间学习方法更好的效果。

在人脸图像识别领域，由于原始的样本图像数目较少而维数相当高，如何提取关键特征进行维数压缩与识别是当前研究的一个难点和热点问题。子空间学习、图嵌入和稀疏表示是近年来模式识别和机器学习领域的研究热点。我们就子空间学习、图嵌入和稀疏表示在特征提取等方面开展了深入研究，研究内容主要包括：（1）针对传统的线性回归模型面临的“维数灾难”和鉴别性不强的问题，提出了一种能够学习到隐含子空间特征结构的特征提取和具有鉴别性的线性回归模型，简称为DLLR算法。该模型建立了一个联合子空间学习框架，将具有鉴别性的隐含子空间特征选择功能和鲁棒性的线性回归功能统一到一个目标函数中。不同于传统的线性回归模型，直接将原始样本投影到特征空间，并将噪声去除。（2）提出一种广义鲁棒线性回归方法(RLRL)，通过引入L21范数最小化，提高对数据野点的鲁棒性，同时获得具有联合稀疏特性的投影进行有效的基于局部信息的特征提取。并通过在损失函数中引入弹性因子来减少噪声对特征提取的干扰。（3）提出了一种鲁棒稀疏线性鉴别分析方法，通过引入鉴别性约束，从而能够充分地利用数据的类内和类间信息来指导分类任务的完成。（4）提出了一种基于L21范数的联合线性嵌入降维方法，首先构建出基于联合稀疏学习的权重矩阵，再使用联合线性嵌入，达到构建出具有行一致稀疏性的权重矩阵，从而得到鲁棒性的线性降维方法。