基于R1范数的非负张量分解模型及算法设计

Recently, how to design nonnegative tensor decomposition (NTF) algorithms has become a new research focus since it not only can preserve the merits of nonnegative matrix decomposition (NMF), but also can address the problems, e.g. the loss of tensor data’s structural information, the curse of dimensionality, the small sample size problem, etc., encountered by the vectorization of tensor data. In this project, we introduce the recently proposed rotational invariant L1 norm (R1 norm) into NTF and then integrate some related learning theories, e.g, manifold learning and subspace learning, into the R1 norm based NTF. Then some novel NTF methods with good performances can be proposed and the robustness, sparseness and interpretability of NTF are further improved. Besides, the application field of R1 norm is also extended. In this project, we will study: (1) NTF model based on R1 norm; (2) manifold regularized or ensemble manifold regularized NTF models based on R1 norm; (3) discriminant NTF model based on R1 norm; (4) manifold regularized or ensemble manifold regularized discriminant NTF models based on R1 norm. With the research of the project, some novel R1 norm based NTF algorithms can be developed. Then some related theories, e.g. NTF, subspace learning and manifold learning, etc., can be perfected and the computer’s capabilities of robust feature extraction, understanding and discrimination can be improved.

非负张量分解(NTF)直接以张量数据为处理对象，从而克服了张量数据向量化带来的如损失张量数据本身的结构信息，发生维数灾难、出现小样本问题等缺点，同时又能保持非负矩阵分解的优点，使得NTF已成为一个新的研究热点。本项目拟将最近提出的R1范数学习理论引入到NTF中，并进一步融合流形学习、子空间学习等相关理论，设计出新的性能优异的NTF算法，从而不仅能提高NTF算法的鲁棒性、稀疏性和可解释性，也能进一步拓展R1范数的应用领域和范围。具体的，本项目将研究：（1）基于R1范数的NTF模型；（2）基于R1范数的流形正则化或集成流形正则化的NTF模型；（3）基于R1范数的鉴别NTF模型；（4）基于R1范数的流形正则化或集成流形正则化的鉴别NTF模型。通过本项目的研究，将提出一系列基于R1范数的NTF算法模型，完善NTF、子空间学习和流形学习等相关理论体系，提高计算机的鲁棒特征抽取、理解和鉴别能力。

在图像识别领域，原始训练样本往往受到噪声的干扰，使得如何提高算法的鲁棒性，并提取关键特征进行维数压缩与图像识别是当前研究的一个难点与热点问题。本项目主要关注鲁棒特征抽取、流行学习、非负性以及张量特征抽取等理论与应用的工作。1）针对基于L2范数的特征抽取算法对噪声敏感，不够鲁棒的问题，提出了一系列基于L1范数的特征抽取算法，从而提高了算法的鲁棒性；2）针对鉴别保局投影算法（DLPP）会面临小样本问题，提出了基于指数矩阵的鉴别保局投影（MDLPP）算法，从而有效地克服了DLPP算法面临的小样本问题；3）通过利用样本间的局部几何结构，对传统非负矩阵分解算法、低秩矩阵分解等算法进行改进，提出了一系列新的算法；4）传统的算法在对图像进行特征抽取时，往往需要把图像矩阵拉伸成向量的形式，而这会破坏原始图像的结构。而如果直接采用张量（或矩阵）的形式，可以更有效的考虑样本的高阶关联，提升算法的性能。基于此，项目组开展了一系列研究，提出了一系列基于张量的学习算法。