面向张量数据的图学习与嵌入

High order tensor data are ubiquitous such as images and video streaming. In pattern recognition and machine learning fields, the traditional approaches for dealing with such data are to splice them as 1D vectors. Such methods make the problem easier, but destroy the structure of tensor data. In recent years, researchers have designed directly some tensor-based learning algorithms, and achieved successful applications on some issues. However, these learning algorithms are often too complex and require specialized skills. Therefore, this project expects to seek a new solution-the graph embedding based on tensor data, and its aim is to not only effectively keep the structure information of tensor data, but also expediently use the existing vector-based learning algorithms. Then, (1) we will explore the new measurement method for higher order tensor data, embedding the structure information of data to improve the robustness of the target translation, rotation and non rigid motion; (2) based on such a metric, we will study the tensor-based graph construction methods, using the edge weights of graph to model the correlations between the tensor data patterns; (3) a new matrix product-semi-tensor product will be introduced to the tensor-based graph construction, for conveniently modeling the local regions of interest in data patterns. Lastly, the graph implicating tensor-structure is embed into the vector space, and apply the existing vector-type algorithms to complete the last learning task.

高阶张量数据无处不在，如图像、视频流等。模式识别领域处理该类数据的传统做法是将其“拼接”成一维向量。虽然这使问题变得易于处理，但无疑破坏了数据的内在结构。近年来研究者尝试直接设计张量型学习算法，并在某些问题上获得了成功应用。然而张量型算法往往需要专门技巧，设计过于复杂。为此，本项目旨在寻求一种新的解决方案——张量数据的图嵌入，期望既可有效保持张量数据的结构信息，又可方便地使用现成的向量型学习算法。为达到上述目标，(1)探讨适于高阶张量数据的新型度量方式，嵌入数据自身结构信息，并提高其对目标平移、旋转以及非刚体运动的鲁棒性；(2)基于此，研究面向张量数据的图构建方法，利用图的边权刻画张量数据结构及各模相关性；(3)将新的矩阵乘法——半张量积引入张量数据的图构建中，以此方便地建模数据各模式的局部感兴趣区域；最后将结合了张量数据结构信息的图嵌入向量空间，通过向量型算法实现最终的学习任务。

在机器学习领域，图是刻画数据及其相互关系的一个有效数学工具，且对学习任务的最终性能有着重要影响。因而，如何从数据中学习一个高质量的图已成为近年来机器学习及其相关领域的一个热门问题。.本项目的主要研究内容围绕“图学习”展开。首先将机器学习中传统的预定义图的方式发展为与学习任务密切相结合的图优化策略；再次将目前流行的图学习方法统一归结为一个矩阵正则化的图学习框架，将数据、任务与先验知识密切结合起来；最后，将这种正则化的图学习思想应用于功能脑网络的构建，且在神经退化性疾病的辅助诊断中验证了其有效性。.针对上述研究内容，我们获得如下三方面的结果：. (1) 面向降维提出了一种半监督的图优化策略。在传统的降维问题中通常图是预定义的，与此不同，我们提出一种图优化策略，将图作为优化变量放到降维模型中来联合优化学习，且在模型中嵌入了逐对约束的监督信息，并在人脸及UCI数据集上验证了其有效性。. (2) 首次提出了矩阵正则化的图学习框架。我们首次从数据驱动的角度对机器学习领域的图学习算法进行了系统总结，并将它们归纳到一个统一的正则化图学习框架之下。将各种先验知识以矩阵正则化的方式自然地嵌入到数据拟合项中，学习得到一个更加灵活的图。且为发展新的图学习算法提供了一个统一的平台。.(3) 基于功能磁共振fMRI数据，提出了两种功能脑网络构建方式。首先，以正则化的形式在构图模型中融入模块化先验，提出了一种新的功能脑网络估计方法，并成功应用于神经功能失调疾病（如老年痴呆症）的辨识；其次，将稀疏及scale-free等先验知识以正则化的形式嵌入到Pearson相关脑网络构建中，且在自闭症辨识中验证了其有效性。