基于子空间学习的多视图鲁棒一致性表达研究

Multi-view learning has become one of the most hot topic in machine learning, which mainly focuses the data of one object from different modality, different source and different space, etc. In big data era, how to learn the multi-view consensus representation robustly is the basis of the smart analysis of complex data. However, the low-level heterogenousness and/or nonlinearities of multi-view data, even with noise and/or incompleteness greatly hamper the co-learning between views, so as to become a big challenge to the efficient mining of information within data. In this project, upon on the subspace analysis, sparse and/or low-rank representation and information theory, the robust multi-view consensus representation learning based on common subspace is investigated to exploit the common representation of multiple views. In particular, we will firstly study the information theory based robust multi-view learning. Secondly, the semi-supervised multi-view learning based on manifold regularization is to be studied to explore the effect of views and unlabeled data. Next, the multi-view subspace learning incorporated in deep learning is presented to explain how the subspace structure of multiple views works. Finally, the above methods researched are applied to the early evaluation of Alzheimer disease. The project will advance the full theory of high performance multi-view subspace learning, and help to solve the issues in the analysis of complex data. This will greatly benefit the intelligent information processing in Cyber-Physical System.

多视图数据以不同模态、不同来源及不同空间等形式对同一物体进行描述，多视图学习已成为机器学习热点问题之一。在大数据时代，多视图数据的鲁棒一致性表达是复杂数据智能分析的基础。然而数据的特征异构、非线性分布，且易受到噪声干扰、甚至样本缺失，给多视图鲁棒表达学习带来巨大挑战。.本课题拟开展基于公共子空间学习的异构多视图鲁棒一致性表达研究。在浅层模型方面，针对非高斯噪声及数据缺失环境下鲁棒性差的问题，开展基于信息论联合矩阵重建的多视图子空间学习研究；为充分利用视图内蕴的几何结构信息提升多视图子空间学习效率，开展基于流形正则化的半监督多视图学习研究；进而，以浅层模型引导深度多视图子空间学习，揭示多视图深度子空间结构表达机理，从而解决视图数据非线性关联关系表达困难的问题。.最终应用于阿尔茨海默症早期鉴别。成果将形成一套高效的多视图子空间学习方法，为大数据智能化分析提供理论支持，促进CPS智能化信息处理。

随着“大数据”时代的到来，现实世界中涌现出海量的高维数据。这些数据不仅规模庞大，其数据类型更是多样化。具体来说，它们大量地产生于不同的数据源或特征子集，其中每一数据源或特征子集构成一个视图(View)，从多种不同途径或不同角度对同一对象进行描述，就形成了多视图(Multi-view)数据。同时，这些数据拥有数据规模大、维度高和内在结构复杂等特性。在大数据挖掘和分析中，充分获取和利用多视图数据中的知识非常重要。而现实中的多视图数据往往呈现出特征异构、非线性分布，以及不可避免地受到噪声干扰、甚至缺失，现有方法面临着诸多困难与挑战，已无法满足人们对数据高性能智能化处理的需求。因此，如何有效地融合多视图数据，挖掘视图间的内在联系来进行高效学习是一项具有挑战性的工作。本项目结合浅层学习模型和深度学习网络的优势，开展基于公共子空间的鲁棒异构多视图表示学习方法研究，挖掘数据潜在的一致性表达，从以下四个方面展开：多视图子空间的鲁棒表示学习研究；基于流形正则化的半监督多视图学习研究；基于浅层学习引导的深度多视图子空间学习研究；将上述方法开展相关应用研究。经过四年的研究，本项目取得了多个代表性成果：在鲁棒表示学习方面，我们提出了基于鲁棒块对角表示的子空间学习模型；构建了联合柯西损失和块对角表示的鲁棒多视图子空间学习模型；设计了基于软分配的鲁棒子空间学习网络。在挖掘数据内蕴局部几何结构方面，我们提出了多流形正则化的子空间学习模型；建立了三阶张量低秩多视图子空间学习模型。进一步探索了可解释的深度多视图子空间学习方法，提出一种具有稀疏先验(Sparse Prior)信息的叠层独立子空间分析；构建了一种新的视图知识转移网络；设计了基于自注意力对抗的深度子空间聚类网络。本项目的研究成果有助于建立鲁棒多视图学习理论探索一条新的途径，促进大数据环境下的复杂数据智能化分析的发展，在智能制造、城市管理、公共安全和服务等领域有着广阔的应用前景。