多视角最大熵判别的理论与方法研究

Multi-view learning or learning from data with multiple feature sets has recently attracted much attention in the pattern recognition and machine learning community. It is a rapidly growing field with well theoretical underpinnings and great practical success. This project aims to study theory and methods for multi-view maximum entropy discrimination, starting from the new idea of margin consistency among different views. The specific research topics include multi-view maximum entropy discrimination with augmented features, multi-view maximum entropy discrimination with joint and separate relative entropy representations, semi-supervised multi-view maximum entropy discrimination, multi-view maximum entropy discrimination with soft margin consistency, and generalization error analysis for multi-view maximum entropy discrimination. Through this project, we can enhance the understanding of classifier design based on multi-view maximum entropy discrimination, give generalization performance characterization for some learning machines, and promote the application of maximum entropy discrimination to the current common situation of learning with multiple different representations. The outcome of this project can also inspire and promote the research of general multi-view learning.

多视角学习考虑综合运用数据的多个特征集训练预测函数，近期一直受到国际同行的关注。它不仅具有好的理论基础，而且在实际应用中也取得了一定的成功。本项目从同一样本来自不同视角的间隔变量具有一致性这一新思路出发，对多视角最大熵判别的理论与方法展开系统性研究。具体研究内容包括：基于增广特征表示的多视角最大熵判别；基于相对熵协同表达和独立表达的多视角最大熵判别；半监督多视角最大熵判别；基于间隔一致性软约束的多视角最大熵判别；多视角最大熵判别的泛化性能分析。通过对这些内容的探索与求解，可以增强对基于多视角最大熵判别的分类器设计的全面认识，刻画相应学习机器的泛化性能，并且对最大熵判别在当今数据表示的多元化趋势下的应用产生积极的促进作用。本项目的部分研究结果也能对多视角学习领域的发展起到启发和推动的作用。

多视角学习考虑综合运用数据的多个特征集训练预测函数，近期一直受到国际同行的关注。它不仅具有好的理论基础，而且在实际应用中也取得了一定的成功。本项目从同一样本来自不同视角的间隔变量具有一致性这一新思路出发，对多视角最大熵判别的理论与方法展开系统性研究。具体研究内容包括：基于增广特征表示的多视角最大熵判别；基于相对熵协同表达和独立表达的多视角最大熵判别；半监督多视角最大熵判别；基于间隔一致性软约束的多视角最大熵判别；多视角学习的泛化性能分析；多视角高斯过程。通过对这些内容的探索与求解，增强了对基于多视角最大熵判别的分类器设计的全面认识，刻画了多视角学习机器的泛化性能，并且对多视角学习在当今数据表示的多元化趋势下的应用产生了积极的促进作用。