基于深层模型的结构预测方法研究

Structured prediction is the machine learning technique for handling non-i.i.d. data. However, existing methods, such as Hidden Markov Models and Conditional Random Fields, suffer from many shortcomings. By exploring the profound relationship between probabilistic graphical models(PGM) and deep neural networks(NN), this project aims to develop new structured prediction methods by combing PGM and NN from various levels. Compared with existing methods, the new method will enjoy stronger representation ability, better generality, and higher computational efficiency. In addition, we will justify the new method by applying it to the handwritten Chinese text recognition and document layout analysis problems. This project is conducted on the basis of our previous research. Most technology difficulties have been carefully evaluated. The research accomplishments are expected to provide solid technical support for many applications.

现实世界充满了不满足独立同分布假设的结构数据，例如语言、图像、社交网络等等。正由于该类数据的普遍性，对结构预测方法的研究具有重要的学术价值和应用价值。然而，现有结构预测方法，如HMM、CRF等，在“关系”表示能力、方法通用性、计算复杂性等方面存在严重不足。本项目拟从探索概率图模型和深层神经网络的内在联系入手，通过从多个层面对两类方法进行融合，建立基于深层模型的结构预测方法。新方法将：（1）通过数据关系的自动学习和深层模型，有效提升现有方法的表示能力和预测能力；（2）实现完全由数据驱动的端到端学习，从而具备更好的通用性和易用性；（3）通过采样、低秩等近似方法提升推理和学习的计算效率。此外，我们还将在字符串识别和文档版面分析两个问题中，验证新方法的有效性。本项目直接针对了现有结构预测方法的不足，是为促进该领域学术发展的有益尝试。此外，鉴于结构预测问题的广泛存在，本项目也具有重要的应用价值。

现实世界充满了不满足独立同分布假设的结构数据，例如语言、图像、社交网络等等。正由于该类数据的普遍性，对结构预测方法的研究具有重要的学术价值和应用价值。然而，现有结构预测方法，如HMM、CRF等，在“关系”表示能力、方法通用性、计算复杂性等方面存在严重不足。本项目从探索概率图模型和深层神经网络的内在联系入手，从多个层面开展了结构预测方法研究，并取得了一系列成果：（1）为克服图神经网络的内在缺陷，我们提出了新的消息传递算法和网络结构；（2）为更好的描述实体间的时空关系，我们提出了基于极坐标系的层次化相对位置编码方法；（3）针对脑核磁影像，我们提出了基于结构化先验知识的脑区分割和疾病诊断方法；（4）我们将这些结构化预测方法应用到多个手写文档分析任务（如版面分析、数学公式识别、流程图分析、草图分割）中，取得了领先的性能。基于这些研究成果，我们发表了期刊论文5篇，会议论文10篇，其中多数论文发表在重要的国际期刊和会议上。