基于混合域嵌入式向量模型的知识图谱自动演进问题研究

With the rapid growth of new entities in the Web, the traditional knowledge reasoning algorithms have faced considerable difficulties in predicting knowledge triples that involve new entities effectively. The key issues, such as the construction of embedding of new entities and knowledge reasoning algorithms that involve new entities, have not been effectively solved so far. They seriously restrict the development of knowledge graph automatic evolution systems. Thus, on the basis of our previous research on knowledge graph completion and related embedding models, this project proposes to study knowledge graph automatic evolution for new entity reasoning in the Web, presents an algorithm to build the embedding of new entities by Hybrid-domain Embedded model (HybridE), and provides a new knowledge reasoning algorithm which involves new entity in multi-source heterogeneous environment. This project not only aims to improve the quality of implicit knowledge reasoning in knowledge graph, but also focuses on adding knowledge that contains new entities to knowledge graph. It's expected to structurally improve the knowledge coverage of knowledge graph and make knowledge graph automatic evolution more effective. This project will be of great significance to deepen the theoretical understanding of knowledge graph, promote the development of knowledge graph automatic construction technology, and improve the ability of knowledge graph to support artificial intelligence applications.

面对Web环境中激增的新实体对象，传统知识图谱推理算法已难以有效实现包含新实体的知识推理，而Web环境中新实体嵌入式向量模型的构建、包含新实体的知识推理算法等关键问题至今尚未有效解决，严重地制约了知识图谱自动演进系统的发展。本项目在前期知识图谱补全算法和相关嵌入式向量模型的研究基础上，拟通过开展Web环境下针对新实体推理的知识图谱自动演进问题研究，采用基于混合域嵌入式向量理论模型的方法，构建新实体嵌入式向量模型算法，并提出多源异构Web环境下包含新实体的知识推理算法。本研究既着眼提升知识图谱中隐含知识推理的质量，也注重向知识图谱中添加包含新实体的知识，以期结构性地提高知识图谱的知识覆盖率，使知识图谱的自动演进更加有效。本项目的开展将对深化知识图谱的理论认识、推动知识图谱自动构建技术的发展以及提高知识图谱作为人工智能核心数据支撑的能力均具有重要意义。

本项目在前期知识图谱补全算法和相关嵌入式向量模型的研究基础上，采用基于混合域嵌入式向量理论模型的方法，研究知识图谱中的知识推理算法。主要研究内容包括：1）知识图谱中嵌入式向量模型构建及其优化算法研究；2）基于实体描述文本以及非结构化文本环境下的嵌入式向量模型研究；3）基于混合域嵌入式向量模型的知识图谱自动演进算法研究。重要结果：1）在知识图谱中嵌入式向量模型构建方向，我们提出一种新的实体类型推理算法，该方法基于联合学习的思路，从已知实体类型标注集中局部类型标注知识（Local typing knowledge）和知识图谱中全局三元组知识（Global triple knowledge）两类数据中挖掘知识，提出了两种有效的基于知识驱动的实体类型推理机制，建立了两个新的嵌入式模型（Embedding Models）并加以实现。最终，建立联合模型并实现实体类型推理。实验验证了论文所提实体类型推理机制和模型的有效性。2）在嵌入式向量模型问题研究方向，我们提出了解决知识图谱实体类型推理（KG Entity Typing）问题，提出一种新的基于图神经网络模型的实体类型推理算法，通过多元关系图神经网络模型 (Multiplex Relational Graph Attention Networks)对知识图谱进行表示学习，并利用联合学习的思路。实验充分验证了所提算法的有效性。3）在基于混合域嵌入式向量模型的知识图谱自动演进算法方向，我们研究了二元多关系异质知识图谱上的节点表示学习问题，提出了一种新的基于二元多关系异质图的双塔分层注意力网络（Dual Hierarchical Attention Networks , DHAN），在分层机制下使用基于类内和类间注意力的编码器，分别聚合来自相同类型节点的信息以及聚合来自其不同类型邻节点的节点表示。为了充分建模二元多关系异质图中节点的多关系信息，文章采用了一种新提出的分层机制，使得模型能够凭借双塔分层注意力操作充分捕获二元多关系异质图的复杂结构，以学习更加全面的节点表示。实验分析验证了所提出模型在二元多关系异质图上学习节点表示的能力。科学意义：该项目的开展对深化知识图谱的理论认识、推动知识图谱自动构建技术的发展以及提高知识图谱作为人工智能核心数据支撑的能力都具有非常重要的意义。