基于语义的汉语新闻文本的零形回指消解研究

Zero anaphora is a typical phenomenon of Chinese text. Research on zero anaphora resolution would have a great impact on text analysis, summarization, information retrieval and machine translation. The current researches on zero anaphora resolution classify whether the antecedent and anaphora are consistent on syntactic and some semantic features and highly depend on Penn Chinese Treebank. This is the limitation of the current methods. In this research we propose two novel features for choosing antecedents. The first feature is the combination probability of each word pair that formed by candidate antecedents and words appeared in the punctuate-segmented sentence. The second feature is the semantic rationality of the simple sentence combined by candidate antecedents and the punctuate-segmented sentence that zero anaphora exist. This research would construct a hybrid methods of word semantic computing which base on several current semantic knowledge base or ontology resources and also construct a statistical method or deep learning method to compute word semantic relatedness based on big data. We would construct models to evaluate the word pair’s semantic combination probability and the simple sentence’s semantic rationality. A practical system would be built to test and demonstrate the research result. This work would promote the development of relevant research area such as machine learning etc.

零形回指是汉语的一种典型现象，零形回指消解的研究对篇章分析、自动文摘、信息抽取、机器翻译等应用领域都将产生重要贡献。现有的零形回指消解研究大多利用先行词和回指词句法特征的一致性进行消解，一般需要依赖人工标注的句法树库。这是现有零形回指消解方法的局限。本项目将基于广义话题理论，在以往对话题句识别研究工作的基础上，提出两个基于语义的特征：一是候选先行词和回指词所在标点句的词汇语义组合可能性，二是候选先行词和回指词所在标点句构成的简单句的语义合理性，并将它们作为筛选候选先行词的两项重要指标。本研究将构建融合现有语义知识库和本体的词汇语义关系计算方法和基于大数据的基于统计的词汇语义相似度计算方法，并基于此构建词汇语义组合可能性评价模型；然后从大规模语料中抽取句子语义关系模式库，构建句子语义合理性评价模型；最后建立面向汉语新闻文本的零形回指消解研究系统，为机器翻译等与语篇理解相关的应用奠定基础。

零形回指是汉语的一种典型现象，零形回指消解的研究对篇章分析、自动文摘、信息抽取、机器翻译等应用领域都将产生重要贡献。现有的零形回指消解研究大多利用先行词和回指词句法特征的一致性进行消解，一般需要依赖人工标注的句法树库。这是现有零形回指消解方法的局限。本项目按照计划，围绕汉语零形回指消解问题，根据预定的方案、路线开展研究，调研、梳理了国内外对汉语零形回指消解研究的情况，形成综述报告；搭建了大数据和深度学习研究平台；研究了词汇语义表征和相似度（相关度）计算方法，提出了一种基于语义关系图的词语语义相关度计算模型，提出了一个基于TF-IDF和CNN的汉语词汇语义关系分类模型，提出了一种利用类别标签对词汇关系抽取进行优化的方法；提出了一个CNN-LSTM-Attention协同模型用于表征句子的语义信息，在文本情感分类中应用此方法，取得了超越现有模型的实验结果；研究了各种深度学习模型，并提出了针对分词、微博情感分析、阅读理解等问题的优化模型，在此基础上，提出了一种基于LSTM和注意力模型的中文话头自足句构建方法，提出了基于语言模型的中文话头自足句识别方法，他们都能够提高汉语标点句首零形回指消解的性能。在本项目实施过程中，课题组取得了较好的阶段性成果。受本课题资助，已发表SCI检索论文4篇，EI会议检索论文3篇，EI期刊检索论文1篇，北大中文核心期刊论文5篇，另有5篇论文已经录用（3篇北大中文核心期刊论文，2篇EI检索国际会议论文）。