面向可比语料的汉越神经机器翻译方法研究

In order to implement machine translation under the condition of the scarcity of bilingual corpus and the difficulty of acquiring parallel corpus, this proposal plans to research on how to use comparable corpus effectively to explore a feasible path for Chinese-Vietnamese Neural Machine Translation based on comparable corpus. Specially, the focuses are: 1) analyzing the characteristics of Chinese-Vietnamese comparable corpus, research on the acquiring methods of Chinese-Vietnamese comparable corpus based on Internet resources; 2) research and present the acquiring methods of bilingual translation knowledge and the learning approaches to bilingual word embeddings from comparable corpus; 3) research on the Neural Machine Translation framework based on small scale corpus, and explore the integrating method of bilingual translation knowledge and the Neural Network model, and present the Chinese-Vietnamese Neural Machine Translation model; 4) oriented to comparable corpus, program and develop the prototype system of Chinese-Vietnamese Neural Machine Translation. This proposal is a significant attempt in Machine Translation of resource-poor languages and intends to break through innovations in theory and practice. Simultaneously aligning with the Belt and Road Initiatives, this proposal would lay a solid foundation to promote further deep cooperation and communication between China and Vietnam in the fields of politics, economy, culture and tourism.

针对汉越机器翻译所面临的双语对齐语料少，平行语料获取困难等问题，项目将研究如何有效利用可比语料资源，探索面向可比语料的汉越神经机器翻译方法。首先，分析汉越可比语料特点，探索基于互联网资源的汉越可比语料的获取方法；其次，研究基于可比语料的双语翻译知识获取及双语词向量分布式学习方法，提出双语翻译知识抽取方法及面向可比特点的双语词向量学习方法；在此基础上，研究基于小规模语料下的神经机器翻译框架，探索深度神经网络模型中翻译知识的融合问题，提出汉越双语神经机器翻译方法；最后，研发面向汉越小语种的机器翻译原型系统。研究将为资源稀缺型语言机器翻译提供有效尝试，实现机器翻译理论与方法上创新，在一带一路战略下，对推动我国与越南国家进行政治、经济、文化及旅游等领域的深度合作与交流奠定坚实的基础。

汉语-越南语属于低资源语言对，汉越神经机器翻译面临双语对齐语料少，平行语料获取困难等问题，而互联网上汉语-越南语可比语料相对较丰富，如何利用可比语料来丰富汉-越翻译资源并提高翻译性能是本项目核心工作。项目围绕汉越文本可比性计算，汉越可比语料中双语知识对齐、双语翻译知识与神经机器翻译模型的融合等关键技术展开研究与探索，取得创新成果：(1)构建汉越可比语料库。提出了基于双语词向量的汉越文档相似度计算方法，从互联网多语言新闻网站、Wikipedia网页等自动收集并整理了128750篇汉越可比语料，为面向可比语料的汉越神经机器翻译提供了资源基础。(2)面向可比语料抽取汉越双语翻译知识。在汉越双语平行词对抽取方面，提出了基于枢轴语言的汉越双语术语抽取、基于超图的汉越双语新闻关键词抽取、基于双向RNN语言特性的汉越词对齐等方法，从可比语料中自动收集了汉越双语词条51250对，构建了汉越双语词典；在汉越双语平行句对抽取方面，提出基于句子特征向量的汉越伪平行句对抽取、基于短语的伪平行句对生成等方法，从汉越可比语料抽取和生成了伪平行句对412800对，大大地增强了汉越双语翻译知识。(3)将汉越语言特点、汉越双语翻译知识等与神经机器翻译模型相融合，提出了基于低频词表示增强的汉越神经机器翻译、融合词汇翻译概率的汉越神经机器翻译、基于语言后置特点的汉越统计机器翻译、融合双语特征的基于句法的汉越树到树统计机器翻译、融合句法解析树的汉-越卷积神经机器翻译、基于双向依存自注意力机制的低资源神经机器翻译等方法，构建汉越神经机器翻译模型，利用语言特点和双语翻译知识提升了汉越机器翻译的准确率。(4)在低资源神经机器翻译方面，提出基于变分信息瓶颈的半监督神经机器翻译、基于深度可分离卷积的汉越神经机器翻译、基于迁移学习的汉越神经机器翻译等方法，利用少量标注语料和大量未标注语料以及迁移学习的思想等来训练机器翻译模型，提升低资源汉越神经机器翻译的性能。(5)搭建面向可比语料的汉语-越南语神经机器翻译系统，并集成到云岭翻译平台中， 捐赠的云岭翻译机在云南瑞丽境外输入疫情抗疫中发挥重要作用。发表论文25篇，其中SCI收录4篇，EI收录11篇，授权发明专利3项，申请发明专利14项，登记软件著作权3项，负责人通过培养晋升副教授，入选云南省产业技术领军人才、云南省中青年学术和技术带头人后备人才，培养毕业研究生14名。