大规模生物医学文献医学主题词的高精度自动标注研究

Accurate MeSH (Medical Subject Headings) indexing of biomedical documents is very important for the biomedical researchers. It can not only help the biomedical researchers to find relevant documents, but also facilitate the process of literature mining and knowledge discovery. The main objective is to develop an accurate large scale MeSH indexing algorithm, which can help NLM indexers to efficiently index more than 700,000 new MEDLINE documents every year, and thus provide a better service for the biomedical researchers. The main idea is to develop an accurate indexing algorithm based on machine learning. Firstly, we try to obtain a better representation of biomedical documents based on representation learning; Secondly, we will design an efficient algorithm to handle more than 27,000 MeSH terms by multi-label learning; Finally, based on learning to rank, we will try to improve the prediction performance by integrating different types of representation, predicting methods and MeSH information. Here are three key scientific problems to solve: (1) how to design a better representation by considering the characteristics of biomedical documents; (2) how to design an efficient predication algorithm by considering the dependency of MeSH terms; 3) How to encode the candidate MeSH in the learning to rank framework.

生物医学文献医学主题词的精确标注对于广大生物医学研究人员意义重大，不仅能够帮助研究人员快速找到所需文献，而且为他们进一步挖掘文献，发现新的知识奠定坚实基础。本项目的主要目标是开发大规模生物医学文献医学主题词的高精度自动标注算法，帮助标注人员高效精确标注每年70多万篇生物医学文献，从而更好的服务于广大生物医学研究人员。本课题以生物医学文献医学主题词的预测为研究对象，在机器学习的理论框架指导下，设计基于表示学习的算法获得文献的合适特征表示弥补词袋表示的不足；然后设计基于多标记学习的算法有效处理高达27000多个医学主题词的预测；最后设计基于排序学习的算法有机融合不同表示、预测方法和信息，以提高预测精度。拟解决的科学问题包括：（1）如何结合生物医学文献特点设计合适的文献表示；（2）如何设计考虑医学主题词之间相关性的高效预测算法；（3）排序学习中如何为候选医学主题词设计高区分度特征。

最大的生物医学文献数据库MEDLINE覆盖了全世界5600多种学术期刊，收录了超过2900万医学文献记录。 每年新增文献近100万篇，平均每篇文档标注约13个医学主题词（MeSH）。生物医学文献医学主题词的精确标注对于广大生物医学研究人员意义重大，不仅能够帮助研究人员快速找到所需文献，而且为他们发现新的知识奠定坚实基础。本项目的主要目标是开发大规模生物医学文献医学主题词的高精度自动标注算法。主要研究内容包括（1）结合生物医学文本的特点，如何获得合适的生物医学文献特征表示;（2）基于不同特征表示方法，研究多种高效精确的多标记算法解决大规模生物医学文献医学主题词预测问题;（3）研究融合策略，即如何有效融合不同特征表示、多种预测算法和各种信息的有效途径，从而提高预测精度。本项目的重要研究成果包括 （1）基于深度语义表示的MeSH标注算法DeepMeSH; 它使用深度语义表示D2V-TFIDF将稀疏表示和密集语义表示连接在一起，基于排序学习集成了从新语义表示中生成的各种类型的证据，提高大规模MeSH标注的精度。（2）基于全文的MeSH标注算法FullMeSH; 它很好的利用了目前日益增长的全文文献, 将全文分成几部分，如摘要、介绍、方法、实验和结论。每部分单独训练一个基于注意力的卷积神经网络，同时结合稀疏语义表示和深度语义表示，将不同部分的证据整合到排序学习框架中，从而获得了标注性能的提升。（3）基于标签树和注意力感知的深度学习算法AttentionXML；它通过引入基于原始文本的多标签注意机制作为输入捕获每个标签最相关文本，解决了目前其他方法难以捕获标签相关子文本的问题。它还通过使用一种浅而宽的概率标签树处理百万级别的标签范围，突破了先前方法应用于超大标签规模的可扩展性瓶颈。这些算法不仅在生物信息学和机器学习顶级会议或期刊发表，同时也在相关国际竞赛中获得验证。除此之外，这些算法的核心思想也可以用来解决其他大规模多标签学习问题，如蛋白功能预测、药物靶标相互作用预测等。