基于进化算法的半监督多任务深度学习及应用

Deep learning, as an important research direction of artificial intelligence, has a wide application prospect. This project intends to study the semi-supervised multi-task evolutionary depth learning for big data and apply it to the automatic diseases diagnosis based on CT images. The main research contents and objectives are as follows: We propose a semi-supervised deep learning based on automatic image annotation. The proposed model expends the available data sets of deep learning and effectively utilizes large amounts of unlabeled data. We propose an imbalanced learning strategy based on multi-task learning, in which each task corresponds to a class. The parameters of each class are independently learned in parallel through multi-task learning. It can automatically balance the learning of the majority class and minority class. We propose an efficient multi-task evolutionary deep learning algorithm. A recombination operator based on gradient information, which is calculated by distributed learning mechanism, is proposed to merge the distributed computing results. It features the advantages of traditional optimization algorithm based on gradient and heuristic search algorithm based on population search. Therefore, the proposed algorithm has a goof performance on dealing with the large-scale optimization problems. The research of this project provides a new way for deep learning. It improves the learning efficiency of deep learning, and develops its corresponding scene.

深度学习作为人工智能的重要研究方向具有广泛的应用前景。本项目拟对基于进化算法的半监督多任务深度学习进行研究并应用于基于CT图像的疾病自动诊断中。其主要研究内容及其目标如下：提出基于图像自动标注的半监督深度学习，通过半监督自动图像标注模型以扩张深度学习的可用数据集以有效利用大量的无标签数据；提出基于多任务学习的非平衡学习策略，每一个任务对应一个类，通过多任务独立并行学习每一个类的参数，从而自动均衡对多数类样本和少数类样本的学习；提出高效的基于进化算法的多任务深度学习，通过分布式学习机制计算个体的随机梯度并设计基于梯度信息的重组算子以实现分布式计算结果的融合，从而有效融合基于梯度的传统优化算法和基于群体搜索的启发式搜索算法的优势以提高算法处理大规模优化问题的性能。本项目的研究为深度学习提供了一条新的思路，提高了深度学习的学习效率，拓宽了其应用场景。

深度学习和相关人工智能技术的成功应用离不开海量数据与处理技术的支撑，特别是在需要昂贵的人工标注问题上，如医疗图像标注。解决这一问题的主要思路是充分利用无标签数据、非平衡学习、深度学习模型优化等关键技术的研发。本项目旨在针对医疗图像数据（如MRI、CT等）重点对半监督图像自动标注、面向不均衡样本的模型训练、深度学习模型优化三个研究方向深入分析，解决了技术瓶颈背后的核心科学问题。关于半监督图像自动标注方向，主要研究内容包括基于双策略的伪标签筛选策略、基于自相互学习的噪声标签修正算法、基于流形正则化系数模型构建优化框架。关于面向不均衡样本的模型训练方向，主要研究内容包括面向多种相关疾病联合诊断的多任务学习框架、兼顾多模态输入的多输出条件生成对抗网络。关于深度学习模型优化问题方向，主要研究内容包括针对树突神经模型的架构搜索算法、基于模因算法的神经网络搜索、面向高效通讯的联邦学习算法。研究成果有助于集合基于群体搜索的启发式搜索算法的优势，以兼顾深度学习模型计算的性能与效率，并着重于以具体落地应用场景需求为牵引，整合相关前沿算法的解决思路和见解，从而研发出多种有效的算法与模型，将为行业内解决相关问题时提供有效的借鉴和参考。在本项目支持下，共发表期刊论文27篇，国际会议论文8篇，培养毕业5名博士研究生，组织参与国内外学术交流11次，项目按照计划顺利完成各项指标任务。