面向非完备标注场景的迁移学习研究

With the rapid development of big data and deep learning, the artificial intelligence and computer vision has achieved great progress. However, they are usually applicable to some specific task, and will degenerate when applied in new tasks or scenarios due to the large discrepancy between different tasks or scenarios. Transfer learning is a kind of technology that can share or transfer knowledge between different tasks or domains, which has attracted more and more attentions. To deal with the challenge of the transfer learning, this project will study on the following issues: adaptive distance metric learning of distributions based on the structure learning of domains, modeling the commonality and possibility of transfer, jointly modeling of commonality and particularity of domains, and finally studying the consistency embedded in the incompletely labeled data. The project is expected to transfer the knowledge between domains, and promote the application with incompletely labeled data.

随着大数据与深度学习等技术的发展，人工智能技术与计算机视觉技术取得了飞速的进展。然而，这些技术通常只能处理特定的任务，在应对实际应用中不断变化的场景与层出不穷的新需求时依然存在巨大挑战。不同场景下的数据分布存在的巨大差异是影响这些技术普适性的关键因素。迁移学习技术即是在不同场景进行知识共享与迁移的一类技术，近年来受到了广泛关注并取得了长足的进步，但仍存在诸多挑战。因此，本项目拟对迁移学习开展研究，尤其是面向真实应用中非完备标注场景的迁移学习。具体研究内容包括：在数据层面研究基于领域分布结构化建模的自适应分布距离度量；进而，在迁移建模层面探索领域间共性信息及可迁移性建模，研究领域间共性信息与个性信息的联合建模；最后，在标注层面研究非完备标注约束下的结构一致性建模。本项目预期可以有效地实现不同场景间的知识共享与迁移，促进迁移学习在非完备标注数据场景的应用。

近年来，人工智能技术与计算机视觉技术取得了飞速的进展。但这些技术通常只能处理特定的任务，在应对实际应用中不断变化的场景时依然存在巨大挑战。不同场景下的数据分布存在的巨大差异是影响这些技术普适性的关键因素。迁移学习技术即是在不同场景进行知识共享与迁移的一类技术。本项目面向真实应用中非完备标注场景的迁移学习从三个层面开展了四个方面的研究工作： .（1）在领域分布的结构化建模及分布距离度量层面，研究了源域与目标域在全局分布与局部结构上一致的层级分布对齐方法，揭示了领域分布层级化建模的必要性与有效性，进而探索了利用生成对抗网络判断并拉进不同域间的分布距离。这些工作为后续的迁移建模提供了分布距离度量的基础。.（2）在迁移建模层面，一方面研究了域间共性与可迁移性建模，针对不同视角域的共性建模，提出了渐进校准网络方法，从而将不同视角的域渐进地转换到公共域上得到多视角域的公共表示，验证了利用域间关联性进行渐进共性建模的有效性。进而，研究了共性与个性信息联合迁移的思路，提出了双流生成对抗网络，通过域转换同时对共性及个性信息进行联合迁移，揭示了个性信息对于共性信息具有良好的补充作用。.（3）在非完备标注下的结构一致性建模层面，研究了多任务协同的弱监督物体检测、自监督弱监督语义分割、以及元学习小样本物体识别方法，探索了非完备标注下的信息迁移，以提升实际应用目标域的非完备标注建模效果。..综上，本项目围绕非完备标注下的迁移学习问题形成了一套“以分布度量为迁移基础、以共性个性联合迁移为方法、以非完备标注下迁移建模为最终目标”的紧密衔接的理论与方法，显著提升了跨域物体识别、数字识别、人脸识别等迁移任务的识别性能，发表学术论文21篇，引用100余次的文章4篇，同时部分工作应用于数据堂公司的数据标注平台，协助解决了大规模人工智能数据标注自动化程度低的问题，数据生产效率提升30-40%。协助培养硕士生4名，博士生3名。