利用对抗学习的分类器设计理论及应用研究

The objective of this project is to engage the robust minimax theory to develop a unified adversarial classification framework that takes into account uncertainty from data. Aiming at promoting the classification performance of deep neural networks, e.g., Generative Adversarial Networks (GAN), the proposed methodology attempts to exploit the adversarial setting (in particular the theory of adversary example) to study classification approaches as well as the involved efficient optimization algorithms. The intended research will target a unified and scalable adversarial classification framework that assumes no specific attack, no specific perturbation, and no specific loss function. Our proposed research is of great significance in theory and will make impact in pattern recognition and machine learning. It is also of great value in practice and is expected to be applied extensively in many real systems so as to better serve the economy and national defense of our country.

本研究尝试考虑数据的不确定性，在理论上建立一种统一鲁棒的最小最大(最大化最坏情况下)的识别精度的对抗学习分类器设计及其应用框架；我们将针对深度神经网络比如生成对抗网络，利用对抗样本（adversarial example）的思路，研究其分类算法和高效优化算法，开发具有可扩展性、不针对特定攻击、特定扰动、特定损失函数的一种相对普适的对抗分类器设计方法。基于对抗学习的分类器设计方法具有较强的理论意义和学术影响，或有助于推动模式识别和机器学习领域的发展，同时又具有重要的应用价值，可被期待应用于模式识别和人工智能相关的各种场合当中，为国民经济建设和国防安全等服务。

本研究尝试从数据扰动产生对抗样本的思路出发，利用鲁棒学习理论，不针对特定的对抗攻击或者数据扰动方式，而是采用合理的最小最大优化方式，从已有训练数据出发，充分考虑数据不确定性，在数学和理论上建立一种最大化最坏情况下的识别精度的分类器设计框架。我们探讨了我们统一的对抗样本分类器学习框架和传统的对抗样本学习方法的理论关系；解释对抗样本的有效性；探讨和研究对抗样本学习在传统深度神经网络如卷积神经网络和其余分类器方法上的具体实现。本项目很好地完成了研究目标。具体而言，1）我们研究出了一系列具有较高创新性和理论价值并具备实用性的基于对抗学习的分类器设计、模式识别和机器学习算法。我们进行了对抗学习基础理论和方法、利用对抗学习进行增强分类器的鲁棒性和精度研究和其余利用对抗学习的鲁棒框架研究 2) 我们发表了一系列高水平论文:在机器学习和模式识别的主流国际刊物发表论文33篇，其中SCI论文32篇，含IEEE或ACM Trans. 10篇；在国际主要学术会议发表论文13篇，包括国际顶会7篇CCF A类会议论文，即ICML(1)，NeurIPS(1)，ICCV (1)， ACM Multimedia (2)，AAAI(2)等，3篇CCF B类会议论文ECCV(2), NAACL(1)，超额完成了项目的研究目标。此外，我们的研究成果获得了国际主流会议CCF推荐会议ICONIP2020最佳候选论文奖，国际主流会议BICS2019最佳学生论文和最佳论文奖，国际会议CMVIT2022最佳论文奖。3）我们发布了一个供研究者使用的验证鲁棒学习和分割的3D数据库Scaffold-A549，该数据从实验室实际搜集得到，该数据库论文发表于国际主流期刊Cognitive Computation 2021,并可在https://github.com/Kaiseem/Scaffold-A549下载，供广大研究者使用。