多目标深度神经网络模型及学习算法

The rise of deep learning is largely due to the large amount of available data. At present, in the field of information technology, due to the continuous expansion of storage capacity, the generation of massive data, the development of big data technology, the data characteristics handled by the neural network have undergone a fundamental change. This brings new challenges to the structural design, parameter selection, algorithm training and timeliness of the neural network model. Firstly, this project will introduce multi-objective learning and optimization framework to the deep neural network model and algorithm, which will optimize the network structure and parameters effectively, accelerate the convergence speed, and achieve efficient learning, expecting to acquire exponential growth knowledge from the exponential growth data. Secondly, the critical issues which lie in the complex distribution and large sample data clustering in new models and learning algorithms will be analyzed and solved, such as the selection of the deep learning models, the design of the multi-objective learning framework structure, the selection of the objective functions, the design of the training algorithm, the selection of the learning strategy and the analysis of the parameters and computational complexity. Finally, on the basis of theoretical research, the availability and scalability of the proposed method will be verified with some challenging problems, such as the segmentation of remote sensing images and the analysis of complex network structure.

深度学习的兴起很大程度上归功于海量可用的数据。目前，信息技术领域，由于存储能力的不断扩展，海量数据的产生，大数据技术的发展，使得神经网络所面临的数据特性发生了本质的变化。这给统计学习意义下神经网络模型的结构设计、参数选取、算法训练，以及时效性等方面都提出了新的挑战。本项目拟采用多目标学习与优化框架，针对大数据设计有效的多目标深度神经网络模型及学习算法，优化网络结构和参数，加快收敛速度，实现高效学习，以期从指数增长的数据中获得指数增长的知识。分析并解决新模型与学习算法在求解复杂分布和大样本数据聚类中的关键问题，包括选择适合问题的深度学习模型、构造多目标学习框架、选取目标函数、设计训练算法、选择学习策略、分析参数以及计算复杂度等。并且在理论研究的基础上，开展新方法在复杂背景下的遥感图像分割和复杂网络结构分析等问题上的应用研究，以验证新模型和算法的有效性与先进性。

在信息技术领域，由于存储能力的不断扩展，海量数据的产生，大数据技术的发展，使得神经网络所面临的数据特性发生了本质的变化。这给统计学习意义下神经网络模型的结构设计、参数选取、算法训练，以及时效性等方面都提出了新的挑战。本项目采用多目标学习与优化框架，针对大数据设计有效的多目标深度神经网络模型及学习算法，优化网络结构和参数，加快收敛速度，实现高效学习。分析并解决新模型与学习算法在求解复杂分布和大样本数据聚类中的关键问题，包括选择适合问题的深度学习模型、构造多目标学习框架、选取目标函数、设计训练算法、选择学习策略、分析参数以及计算复杂度等。并且在理论研究的基础上，开展新方法在复杂背景下的遥感图像分割和复杂网络结构分析等问题上的应用研究。本项目研究成果共计发表SCI 检索的国际期刊论文46 篇，其中中科院分区一区期刊11篇、中科院分区二区期刊26篇。研究成果发表在包括人工顶级期刊《IEEE Transactions on Neural Networks and Learning Systems》、《IEEE Transactions on Cybernetics》、《IEEE Transactions on Geoscience and Remote Sensing》、《Knowledge-Based Systems》和《Pattern Recognition》等相关领域主流国际刊物。申请国家发明专利8 项、授权国家发明专16 项、转让专利 10项，出版专著3部。项目执行过程中，本项目培养博士研究生3人、培养硕士研究生 7人。参加国外召开的国际会议3人次、参加国内召开的国际会议29人次、应邀访问交流5人次。在项目执行过程中，项目负责人尚荣华2019年入选西安电子科技大学华山学者特聘教授。同时将科研成果融入教学，于2021年获批“陕西省研究生教育课程思政示范课程”、2021年获陕西省省级优秀教材一等奖、2021年获校“优秀共产党员”称号，2021年被聘为西安电子科技大学专业课程思政首席教授。