基于神经网络群体协作的分布式优化、全局优化和多目标优化方法

Optimization is omnipresent in a variety of scientific, engineering, and business activities.The past three decades witnessed the birth and growth of neurodynamic optimization which has emerged and matured as a powerful approach to real-time optimization due to its inherent nature of parallel and distributed information processing and the hardware realizability.In this proposed research, based on multiple models operating in two-level mixed or multiple time-scales, we will develop collaborative neurodynamic approaches to distributed optimization, constrained global optimization, and multiple-objective/many-objective.The research will consist of four coherent parts. In the first part, we will analyze and design collaborative neurodynamic approaches for distributed optimization by designing proper consensus protocol under constrained communication. In the second part, we will focus on the analysis and design of collaborative neurodynamic approaches to global optimization using a population of individual neurodynamic optimization models initialized and coordinated by using evolutionary and other information exchange and goal seeking rules or dynamics. In the third part of the research, we will analyze and design multi-model/multi-time-scale neurodynamic approaches to multiple-objective optimization. In the fourth part, we aim to apply the proposed approaches to several interested areas such as nonlinear robust model predictive control, deep learning, and data/signal processing. It is expected that the accomplishments of the proposed project will significantly advance the frontiers of distributed, global, and multiple-objective optimization research from both theoretical and practical points of view.

本项目针对实际问题中广泛存在的分布式优化、全局优化、和多目标优化问题，利用神经网络在实时优化上的优势，建立基于神经网络群体协作的优化方法。针对分布式优化问题，设计神经网络模型和基于邻居信息的交互规则，并在通讯受限的情况下，分析和建立高效的分布式优化方法；针对全局优化问题，结合神经网络局部精确寻优能力和进化计算、群体智能等优化方法的全局搜索能力，建立更有效的多模型协作全局优化方法；针对多目标优化问题，根据解得最优性条件，建立神经网络模型，同时利用进化计算的思想，协调神经网络群体的中目标函数权值更新，建立既能保证解集收敛性，又能保证解集多样性的多目标优化方法。最后，将所建立的优化方法应用到非线性鲁棒模型预测控制、非负矩阵或张量分解、深度学习等重要问题中。本项目的研究将为分布式优化、全局优化和多目标优化这三个具有挑战性的课题提供新的思路与方法，并将神经动力学优化方法的研究推向一个新的高度。

分布式优化、全局优化及多目标优化问题广泛存在于自然科学、工程应用和人类经济活动中。本项目针对三类优化问题面临的挑战，提出了基于多神经网络结合群体智能算法的高效优化方法。具体而言，第一，针对分布式优化问题，以多主体分布式系统为对象，设计不同的信息交互规则，建立协作式神经网络群体模型，分析与提出了有效的分布式优化方法。 第二，针对全局优化问题，结合神经网络模型精确局部寻优能力、进化计算以及群体智能思想的全局搜索优势，提出了基于神经网络群体协作的全局优化算法。第三，针对多目标优化问题，建立了收敛到帕累托最优解的神经网络模型，并利用进化计算的思想设计了有效的权值更新规则从而提高解的多样性，提出了以神经网络群体协作为基础，收敛性与解集多样性兼备的多目标优化优化方法。第四，将所提出的优化方法应用到智能化信息处理、自主载具系统的智能规划与控制等重要问题中。该项目的完成为分布式优化、全局优化和多目标优化问题提供了高效的创新性解决方法，有力地推进与拓宽了神经动力学优化方法的发展及其应用。..研究小组在 TNNLS, NN, TCyb, TMECH, TIE, TII, TSMCS, NComp, TAC, TCST等国际重要期刊学术期刊和会议上发表基金标注SCI/EI检索论文52篇，其中SCI检索期刊论文35篇（含录用），EI检索论文17篇。项目主持人多次担任国际学术会议大会主席或程序委员会主席，应邀在多个国际学术会议上作大会报告和国内外众多院校及研究机构作学术讲座。在项目执行期间，担任 Neural Networks编委、International Journal of Neural Systems顾问编委、IEEE杰出讲师（Distinguished Lecturer）、IEEE Transactions on Cybernetics 主编（2014-2019）。项目主持人于2018年获得“吴文俊人工智能自然科学奖”二等奖，2019年获得诺伯特•维纳奖（Norbert Wiener Award）。2019年获得由IEEE系统、人与控制论学会颁发的杰出贡献奖（Outstanding Contribution Award）。2019年被科睿唯安评为全球高被引科学家（跨学科领域）。