用于求解双层规划问题的集群协作式神经网络优化模型探究

Bi-level programming problem (BLPP) is a class of hierarchical structure optimization problems, which is omnipresent in the production scheduling, intelligent transportation, and etc. To satisfy the needs in dealing with big data, real-time problem-solving ability becomes increasingly important. Neural network, which is considered as a parallel computation approach, is capable of real-time optimization. In order to solve the nonconvexity and hierarchy in bi-level optimization problems, our project aims to establish collaborative neurodynamic optimization approach to obtain the global optimal solution of bi-level programming problems in real-time...In the first part, we will analyze and design the partitioning rules for nonconvex regions in bilevel optimization problems, then the optimization problem is hopefully transformed into several convex optimization problems. In the second part, considering the hierarchy of bilevel optimization problems, we will focus on the exchange rules and dynamics of neural networks in different time scales. The stability and synchronization among the neural networks will be further analyzed. In the third part, we will analyze and design cooperative approaches based on the global search ability of evolutionary computation. Cross, mutation and selection among neural networks will be applied to establish more effective multi-model cooperative neurodynamic approaches for solving the bilevel optimization problems.Finally, the proposed collaborative neurodynamic optimization method for solving bi-level optimization problems will be applied in flexible production scheduling . It is expected that the accomplishments of the proposed project will significantly advance the frontiers of neural networks and optimization, from both theoretical and practical points of view.

双层规划问题是一类具有主从递阶结构的优化问题，在生产调度、智能交通等领域有着广泛的应用。在工业大数据背景下，双层优化问题的实时求解愈发重要。神经网络作为一种并行计算方法，具有实时求解的天然优势。现有的神经网络优化算法主要用于求解凸或广义凸优化问题，而鲜有用于求解双层规划问题。为应对双层规划问题中的非凸性、优化目标具有递进性层次性等难点，本项目旨在建立集群协作式神经网络优化方法，以实时地获取双层规划问题的全局最优解。.本项目针对双层规划问题的非凸可行域，将设计可行域的划分策略并证明其等价性；针对其层次性目标，将设计不同时间尺度的神经网络交互与协作方案，并分析其稳定性和同步性；针对目标函数非凸的情况，将设计神经网络群体的交叉、变异、选择等进化协作方案，建立多模型协作的全局优化方法；最后将所建立的神经网络方法应用到柔性生产调度中。本项目工作将不仅在理论上且在实践上，推动神经网络动力学优化的发展。

本项目以申请书的研究内容为基础，按计划顺利完成了既定目标，取得了相关的研究成果，主要包括如下几个方面：.1、在理论方面取得了如下创新性成果：（1）在基于神经动力学优化方面，考虑了对于上层和下层优化问题都为凸的双层优化问题，首先运用K.K.T 条件等价为带有互补等式约束的单层优化问题。随后，对于这类可行域的非凸的单层优化问题，建立有效策略将可行域划分成有限个凸域的并集。最后， 运用神经网络模型求解凸优化子问题，并设计神经网络群的协作模式，从而可求得双层优化问题的最优解。.（2）在不同神经网络协作方法的研究方面，设计不同尺度的神经网络交替优化方案。通过求解变分不等式约束从而得到决策变量 的描述关系。设计这两种神经网络的交互与协作关系，从而可求得整个双层优化问题的最优解。 .（3）多神经网络协作的研究方面，结合深度学习神经网络，运用多网络集成的方法将深度学习目标检测精度提高了20%，漏检率降低80%。.2、在应用方面取得了如下突破性成果：（1） 对于多个机械臂协作问题，运用多层次决策方法，成功实现双臂协作装配，并应用于智能制造示范生产线。（2） 对于基于数据的工厂调度方面，采用多层次多尺度的决策优化方法，使得上海汽车粉末冶金公司的生产排产和运行维护效率大幅提高。.3、该项目发表论文11篇，其中中科院二区以上SCI论文5篇，EI会议论文6篇。在青年基金项目资助期间，项目负责人累计获得上海市自然科学基金等5个省部级项目资助，入选上海市浦江人才，上海市青年科技启明星人才，担任国际SCI期刊Neural Processing Letters客座编委。