进化融合学习自适应的随机优化方法研究

The high dimensionality, environmental variation and diversity of modern optimization problems present significant challenges to existing optimization methods, especially in terms of their applicability and adaptive learning ability. To address them, this project aims to propose a universal multi-method ensemble learning-based adaptive stochastic optimization method by adopting statistical learning theory. The research will address the following three issues: the framework, adaptive strategies and algorithm analysis and assessment. First, we will propose an evolutionary ensemble framework for adaptive synergetic of multi-method parallel ensemble and multi-decision periodical ensemble, to reduce the method-selection dependence by exploring its global learning ability, based on the basic flow of stochastic optimization. Second, we will propose adaptive evolutionary ensemble strategies which can fast track environmental changes, enrich diversity effectively and reduce information redundancy; and study nonlinear mapping of manifold learning to embed an iterative optimization model effectively, so as to design an efficient local search model with dimensionality reduction. Finally, we will establish the standard evaluation system and simulation platform, work out the statistically applicable relations between the problems and the new problem-solving methods, and present a specific realization algorithm with their systematic and theoretical analysis, simulation result evaluation, and verification of their engineering applications. Through the porposed in-depth research, this project will provide technical support and theoretical guarantee for stochastic optimization theory and methods and their applications to large-scale dynamic optimization problems.

现代工程与管理优化问题的高维化、环境多变及多样性特征，对优化方法的通用性与自适应学习能力提出了挑战。为此，本项目将利用统计学习原理，研究提出一种通用的多方法融合型自适应随机优化方法。项目拟就方法框架、自适应策略和算法分析评价三个方面展开：首先，基于随机优化算法基本流程，构建多方法并行融合与多决策阶段融合的自适应进化融合框架，发挥全局学习能力，降低方法选择依赖性；然后，研究快速跟踪环境变化、有效保持多样性、减少信息冗余的进化融合自适应策略；研究流形学习的非线性映射有效嵌入迭代优化的模式，并设计基于降维重构的高效局部搜索模型；最后，建立标准化评价系统和仿真测试平台，统计现行新解生成算法与问题的适用关系，给出一种具体实现算法，并进行系统性的理论分析、仿真测评与工程应用验证。通过本项目的深入研究，将为随机优化理论与方法的发展，以及大规模动态优化问题的研究提供技术支撑与理论保障。

本项目针对复杂动态环境优化问题，围绕融合学习与自适应进化两个关键科学问题，系统深入研究自适应学习优化模型与算法。（1）运用聚类方法自适应划分子群，提出了一种用于多峰优化的群体聚类学习进化框架CLEAs；针对噪声环境，引入学习自动机自适应分配计算资源，提高算法效率；并通过引入改进对立学习策略增加群体多样性，提出了噪声优化的对立学习框架OBLEAs。（2）结合AdaBoost原理，研究提出基于降噪的不平衡数据融合学习框架X-KF；采用多目标遗传规划MOGP进行多分类融合学习构造；通过数据匹配权重和迭代优化，实现了一种基于动态权重的无监督融合学习框架。（3）面向动态目标探测，提出了漂移多尺度检测测试新框架MDDT，快速跟踪环境变化；研究提出压缩感知自适应重构和降维算法，提出了快速的减少冗余的子空间分布匹配迁移框架ESDM。（4）系统分析了群体及网络模型的动态行为，研究设计新型自适应进化策略，提出一系列高效的智能优化算法MWO、TBOA、BBPSO+、PSO-GA+、FTBA、Backtracking BBO等；针对多目标优化问题，提出了一种模块化组合进化框架HMOEAs和权重融合多目标进化框架WAMOEAs，提出了一系列自适应多目标进化算法HMOEA/D、MOEA/D-CRA、MOBBO、UMOPSO-D等，成功应用于能源管理、管网优化及工业控制等复杂工程优化问题。（5）采用模糊理论和极限学习机，提出了一种进化算法性能评价新方法；面向智能优化与机器学习研究领域，自主开发了一个基于Web的集图形化、模块化编程和在线编程功能的计算平台AIThink。.项目组通过四年的系统化研究工作，取得的研究成果包括：发表相关学术论文36篇（其中SCI/EI收录33篇，IEEE Transactions论文 6篇），出版学术专著1本，申请发明专利6项。项目组成员晋升教授2名，晋升副教授2名，博士后出站1名；培养研究生10名，其中毕业博士生2名，硕士生8名。国际交流广泛，有29人次参加国际学术会议，作学术报告7人次。达到了项目的预期目标，详见研究成果目录。另外，在本项目研究基础上，项目组申请获批国家自然科学基金3项。