结合先进机器学习方法的代理模型进化算法研究

Evolutionary Algorithms assisted by computationally cheap surrogate models that partially substitute computationally expensive objective functions are very promising techniques for solving complex optimization problems. However, the training quality of a surrogate model, the suitability of surrogate model adopted and the final approximated values used as the fitness of an individual will directly influence the correctness and efficiency of the evolutionary search. In this project, active learning will firstly be introduced to select training samples to ensure that the selected new samples will most effectively contribute to the enhancement of surrogate. Then, strategies for selecting the most beneficial surrogate model from a set of surrogates will be investigated based on the uncertainty of the approximated fitness values. In addition, semi-supervised learning techniques will be studied to choose individuals with approximated values, focusing on the trade-off between the amount of new information an individual contains and its accuracy in fitness approximation, which we hope to further improve the generalization ability of the surrogate models. Finally, decision fusion technologies will be employed to infer the fitness of an individual by integrating fitness approximations obtained by global and local surrogate models to achieve a better balance between exploration and exploitation and accelerate the convergence. The outcome of the proposed project is expected to significantly improve the applicability of evolutionary algorithms to solving complex industrial optimization problems, which is ofvery high practical impact..

使用计算廉价的代理模型代替实际的计算费时的目标函数是进化算法用于解决复杂优化问题的一种有效策略。然而，代理模型的训练好坏、代理模型选用的合适与否以及个体最终估值的确定都将会直接影响进化算法寻优的准确性和效率。本项目首先拟基于主动学习技术根据代理模型所期望发挥的作用为代理模型选择训练样本，之后针对代理模型集基于估值不确定性研究其最有效代理模型的选用策略。再次，利用半监督学习技术通过权衡估值个体含有的信息量和估值准确性选择若干估值个体作为新增样本，以进一步提高代理模型的泛化能力。最后，利用决策融合技术对全局、局部代理模型的估值进行融合作为个体的适应值估值，以辅助进化算法更好的平衡其开发和开采能力，加快其收敛速度。本课题的研究成果将进一步提高进化算法求解复杂工业优化问题的能力，具有重要的实际应用价值。

随着实际优化问题的复杂化，对优化问题的设计性能评价，即目标函数，往往通过一些高精度的数值分析方法来实现，而这些高精度的数值分析方法往往需要耗费大量的计算时间。而进化算法在获得最优解之前往往需要大量的设计性能评价，这就限制了其在性能评价计算费时的优化问题上的应用。近年来，代理模型辅助的优化算法求解计算费时的复杂优化问题逐步受到学者们的关注。然而，模型管理仍然是代理模型辅助的优化算法中最重要部分。本项目主要从样本选择策略、模型选择策略、模型混合策略等方面展开研究。从样本选择策略方面，基于微粒群算法进化特点以及基于高斯相似度和目标空间崎岖度分别提出了使用真实目标函数实际计算的个体选择策略。从模型选择策略方面，基于目标函数空间特征以及不同模型的特点提出了自适应模型选择策略。在混合模型策略方面，首先基于信頼域搜索算法和RBF辅助的微粒群算法提出了一种新的混合策略用于有效求解低维复杂优化问题；之后又提出进化估值策略辅助的微粒群算法和RBF辅助的社会学习微粒群算法的混合算法，用于快速有效的求解高维复杂优化问题。此外，一方面对进化估值策略进行了扩展和修改，将其应用于多目标复杂问题的优化以及大规模复杂问题的优化中，另一方面对Kriging辅助的优化算法的核函数进行了研究，通过实验测试分析了核函数的选择对搜索算法的影响。该项目的研究不仅为求解计算费时的复杂优化问题提供了新的有效方法，而且可进一步为实际复杂工程问题的优化设计提供技术和理论依据。该项目所取得的成果已发表在《IEEE TRANSACTIONS ON EVOLUTIONARY COMPUTATION》、《Memetic Computing》等该领域知名期刊以及CEC、SSCI等知名国际会议上，发表与录用11篇、修改2篇。