基于异构系统的混合智能可扩展并行算法研究与探索

Serial intelligent optimization algorithms have difficulties in dealing with large-scale optimization problems. Making full use of all computing resources, CPU/GPU/MIC heterogeneous system has achieved a coarse-grained and fine-grained parallelism. This project is intend to improve the basic intelligent algorithm. It will propose four kinds of improved serial algorithms, and then achieve these improved serial algorithm in CPU/GPU/MIC heterogeneous systems by using combination of MPI/OpenMP and CUDA programming model, which can not only greatly accelerate the calculation speed of the algorithm, but also improve the calculation accuracy of the algorithm significantly, showing a broad practical value.. This project will present a new way of solving high dimensional and complex large-scale optimization problems, that is a CPU/GPU/MIC heterogeneous system computing model based on self-organized and self-adaptive intelligence algorithms, which can improve the speed and accuracy of the algorithms in solving problems. Expected results can effectively reduce the computation time of intelligence algorithms, improve the solution quality, and provide a new effective method in solving practical high-dimensional and large-scale optimization problems. The project will solve the optimization of grid parameters in singular perturbation problems by using parallel intelligence algorithms based on the heterogeneous parallel systems.

串行智能优化算法面对大规模复杂优化问题具有严峻挑战。CPU/GPU/MIC异构系统充分利用所有计算资源，实现了粗粒度和细粒度的全并行，本课题首先将基本的智能算法进行改进，拟设计四种改进的串行算法，然后将这些改进的串行算法在CPU/GPU/MIC异构系统上采用MPI/OpenMP与CUDA相结合的编程模式实现，既可以大大加快算法的计算速度，同时又可以明显提高算法的计算精度，展现了广阔的实际应用价值。. 本课题最终将给出一个求解高维复杂函数大规模优化问题的新途径：基于CPU/GPU/MIC异构系统的计算模型下的自组织、自适应的智能算法，提高求解问题的速度和精度。预期结果可以有效地缩短进化算法的计算时间，提高解的质量。为解决实际问题应用中的超高维大规模优化问题提供新的有效途径。本课题将基于异构并行系统的并行智能算法用于奇异摄动问题中的网格参数优化。

在科学计算与工程优化中存在许多大规模复杂优化问题，如何设计精确高效且稳定的计算方法来解决这些问题意义重大。为此，本课题设计了4种并行智能优化算法，并利用高维复杂函数和奇异摄动问题来验证它们的性能。主要研究成果如下：.1)提出了基于CPU-GPU的并行混沌布谷鸟搜索PAMSCCS算法。通过对20个Benchmark函数的测试，该算法在NVIDIA GeForce GTX 970设备上达到了平均26倍、最高81倍的加速比。.2)提出了基于CPU-GPU的并行量子行为遗传PQBGA算法。通过对25个CEC’2005函数的测试，该算法在GeForce GTX 970设备上能达到平均140倍、最高626倍的加速比。 .3)提出了基于多核CPU+多GPU的并行多种群差分粒子群优化PMPDPSO算法。通过对20个CEC’2010 的1000维函数的求解，基于GeForce RTX 2080Ti设备的单节点PMPDPSO和基于天河一号的多节点PMPDPSO分别获得了平均127倍、最高205倍以及平均515倍、最高592倍的加速比，实现了精度和效率双赢的效果。 .4)提出了基于CPU-GPU的并行杂草优化PIIWO算法，对CEC’2010函数进行测试，在GeForce GTX 970设备上能获得平均22倍、最高38倍的加速比。另外还提出了基于多核CPU+多GPU的并行多种群混合入侵杂草优化PMPHIWO算法。通过对CEC’2010函数的测试，基于GeForce RTX 2080Ti的单节点PMPHIWO和基于天河一号的多节点PMPHIWO分别获得了平均164倍、最高261倍和平均467倍、最高574倍的加速比。通过对二维奇异摄动问题的求解，单节点PMPHIWO能获得平均173倍、最高235倍的加速比。.本课题所设计的并行算法性能突出、效果显著，为其它智能优化算法的改进和并行化以及其它科学工程优化问题的有效迅速求解提供了借鉴和参考。