全球非静力数值天气预报谱模式快速球谐函数变换及其并行算法研究

The fast spherical harmonic transform algorithm is one of the key techniques in very high-resolution global non-hydrostatic (NH) numerical weather prediction (NWP) model. As the horizontal resolution increases, the computational cost of the Legendre transforms becomes the performance bottleneck. The fast Legendre transform (FLT) methods using butterfly matrix compression (BMC) and FFT have a vast application prospect. This project focuses on the process of spherical harmonic transform in global non-hydrostatic NWP model. First of all, the complementary low-rank property of Legendre transform will be researched. Then, the optimal butterfly matrix compression (OBMC) will be proposed by using sweeping matrix compression method, and then a new FLT based on OBMC will be presented by using “depth-first traversal” scheme. Moreover, the conversion of Legendre-to-Chebyshev in FLT based on FFT will be accelerated by using OBMC. Finally, the parallel algorithm for the derived spherical harmonic transform will be designed and applied to the global non-hydrostatic NWP spectral model, for improving the whole efficiency of the actual numerical prediction.

快速球谐函数变换算法是全球非静力数值天气预报谱模式的关键技术之一。随着模式水平分辨率的提高，快速增长的勒让德变换计算开销成为谱模式性能提升的瓶颈。基于蝶形矩阵压缩（BMC）和基于FFT的快速勒让德变换算法是当前最具发展前景的算法。本项目针对全球非静力数值天气预报模式中的球谐函数变换过程，首先，研究勒让德变换蝶形矩阵压缩的低秩分解特性；其次，基于扫描矩阵压缩方法提出最优蝶形矩阵压缩方法（OBMC）,再次，基于深度优先搜索策略，提出预处理开销小的基于OBMC的快速勒让德变换算法；然后，使用最优蝶形矩阵压缩方法，加速基于FFT的快速勒让德变换算法中勒让德系数与切比雪夫系数的转换过程；最后，进行快速球谐函数变换的并行算法设计与程序实现，并将研究成果应用到全球非静力数值预报模式中，提高预报的计算效率。

快速球谐函数变换算法是高分辨率全球非静力数值天气预报模式的关键技术。随着模式水平分辨率的提高，快速增长的勒让德变换计算开销成为模式性能提升的瓶颈。本项目针对全球非静力数值天气预报模式中的球谐函数变换过程，设计和实现了基于稀疏数据存储结构的快速球谐函数变换算法；分析和研究了超高分辨率基于蝶形矩阵压缩的快速球谐函数变换的潜在不稳定性和勒让德变换插值分解过程的误差特性；针对高阶勒让德变换的潜在不稳定性，提出了基于勒让德-范德蒙德矩阵块分割和蝶形算法的快速勒让德变换算法；为了进一步提升性能，设计和实现了单精度快速球谐函数变换算法。最后将研究成果应用到高分辨率全球非静力数值预报模式中，有效提高了预报的计算性能。