面向高性能数值计算的浮点舍入误差分析及精度优化研究

Floating point word length directly determines the rounding error and the precision of floating-point computing results. With the increase of the problems scale and the system scale, the influence of floating-point word length and floating-point operation accuracy is increasingly becoming Key factors to the stability and credibility of numerical simulation application, and it is urgent to study the effect of floating-point word length on the accuracy of high-performance computing applications, and to guide the design, implementation and optimization of high-performance computing applications to minimize the negative impact of floating-point word length, as well as achieve a comprehensive balance of accuracy and performance. The project will focus on typical high-performance computing application fields, such as computational fluid dynamics, energy and materials and other major industries, and perform an research on the credibility, stability and performance impact,and the research on the precision error influence and precision optimization. The project mainly introduces the floating point influence research from the large scale, parallel mode and application characteristics of high performance computing, and to guides the design of high performance computing application and the comprehensive balance optimization of floating point length, precision and performance based on the research theory.

浮点字长直接决定了浮点舍入误差和浮点计算结果精度,浮点舍入误差主要导致数值计算精度问题和计算结果不确定问题。超大计算规模、并行模式和应用特征的引入,使得在高性能数值计算中,浮点舍入误差问题有别于传统串行小规模程序,同时也使得浮点误差问题更为突出。本项目将面向计算流体力学、能源和材料等重大行业典型高性能计算应用,针对浮点字长对这类应用程序可信性、确定性和性能的影响,展开面向高性能数值计算的浮点舍入误差分析和精度优化研究。项目主要从高性能数值计算的计算规模、并行模式、应用特征等入手展开浮点舍入误差传播行为研究,并基于该研究理论指导精度优化和确定性优化研究。

本项目研究了浮点数对嵌入式计算机中高性能数值计算的影响及优化技术，主要在于三个方面，一是通过算法中混合浮点精度优化以对计算进行加速，二是研究算法中浮点数的计算不稳定性以及浮点稳定性优化技术，三是基于编译技术设计并实现了一种自动化分析工具，以自动定位算法中的浮点不稳定来源。.降低算法中部分浮点数的精度以加速算法的运行速度，即混合精度技术。本论文研究了共轭梯度迭代法，在GPU平台上的CUDA环境中，通过降低矩阵共轭梯度迭代法中的多项式预处理子的精度，以加速求解线性方程组的速度，这种技术对不同矩阵的求解加速比最高可达约1.67倍，平均加速比约为1.32倍。.浮点计算稳定性是自计算机科学发展以后就被广泛研究的问题，对任何的抽象算法，放在计算机中也可能由于有效位数的限制导致计算结果不精确，从而实用性不大，本项目详细研究了一元二次，三次，四次方程的求解算法，根据现有环境中对数值稳定性要求，手工优化其程序流程，从原本的三种算法的精确率99.9935%、58.2868%、67.4891%分别提升为100%、100%，99.9976%，使得算法稳定性满足工程要求。.手工优化算法的浮点稳定性的缺点是需要关于数值计算理论的专业知识，也需要专业人员在算法运行中一步步跟踪中间结果，因此定位数值不稳定的位置需要花费大量的时间，本项目基于LLVM开发了一个浮点计算稳定性分析的自动化工具，在不修改源程序代码的情况下，在编译中间过程中插入相应的浮点稳定性分析代码，从而能够自动探测算法各个位置的真实有效位数，极快地加速研究人员对已有算法的数值稳定性分析过程。