正则化总体最小二乘问题的高性能算法及理论研究

The ill-conditioned total least squares problems occur frequently in image restoration, signal processing, Geo-information system and statistics etc.. So as one of the important research subjects, the high-performance numerical algorithms have not only the mathematical theory of great significance, but also the application background and important value.. In the project we will focus on the high-performance iterative regularization algorithms on ill-conditioned total least squares problems as well as the relevant pre-conditioned techniques and other iterative acceleration techniques. At the same time, we also study the regularization algorithm with the global convergence and the related theoretical issues. The concrete research content mainly involves the following aspects: (1) The high-performance numerical algorithms for ill-conditioned total least squares problems with quadratic constraints and their pre-conditioned techniques and other acceleration techniques. (2) The Tikhonov regularization methods for univariate total least squares problems. (3) The iterative regularization method by truncation and the high-performance Tikhonov-like regularization methods for multivariate total least squares problems as well as related theoretical issues.

在图像恢复、信号处理、地理信息系统以及统计学等领域中, 常常遇到病态总体最小二乘问题的求解问题. 因此，作为目前国际上的一个热点研究课题之一，病态总体最小二乘问题的正则化高性能算法研究不仅具有重要的数学理论意义，而且具有重要的应用背景与价值. . 本项目主要研究病态总体最小二乘问题的高性能正则化迭代算法以及相关的的预处理技术和其他迭代加速技术. 同时研究具有全局收敛性的正则化算法及相关的理论性问题. 具体研究内容主要涉及以下几个方面：(1) 研究 （一维，即单右端项）病态总体最小二乘问题在二次等式或不等式约束条件下的高性能正则化迭代算法及相关的预处理技术和其他迭代加速技术. （2）研究（一维）病态总体最小二乘问题无约束条件下的Tikhonov正则化高性能算法. （3）研究多维病态总体最小二乘问题在截断正则化下的迭代求解算法以及Tikhonov型的高性能正则化算法及相关的理论问题.

本项目所研究的总体最小二乘问题及其相关课题在图像处理、统计学、控制论以及其它大规模科学计算问题中有着重要的应用背景, 因此， 其高性能算法理论及相关课题的研究不仅具有重要的数学理论意义，而且具有重要的实际应用价值.. 本项目主要研究了以下几个方面的问题：首先研究了总体最小二乘问题基于Lanczos双对角化的求解算法及其收敛性，同时给出了误差界的估计. 作为一种迭代型算法，还给出了适当的终止准则，不仅克服了传统标准的矩阵奇异值分解算法不适合大规模问题的缺点，还可作为病态总体最小二乘问题的一种正则化求解算法。当总体最小二乘问题解不唯一时，给出了其极小范数解条件数的上界估计；在推广的总体最小二乘问题模型定义下给出了极小范数解条件数的精确表示式及其可计算的最优上下界估计式，改进并统一了近年来国内外学者关于奇异值截断正则化解等相关结果. 对混合总体最小二乘问题的解进行了扰动分析，具体给出了解的扰动界估计。其次，研究了与最小二乘问题相关的鞍点型正则化求解算法及其在图像处理中的应用，同时研究了各种广义鞍点问题的向后误差及其可计算表示式，为相关的数值求解算法提供了良好的终止准则. 考虑到总体最小二乘问题是一种无约束优化问题，最后，研究了无约束优化的一些高性能梯度求解算法。作为本项目研究的附加内容，还对张量特征值等问题还进行了研究，给出了对称张量Z-特征对的一个三次收敛算法以及Z-特征值的最优估计界，极大地改进了国内外学者的相关结果.