大规模非线性方程组问题的有限记忆拟牛顿方法研究

There are many numerical methods which are the trust region method, Newton method, and quasi-Newton method etc. to solve nonlinear equations. The computation and storage of the Jacobian matrix (or a correction matrix) is necessary, which occupies obviously a large number of computer memory. Then it is difficult to solve large scale problems. The limited memory quasi-newton method is one of the most effective methods for unconstrained optimization problems, which has fast convergent rate and less storage space. Moreover, it is suitable for solving large-scale problems. This method is used to solve nonlinear equations and the paper is published in journal of SCI (MCM, 54(2011)). However, it has not been widely used in nonlinear equations problems. How to play the low storage and quick speed of the limited memory quasi-Newton method and solve successfully large-scale nonlinear equations problems is a significance work..In view of the above considerations, we will make the following studies: 1.The limited memory quasi-newton algorithms for large-scale nonlinear equations are studied, which have the global convergence and the high-order convergence rate combining with the trust region method; 2.The super relaxation technique is used and the rapid limited memory quasi-newton algorithms are designed; 3.For numerical results, the nonlinear equations with at least 100000 dimension are successfully solved by Fortran (or Matlab) code.

非线性方程组的数值方法有信赖域法、牛顿法和拟牛顿法等，这些方法需计算和存储雅克比矩阵或校正矩阵，占用大量计算机内存，很难求解其大规模问题。有限记忆拟牛顿方法是近年来出现的求解无约束优化问题非常有效的算法，它具有收敛速度快、存储量小的优点，特别适合大规模问题。我们将此方法应用于非线性方程组问题，得到的初步成果已发表在SCI期刊上(MCM,54(2011))，可有限记忆拟牛顿方法在非线性方程组中还没有得到广泛应用。如何发挥有限记忆拟牛顿方法低存储、速度快的优点，并成功求解大规模非线性方程组问题，是很有意义的研究工作。.鉴于此，本项目具体研究：1、大规模非线性方程组的有限记忆拟牛顿算法研究，获得全局收敛性，将其与信赖域方法结合，得到高阶收敛速度；2、采用超松弛技术，设计出快速的有限记忆拟牛顿算法；3、数值结果方面，利用Fortran（或Matlab）语言成功求解至少10万维的非线性方程组问题。

非线性方程组问题的求解是实际工程领域的一个重要问题，在数值天气预报、石油勘探、计算生物化学、控制领域和轨道设计等方面均有较强的应用背景。另外，最优化方法是现代管理科学的重要理论基础和不可缺少的方法，被人们广泛地应用到公共管理、经济管理和国防等各个领域，一直是国内外众多学者的研究热点。本项目主要在最优化理论与方法中的拟牛顿方法、共轭梯度法和信赖域方法方面做了较为深入的研究并将其应用于光滑和非光滑问题，同时研究大规模非线性方程组问题的有限记忆拟牛顿方法和共轭梯度法方面，探讨上述方法和问题的理论收敛性、下降性和信赖域特点，以及他们的数值表现（主要针对大规模问题）。. 在项目经费的资助下，本项目均按照预定目标顺利执行，截止目前，共发表标有基金编号的学术论文20篇，其中SCI收录14篇，EI收录9篇，中文核心期刊2篇，另有一篇论文入选ESI全球Top 0.1%“热点论文”；出版学术专著1部。培养毕业硕士研究生3名，在读硕士研究生4名。