约束极大极小随机优化的增广Lagrange方法

Minimax stochastic optimization with constraints is a kind of important problems in stochastic optimization, which has been widely applied in subjects such as inventory theory and robust optimization, and engineering field. This project will study the sample average approximation augmented Lagrange method for minimax stochastic optimization with constraints. The main research contents are as follows. Firstly, the convergence and the convergence rate with probability 1, and the exponential convergence rate of probability for the the sample average approximation augmented Lagrange method as the SAA subproblem is solved exactly, are presented.Secondly, the criterion is established for the SAA subproblem being solved inexactly, and then the convergence and the convergence rate with probability 1, and the exponential convergence rate of probability for the the sample average approximation augmented Lagrange method under the inexact criterion，are proved. Thirdly, the almost sure condition number of the Hesse matrix of sample average approximation augmented Lagrange function is analyzed, which is closely related to the effenciency of the augmented Lagrange algorithm. Lastly, the effective procedure for the concrete algorithm is programmed by Matlab language to solve several practical examples with key application value. The anticipated results will play an active promoting role for the devolopment of stochastic optimization.

约束极大极小随机优化是随机优化领域中的一类重要问题，它在存贮论，稳健优化等学科和工程领域中有着广泛应用。本项目将研究约束极大极小随机优化的样本均值增广Lagrange方法。主要研究内容包括：分析SAA子问题精确求解时样本均值增广Lagrange方法的概率1意义下的收敛性与收敛速度，以及概率的指数收敛率；建立SAA子问题非精确求解的准则，证明在此非精确准则下的样本均值增广Lagrange方法的概率1意义下的收敛性与收敛速度，以及概率的指数收敛率；研究和算法的有效性密切相关的样本均值增广Lagrange函数之 Hesse阵的概率1意义下的条件数；以Matlab语言为工具，编制有效的具体算法程序，用于求解几个具有重要应用价值的实际例子。期望项目的研究可对约束极大极小随机优化的发展其积极促进作用。

约束极大极小随机优化是一类应用面较广的随机优化问题，也是非光滑优化中的一类特殊问题。增广Lagrange 方法的数值优越性不仅在优化的传统分支中体现出来，且在新兴分支(尤其半定规划)中也日益凸显，而至今将增广Lagrange方法应用于随机优化中的研究工作尚不多见。因此，对于约束极大极小随机优化的增广Lagrange方法的研究是一个值得探索的课题。.本项目首先研究了无约束和约束极大极小确定性优化问题的增广 Lagrange方法，在一些假设条件下，证明了这些方法的收敛性，分析了相应于增广Lagrange函数之 Hesse阵的条件数，并用这些方法对一些经典算例进行了数值实验；然后基于上述增广Lagrange函数分别提出了相应于无约束和约束极大极小随机优化问题的样本均值增广Lagrange方法，详细分析了样本均值增广Lagrange方法的SAA子问题的概率1意义下的收敛性结果以及样本均值增广Lagrange方法的概率1意义下的理论结果，接着以Matlab语言为工具，编制出具体的有效算法程序，初步的数值结果显示出样本均值增广Lagrange方法具有一定的应用潜力；最后本项目又探讨了若干随机优化问题的样本均值近似方法以及在更弱条件下增广Lagrange方法的收敛性。这些研究成果为约束极大极小随机优化问题提供了一种新的解决思路，同时丰富了样本均值近似方法和增广Lagrange方法的研究内容。