矩阵不等式约束矩阵最小二乘问题的投影算法研究

This project will studies the matrix least squares problems and the linear matrix equation problems under matrix inequalities constraints, which come originally from financial theory and statistical analysis and so on. Combing the theories and the methods in the matrix theory and the optimization theory, and starting from reduce the computation quantity of algorithms and the complexity of the problems, we will design efficient and stable projection algorithms to solve the considered problems. The detailed research contents are listed as follows. 1) Establishing the calculation of the projection matrices onto several specified classes of constrained matrix sets basing on the optimal approximation theory. 2) Studying the matrix least squares problems under matrix inequalities constraints. By combing the matrix theory, we convert the original problems into the equivalent solvable matrix convex optimization problems which contains only some linear constraints and simple convex constraints, or some new solvable subproblems, then construct serval gradient projection algorithms with fast convergence, stable and suitable for different scale problems to solve the transformed problems. 3) Studying the problems of solving linear matrix equation under matrix inequalities constraints. From the perspective of convex feasible problem, and take the infinite approximation iteration theory, we design efficient, stable and structure-preserving alternating projection algorithms and subgradient projection algorithms to slove the considered problem, and propose some principles of selecting uncertain step-size to imorove the convergence effects. In conclusion, the research of this project will be beneficial to promote the application of optimization theory into the field of numerical algebra, and make the researches of linear matrix equation problems to have new breakthrough in the research scope and research method.

本项目将主要研究源于金融理论、统计分析等领域的矩阵不等式约束矩阵最小二乘问题及其矩阵方程求解问题。结合矩阵理论和最优化理论及方法，从减少计算工作量角度出发，以降低问题复杂度为目的，构造高效、稳定的投影类算法求解。具体研究内容为：1）基于最佳逼近理论研究几类指定约束矩阵集合内投影矩阵的计算；2）研究矩阵不等式约束矩阵最小二乘问题，结合矩阵理论将问题等价转化为只含简单约束条件的可解矩阵凸优化问题或建立新的可解子问题，并设计高效、稳定且适用于不同问题规模的梯度投影类求解算法；3）研究矩阵不等式约束矩阵方程求解问题，从凸可行问题的角度考虑问题，并采取无限逼近迭代思想，设计保结构特征、快速、稳定的交替投影算法和次梯度投影算法，并提出不定步长选取原则以提高算法的收敛效果。 本项目的研究将有益于促进最优化理论在数值代数领域的应用，使线性矩阵方程问题的研究工作在研究范围和研究手段上有新的突破。

矩阵不等式约束下矩阵最小二乘问题的求解问题出现在图像恢复、力学、线性系统和控制理论等众多学科领域，是数值代数的重要分支。本项目基本上是按项目的研究计划进行的，并对研究内容作了一些拓展。.第一、研究了矩阵不等式（非负意义下的不等式）约束下矩阵方程最小二乘问题的求解问题。通过将问题等价转化为矩阵不等式非负偏差最小二乘问题，给出了基于投影的不动点形式的迭代求解算法，进而利用极分解理论证明了算法的收敛性，并给出了数值算例验证了算法的可行性。.第二、研究了矩阵不等式约束下广义Sylvester方程最小二乘问题及在图像恢复中的应用. 建立非精确标准容易执行的部分非精确交替方向法, 大量数值算例说明该方法与其它已有方法在迭代效率上的优势, 同时将问题模型和算法应用于图像恢复中, 恢复效果较好。.第三、利用交替方向法、松弛交替方向法、增广拉格朗日算法、条件梯度法及其各类加速算法研究了矩阵不等式、非负和边界约束等闭凸约束下线性算子矩阵方程最小二乘问题的求解问题。构造求解问题的交替投影算法、松弛交替投影算法、增广拉格朗日算法、条件梯度法及其各类加速的迭代格式，并细致分析各算法的收敛性。数值实验部分将部分问题模型和算法应用于带Tikhonov正则化的图像恢复模型中, 恢复效果较好。.第四、研究了半张量积下矩阵方程组AX=B,XC=D的求解理论，利用半张量积的定义及基本性质，给出了矩阵-向量方程组及矩阵-矩阵方程组有解的充分必要条件，并通过Toepliz矩阵块矩阵及列拉直算子细致给出解的具体表达式，对每一部分都用数值算例验证了理论的正确性。.第五、 研究了对称半正定矩阵低秩逼近问题和广义Karhunen-Loeve变换中的低秩逼近问题；研究了一类Q加权下相关矩阵最佳逼近问题的低秩解和一类混合Lyapunov 矩阵方程的低秩解。