低秩矩阵恢复的非凸优化模型与算法研究

Low-rank matrix recovery is a popular research topic of common interest in two arears of optimization and information science. Applications of low-rank matrix recovery are found in a wide range of arears, including data minning, image processing, video analysis, pattern recognition, machine learning, etc. This project pays attention to several nonconvex, nonsmoothing and non-Lipschitz matrix optimization models induced by low-rank matrix recovery problems , for which the research contents in detail are as follows: (1) to investigate the theoric properties of the models, such as optimality conditions, stability, sensitivity and boundness; (2) to seek some efficient algorithms which may have some good properties of global convergency, robustness and fastness for the matrix optimization models; (3) to generalize the Moreau’s backward-forward splitting theory to the nonconvex matrix optimization problems; (4) to conduct experiments for the large-scale practical problems such as matrix completion, video analysis and nuclear magnetic resonance imaging, then to choose the excellent algorithms for programming the efficient mathematical software. This project is a frontier subject of basic theory and application research and hence has great scientific significance and practical values.

低秩矩阵恢复问题是最优化领域和信息科学领域共同关注的热点课题之一，它在数据挖掘、图像处理、视频分析、模式识别、机器学习等众多新兴领域有着广范的应用。本项目重点关注由低秩矩阵恢复问题所诱导的几类非凸、非光滑、非Lipschitz矩阵优化模型，研究内容包括：(1）探讨模型的理论性质，如解的最优性条件、稳定性、灵敏性、有界性，尤其是特殊问题全局最优解的特征刻画；（2）寻求模型的各种高效求解算法，使之具有全局收敛性、鲁棒性、快速性；（3）将Moreau前项-后项分裂理论推广到非凸矩阵优化情形;（4）对矩阵完整化、视频图像分析、核磁成像等大规模实际问题进行数值试验，从中选取优秀算法编制实用有效的数值软件。本项目是一个基础理论与应用研究的前沿课题，具有重要的科学意义和实用价值。

近年来，由于在信息科学和数据科学的中的广泛应用，低秩矩阵恢复问题和稀疏信号恢复问题成为热点研究课题之一。它们所诱导的非凸、非光滑、非Lipschitz的优化问题给最优化理论和方法带来了诸多挑战和机遇。本项目对几类非凸、非光滑、非Lipschitz的优化模型进行了研究，主要是建立了它们的最优性理论，提供了高效算法，主要成果有：（1）对仿射矩阵1/2 范数正则化问题，讨论了正则化参数的选取问题，给出了最优解的必要条件和解矩阵非零奇异值的下界估计，提出了HFPA算法,分析了算法的收敛性和加速技巧，用数值实验验证了算法的有效性；（2）对带lp正则项的一般矩阵优化问题，给出了一个全局必要最优性条件，提出了p-FPC算法，证明了算法的收敛性，分析了p的选择对算法效率的影响，用数值实验检验了p-FPC算法的有效性和优良性；（3）对带非凸复合正则项的矩阵极化问题，建立了一阶和二阶最优性条件，提出了光滑化交替极小化的算法框架；（4）对带箱约束和稀疏性约束的非线性规划问题，建立了最优性条件，提出了可行方向迭代硬阈值算法(FIHT)，证明了算法的收敛性，通过数值实验检验了算法的有效性；（5）对带箱约束的lp正则极小化问题，给出了一阶和二阶最优性条件，建立了下界理论，提出了光滑化投影梯度算法，证明了算法的收敛性，通过数值实验证实了算法的有效性；（6）对与最优化相关的几类问题，研究了他们解的存在性、稳定性、良定性和唯一性。.这些研究丰富和发展了非光滑、非凸、非Lipschitz优化的最优性理论和有效算法。所提算法对相应问题都具有快速、高效、鲁棒的特点，可供工程技术人员参考。