高维数据驱动稀疏低秩优化问题有效算法的研究及其应用

With the rapid development of big data era, high-dimensional variables are involved in the optimization problems arising in the wide fields of compressive sensing, signal processing, risk management, machine learning, statistical learning, artificial intelligence, and so on. These high-dimensional data admit sparse or low-rank properties. How to solve more efficiently high-dimensional data driven sparse or low-rank optimization problems is a tough challenge. Thus, the research on efficient algorithms for high-dimensional data driven sparse or low-rank optimization problems is of great significance. With the help of sparse or low rank data, the project aims at designing efficient first-order or second-order methods for high-dimensional data driven sparse or low-rank convex and nonconvex optimization problems and analyzing their global convergence and the rate of convergence. The objective of this project is to develop efficient algorithms with fast and stable performance adapted to super-large-scale optimization problems and their MATLAB program implementations which can be applicable to solve problems in relevant real world applications, intending to provide efficient algorithms and theoretical results for the further development of the high-dimensional data driven sparse or low-rank optimization problems.

随着大数据时代的迅速发展，压缩感知、信号处理、风险管理、机器学习、统计学习、人工智能等诸多领域的优化问题均包含高维数据变量，通常情况下这些高维数据具有稀疏或低秩的特性，如何更有效的求解这些高维数据驱动的稀疏低秩优化问题面临严峻的挑战，因此，本项目拟研究高维数据驱动稀疏低秩优化的有效算法具有重要的理论意义和应用价值。本项目拟充分利用数据稀疏或低秩的特性，针对高维数据驱动稀疏低秩的凸与非凸优化问题，提出求解它们高效的一阶二阶方法，研究算法的全局收敛及局部收敛速度，以期得到收敛速度快、稳定性能好、适合求解高维数据稀疏优化问题的算法及其算法的MATLAB程序软件，并用于解决相关的实际问题，期望为高维数据背景下稀疏低秩优化问题的进一步发展与应用提供有效算法和理论分析。

高维数据驱动稀疏低秩优化问题在稀疏优化、统计优化、矩阵优化等众多领域有着广泛的应用，具有重要的理论意义和应用价值。本项目在高维数据驱动稀疏低秩优化问题理论研究和算法设计均取得了重要的研究成果，其重要结果可概括如下：本项目针对具体的高维数据驱动稀疏低秩优化问题的优化模型，如聚类Lasso统计模型、Dantzig选择参数模型、单个线性与盒子约束最小二乘的线性回归模型、密度矩阵最小二乘问题、最大特征值优化问题等，研究了相关投影算子或邻近映射的快速计算及其广义Clarke雅可比的精确刻画，结合优化问题本身具有的稀疏性或低秩性特征，提出了求解它们的快速、稳定、高效的一阶算法和半光滑增广拉格朗日方法，讨论了算法的全局与局部收敛速度的理论结果，研制了适用于求解高维数据驱动稀疏低秩优化问题的算法MATLAB软件，通过与现有常用的算法比较，大量的数值结果表明，本项目所提出的算法更高效、更快速，并能求解更大规模的优化问题，项目研究成果可用于机器学习、深度学习、人工智能等重要且具有广泛科学价值的领域。.本项目研究成果以论文形式呈现，已接受正式发表学术论文12篇，其中包括在SIAM Journal on Optimization, SIAM Journal on Scientific Computing等顶级期刊发表2篇论文和在Journal of Scientific Computing, Journal of Optimization Theory and Applications, Journal of the Operations Research Society of China等重要优化期刊发表SCI论文6篇。本项目已培养硕士研究生7名、博士研究生2名。