非凸稀疏正则化模型与算法的研究

This project aims at studying the following problems of nonconvex sparse regularization: . (1) Developing a unified framework for nonconvex sparsity regularization in guidance of theorey of Banach space regularization.. (2) Creating a new nonconvex sparsity regularization model from the relations of regularizers and thresholding. Studying the theorical property of the model and designing pathfollowing Newton algorithm to sovle it. . (3) Developing a unified second order algorithm for the nonconvex models of Bridge lq (0<q<1) , Mcp , Scad, Capped- l1 and Sica and analyzing its global convergece; Designing stochastic parallel first oder method for nonconvex models and studying its probabilistic convergence.

本项目研究非凸稀疏正则化如下的理论和算法问题：. (1）以Banach空间正则化理论为指导给非凸稀疏正则化研究提供一个统一的研究框架。. (2）从正则化子与Thresholding 的关系出发构造新非凸稀疏正则化模型并研究该模型的理论性质和基于path following 的牛顿算法。. (3） 对 Bridge lq (0<q<1) 、Mcp 、Scad、Capped- l1、 Sica 等对应的非凸稀疏正则化模型设计统一的适用于大规模数据的快速算法（二阶方法），并研究算法的全局收敛性; 设计随机可并行的一阶方法，并研究其依概率意义下的收敛性。

非凸稀疏正则化的模型与算法的研究是统计学、应用数学、计算学的交叉。 发展高效稳定有理论保证的非凸稀疏正则化模型求解的算法是把具有良好理论性质的非凸稀疏正则化模型应用于实际数据分析的瓶颈。本项目研究非凸稀疏正则化的理论和算法问题。我们讨论了基于l0（l2）惩罚的非凸模型的稀疏及组稀疏恢复问题的理论及算法；研究了ADMM/PADMM在线性反问题中为什好用；讨论了 Randomized Kaczmarz 为什么在迭代初期收敛的较快；提出并分析了基于最小二乘和惩罚最小二乘的模型求解稀疏1-bit 压缩感知。 发表了包括SIAM Journal on Numerical Analysis，SIAM Journal of Scientific Computing， Journal of Machine Learning Research， Inverse Problems（两篇），IEEE Transactions on Signal Processing在内的12篇SCI，另外还有两篇SCI文章已经接受。