图像恢复中的非凸非光滑变分模型及其数值算法研究

Nonconvex nonsmooth regularization has advantages over convex regularization for image restoration. Nonsmooth nonconvex regularization offers a restored image composing of constant regions surrounded by closed contours and neat edges.So this method become one of the popular techniques. However, its practical interest used to be limited by the difficulty of the computational stage which requires a nonconvex nonsmooth minimization.In this project, based on optimization theory and variational regularization, smoothing factor and smoothing method can solve the nondifferential objective function effectively. Then the problem will be translated into constrained nonlinear equations or nonlinear complementary problem using two order derivative for improving the calculation speed. At the same time. we also give theoretical analysis about the convergence. On the other hand, image restoration with nonnegative constraints will lead to nonlinear programming with bound constraints. By gradient type method for optimization and active set, fast numerical algorithm is proposed. so this project mainly proposes the nonconvex nonsmooth variational model and gives some global convergence algorithms. It will accelerate rhe development for image restoration.

非凸非光滑的变分正则模型能很好地刻画具有光滑轮廓和清晰边缘的图像，较其它变分模型在图像复原和重建时优越，逐渐成为信号和图像处理领域中最受欢迎的技术之一。但对于这一问题，现有的算法不能满足大规模数据处理的需要，如何构建好的模型和设计高效的数值算法是一个非常有意义的研究课题。本项目结合最优化理论和变分正则化的最新进展，拟对如下问题展开研究：(1)通过引入光滑化因子及光滑化方法，充分利用梯度信息克服不可微的缺点；(2)将问题转化为约束非线性方程组或非线性互补问题来改进其收敛速度及收敛性理论；(3)对于非负图像恢复往往对应着界约束的非线性规划，利用梯度型或原对偶内点型算法并结合积极集的策略，提出高效算法。本项目立足模型选择的理论依据和设计具有全局收敛性的算法，具有一定的开创性和前沿性，研究成果相信会推动图像恢复的应用和发展。

非凸非光滑的变分正则化模型能很好的适应于图像复原和重建，是信号和图像恢复反问题的最重要的数学方法之一。其中设计分数阶变分模型和高效的数值算法是一个非常复杂的研究课题。通过本课题的研究为广大应用数学研究学者提供思路和新的方法。我们以数学建模的思想和理论为指导充分利用变分法和最优化理论，深刻探讨了非凸非光滑变分问题的模型选择问题以及数值求解问题。将增广拉格朗日方法应用到非负约束图像的去模糊问题，运用积极集方法，约简问题规模，并利用分裂的迭代算法给出了较好的数值实验。仿真例子验证了所提方案的有效性，并且对于正则参数的选取也给出了具体的方法和原则，从而对带有噪声的图像进行保持边缘的去噪，通过构造带有变正则参数的变分模型。对于变正则参数的选取分析出三种方法：通过图像的梯度进行变正则参数的选取；利用小波阈值的方法进行变正则参数的选取；按照方向进行自适应双正则参数的选取。这些方法均可以避免变分模型更复杂，同时使计算简单、有效。研究了直接求解非凸变分模型的光滑化算法以及把改变分问题转化为不可微的分数阶导数问题，进一步给出快速的迭代算法。该方法是基于最优问题的KKT条件，充分利用图像处理的非负约束的界约束非线性优化问题，结合该问题的具体特点，提出了相应的高效算法。部分解决了这种非凸问题的多最优解问题。虽然任何算法都不能保证得到全局最优解，但是我们利用解其KKT点得为局部最优点的不可微的分数阶微分问题，恰好可以解决图像恢复的非光滑性要求，并在会议上作了成果演示和专题汇报，得到同行专家的认可和好评。针对该问题课题组提出了若干个算法和解决思路，但苦于问题的复杂性，目前提出的算法收敛效果都不理想、收敛速度不是太高。非光滑会导致传统梯度型算法的失灵，并且Hessian矩阵中含有大量的零，会导致问题的严重病态性。而通过分析发觉提出的光滑化算法确实可以将在图像恢复问题在理论上有一个促进作用但非凸变分模型的光滑化算法复杂度会更高，因此还有相当一部分应该解决而没能实际解决的问题和相应的高效算法的提出。这些应该是我们课题组今后还要继续努力探讨的地方。我们可以将研究成果推广到解决其它扩展形式的变分问题或其他图像处理的反问题中（例如图像分割，图像融合等）。以此项目为依托培养了本科生6名，研究生4名，还有再读研究生4名，他们以此课题内容展开的毕业论文，有的获得了较好的成果，并获得院级或校级优秀毕业论文。