图像恢复与分解问题中非凸非光滑模型的下界理论和快速算法

Image restoration and decomposition are typical inverse problems. Energy regularization methods are important techniques for these problems. Studies showed the better performances of nonconvex and nonsmooth models over convex ones on image edge preservation. Mathematically this phenomenon can be explained by the lower bound theory for the local/global minimizers of the nonconvex model. In this project, we study the lower bound theories and fast algorithms for nonconvex and nonsmooth energy models. For the lower bound theories, researchers established them for only the local/global minimizers of some individual nonconvex models. Here we will establish this theory for other important and more difficult nonconvex and nonsmooth models. For the fast algorithms, we mainly consider the continuous but non-Lipschitz energy models. It is currently a difficulty in image inverse problems to design efficient algorithms with global convergence for this case. Also, non-Lipschitz terms such as Lp (0<p<1) are good candidates to approximate L0. We will design new fast algorithms based on the lower bound theories. Moreover, we will establish the lower bound theories for the iterative sequences generated by optimization algorithms. Because it is quite hard for algorithms to find local minimizers for most nonconvex problems, the lower bound theories for the iterative sequences are more useful and practical.

图像恢复与分解是典型的图像反问题。能量正则化方法是求解此类问题的一类重要技术。研究表明非凸非光滑能量模型比凸模型具有更好的图像边缘保持能力。这一现象在数学上能够用非凸模型的局部/全局极小点的一致下界理论进行解释。本项目将围绕非凸非光滑能量模型的下界理论和快速算法展开研究。在下界理论方面，文献中仅仅对个别非凸模型的局部/全局极小点建立了一致的下界理论。我们将为其他几类重要且更困难的非凸非光滑模型建立这一理论。在快速算法方面，我们将侧重于连续但非利普希茨的能量模型。这是目前图像反问题中设计全局收敛性算法方面的难点。另外，非利普希茨项比如Lp（0<p<1）也是一种逼近L0的较好的形式。我们将基于对模型的下界理论分析，设计新的快速算法，同时建立迭代算法产生的序列的下界理论。由于大部分非凸问题很难有算法能收敛到局部极小点，关于迭代序列的下界理论更具有实际意义。

图像恢复与分解是典型的图像反问题。能量正则化方法是求解此类问题的一类重要技术。已有的少量研究表明非凸非光滑能量模型比凸模型具有更好的图像边缘保持能力，并且在数学上可用模型局部/全局极小点的一致下界理论进行解释。本项目继续研究了基于非凸非光滑能量正则化的方法。在一致下界理论方面，我们为几个重要的非凸非光滑能量正则化模型建立了一致下界理论，包括基于各向同性非利普西茨正则化的下卷积框架模型（此时为变量带有单边约束的一般模型）、一种非局部非凸正则化模型、以及基于各向异性非凸复合正则化的拓展模型。在模型求解方面，我们为相关模型（比如小波合成方案非凸模型、非凸图像分解模型、变量双边界约束非凸模型）设计了快速迭代算法并利用K-L不等式的框架工具证明了收敛性。本项目的研究丰富了非凸非光滑正则化图像处理模型（包括各向同性模型和各向异性模型）的一致下界理论；也为几个非凸非光滑模型提供了快速算法。这些研究进一步表明了，非凸非光滑能量模型由于具有一致下界理论，在很多应用中的确能够很好地保持图像尖锐边缘信息。这一能力使其对分片常数图片重建取得了很好的效果，但是其对自然图像则效果仍有很大改进空间。若要同时兼顾分片常数图片与自然图像进行高质量重建，我们逐渐意识到近期流行起来的深度学习方法可能是更好的选择，并且开始着手研究深度学习方法。