基于非凸非光滑分数阶正则的多尺度Retinex变分复原模型研究

Sparse representation and regularization provide new ideas and directions for variational image restoration. Because Non-convex quasi-norm is effective for sparse representation, it becomes an important tool in image restoration. In this study, we will perform the noncovex sparse representation on fractional order differential operator. In the variational framework, a new non-convex non-smooth regularization is proposed based on the nonconvex sparse prior of fractional order differentiation by choosing suitable non-smooth potential energy function. Research shows that The Retinex theory is able to enhance the fine information for image and keep the contrast. This project will apply the non-convex fractional regularization to variation model for Retinex. According to different targets of image restoration, several variational models will be proposed in this project. Then, we will give some theoretical analysis of the model, including the property of model, the existence of solution and the uniqueness of the solution. An efficient optimization algorithm is designed for the proposed variational model. The goal of these works is to remove noise, recover the texture information and preserve edge. By sparse representation, we can also extend the fractional order variational image restoration model into wavelet inpainting. In summary, based on the proposed non-convex non-smooth regularization, we are able to extend the applicability of the fractional order differentiation in the image processing, and favor the further research in image analysis and pattern recognition.

稀疏表示和正则方法为变分复原的发展提供了新动力。非凸拟范数作为最稀疏表示的有效逼近，成为图像复原的重要工具。本项目拟从图像本身的物理性质入手对图像的分数阶微分算子进行非凸稀疏表示。在变分框架下，融入分数阶的稀疏先验信息，构造新的非凸非光滑分数阶变分正则。鉴于Retinex理论具有增强图像细节信息和保持图像对比度的能力，本项目拟将非凸非光滑的分数阶变分正则应用到Retinex变分复原模型中。根据不同的复原要求，拟建立基于分数阶正则的非凸非光滑的多尺度变分模型，并对模型的性质、解的存在性和唯一性等进行理论分析，对所提模型采用非凸交替分离优化算法进行求解，以满足时效性的要求。这些研究内容将有助于完成图像去噪、纹理细节重构和边缘信息保持等方面工作。围绕稀疏表示，探讨分数阶变分框架下小波复原算法亦是重要研究思路。本项目的研究有助于推广分数阶在图像处理领域的应用，为非凸非光滑正则的发展提供了新路径。

图像复原是各种人工智能应用的重要基础性工作，为后续图像分析和语义识别提供保障。在任务书的指引下，本项目具体完成如下若干研究：.1. Retinex理论是图像复原的重要工具。提出基于Retinex的变分复原模型，对退化图像的光照部分和反射部分进行估计。该工作对所提模型解的存在性和唯一性进行了理论分析。采用交替方向法和半隐式最速下降法来求解该模型。实验结果验证了方法的有效性。.2.提出基于非局部正则的图像复原算法。该方法对图像采用非局部算子进行度量，并且所提能量泛函选择合适的势能函数和边缘检测函数。理论上证明该模型的能力泛函是半泛的，在Gateaux 导数作用下求解对应的差分方程。与初始非局部变分模型相比，所提变分模型在主观性和时效性均有提高。.3.变分模型通常含两部分：正则项和数据项。针对不同的目的，两部分采取合适的度量和势能函数。基于变分理论和水平集方法，提出若干变分模型，研究结果有：1）提出基于l0正则的离散变分水平集模型，采用l0梯度正则子和l0函数正则子来离散度量演化曲线的长度和内部区域的面积，在数值上设计一种交替极小化算法求解；2）提出二值化水平集变分图像分割模型，数据项采用l1范数度量，模型采用三步时间分裂框架求解。结果显示所提模型对多类图像有效，且对脉冲噪声有鲁棒性；3）基于变分框架和相变换理论提出能量泛函应用于图像显著性检测，采用Sobolev梯度最小化能量泛函。实验显示模型较好压制背景且获得精细的目标、纹理、绒毛等信息。.4.为保证时效性，项目组对算法进行研究，使用一种新的方法证明LCA模型解的存在性和唯一性，设计半隐式方案离散LCA模型的梯度下降流方程。该算法允许一个较大的时间步长且保证去噪结果在图像定义域是严格正的。实验结果显示所提算法可快速求解LCA模型。.5．为了后续工作开展，项目组开展了一些关于角点检测的研究，为复原和其他工作打下基础。