约束优化方法及其在图像恢复中的应用

The project intends to study several types of nonlinear constrained optimization algorithms with their applications for total variation image restoration (TVIR). Some effective algorithms will be proposed by reducing the computational effort and improving the convergence rate. Some special quadratic programmings and linear equations are constructed, and the high order correction direction is proposed by solving the implicit expression search direction. By using convex combination and tilting technology, some effective modified methods are proposed to overcome the shortcoming of the slow convergence. For the TVIR problem, by overcoming the nonsmoothness of the total variation mode, it will be proposed some effective primal-dual gradient and Newton-type optimization algorithms. Through the dual analysis to TVIR model, combining interior point idea, the corresponding gradient projection algorithms and SQP methods will be proposed.

本项目拟针对几类非线性约束优化算法，以及它们在全变差图像恢复（TVIR）问题中的具体应用进行研究。 从减少算法的计算工作量、提高算法的收敛速度出发，提出相应的有效算法。构造一些特殊形式的二次规划与线性方程组相容子问题。求解隐式拟牛顿步搜索方向，提出相应的高阶校正方向。利用凸组合、倾斜技术对主搜索方向提出一些有效的修正方法，克服算法收敛慢的缺点。 对全变差图像恢复（TVIR）问题，通过修正与克服全变差模的非光滑性，提出一些有效的原始-对偶梯度型与牛顿型优化算法；通过对TVIR模型的对偶分析，结合内点法思想，提出相应的梯度投影型算法与SQP法等快速优化算法。

本项目按原申报的研究内容开展并完成研究计划。一方面研究非线性优化问题具有快速收敛的算法，提出一些新的研究。另一方面研究全变差图像恢复问题中的相关优化方法。.对无约束优化问题，提出了一些新的或者改进的共轭梯度算法。某些算法不需要任何线搜索均能满足下降性，且对共轭梯度法在反问题中的应用进行了深入研究。对非线性约束优化问题，从减少算法的计算量、提高算法的收敛速度出发，提出了一些无需计算有效积极约束集的投影型可行方向法、带有罚函数技巧和克服Maratos效应的高阶校正方向通过显式表达式求解的投影变尺度法、只需求解线性方程组的QP-free算法、具有显式搜索方向的共轭投影梯度方法，另外结合虑子思想和牛顿型算法提出一些求解半定规划和锥规划问题的新方法。在图像恢复问题中，改进了经典的交替方向乘子法。如针对全变差并行磁共振图像重建问题，提出了一个线性化的变步长交替方向乘子法。新算法利用了线性化技巧和临近函数使得子问题有闭形式解。在子问题中，步长采用了BB步长加速算法。通过对偶分析，重点研究了全变差模型的投影梯度和原始-对偶梯度算法。如在图像去噪问题中，把ROF模型转化为带有闭凸集约束的非线性优化问题，提出了一个修正的谱共轭梯度投影算法。对于求解全变差最小化问题，提出了一个简单的原始对偶方法，算法中对偶变量具有预估校正的形式。提出一个已知鞍点结构凸优化问题的原始-对偶预估矫正算法框架。在一致算法框架内，子问题求解使用带有矩阵范数的邻近项。进一步，不同的邻近参数可以推导出已经存在的著名方法，亦能产生一些新的原始-对偶方案。.项目研究成果集中反映在正式发表（录用）的37篇学术期刊论文及1篇博士学位论文以和7篇硕士学位论文,其中18篇被SCI源期刊发表或录用,2篇被EI检索。对所获得的成果进行了有效的数值试验。.