逼近和恢复的原子范数正则化方法

One of the principal preoccupations in approximation theory is to study how the simple functions can represent and approximate the complex and unknown functions. The recovery theory based on the data is to discover and represent the inherent relationships of the underlying data. The project deals with the function approximation and recovery by using atomic norm regularization method. It provides a new approach to approximation theory and optimal recovery. We will construct the atomic norm regularization algorithms according to the properties of unknown targets. We will extablish the general framework of the consistency and error bounds for the atomic norm regularization algorithm and explore the general theories and methods of greedy algorithms, sparse approximation and recovery. Under different assumptions we will bound the error estimates of the atomic norm regularization algorithms. In this project an atomic norm regularization learning algorithm is introduced to the system identification that is able to approximate consistently the transfer functions. It is a new attempt for the research of system identification. Various ideas and methods from random analysis, harmonic analysis, operator theory and calculus of variations will be used throughout the whole study of the project.It reflects the open multi-view research ideas. As applications we will study the hyperspectral image unmixing and classification via atom norm regularization method.

函数逼近论研究用简单已知的函数近似代替复杂未知的函数。基于数据的恢复则是发现和揭示数据的内在规律，给出精确或近似表示数据所反映的函数关系。本项目应用原子范数正则化方法研究函数逼近和恢复。根据逼近或恢复对象的特点，选择合适的原子集，构造原子范数正则化算法；结合原子分解理论与学习算法，讨论原子范数正则化的收敛性，建立算法误差估计的一般框架；分析原子范数正则化算法的特性，探索贪婪算法、稀疏逼近和最优恢复的联系，研究原子范数正则化算法对学习目标的逼近能力及学习目标的稀疏性，为研究逼近论和最优恢复提供新的思路和方法。应用原子范数正则化方法，将学习算法引入系统辨识理论研究中，尝试研究传递函数逼近与恢复的新方法。随机过程、调和分析、算子理论和变分法等学科的研究思想和方法将贯穿项目研究的全过程，体现多视角全方位的开放性研究思路。在理论研究基础上，探索原子范数正则化方法在高光谱图像解混、分类等问题中的应用。

本项目研究基于原子范数正则化方法的函数逼近和恢复问题。根据逼近或恢复对象的特点，选择合适的原子集，研究原子范数正则化方法的理论基础与构造算法以及应用，涉及到数学科学、信息科学和计算机科学等多学科的融合，是富有挑战性的研究课题之一。我们圆满完成项目研究计划，取得了一些有意义的研究结果。利用原子范数正则化理论，提出了一种基于原子表示的一般分类框架，建立了相应的理论保证，并从理论和数据实验上说明了该算法的合理性和优越性。构造了一种基于原子范数正则化学习理论的系统辨识方法。将系统辨识中的估计传递函数问题转化为学习理论框架下的原子范数正则化模型，并建立了该算法的推广性能分析。建立了基于原子表示的一般子空间聚类框架，提出了一种基于最小误差熵的稀疏子空间聚类方法。应用理论研究成果于模式识别和图像处理，得到有意义的应用研究结果。