L(1/2)正则化研究及其在压缩传感与特征选择中的应用

高维、海量数据处理是当今各个学科所面临的突出问题, 如何从中选取特征（即决定这些数据的本质要素）是机器学习等领域所关注的基本问题. 众所周知，该问题对应于求解一个稀疏问题. 目前最为成熟和流行的方法是L(1)正则化（即Lasso、Basis Pursuit）. 然而在应用中L(1)正则化并不能产生最稀疏的解. 本项目的研究目的在于提出一套新的正则化理论-L(1/2)正则化，并发展相应的算法.将提出一种具有更稀疏解的特征选择方法.将应用L(1/2)正则化理论发展一类新的压缩传感策略，显著提升信号或图像可压缩比率.所提出的L(1/2)正则化理论将揭示 （ ）正则化的本质属性，为机器学习设计算法提供理论基础. 本项目所提出的基于L(1/2)正则化的压缩传感策略将有望为信号重建提供全新的途径.

在项目执行中，我们完满的完成了项目的任务，实现了项目的目标. 项目提出了基于非凸罚的L(1/2)正则化理论与方法. 我们提出了L(1/2)正则化格式，并证明其具有无偏性、稀疏性及Oracle 等优良理论性质. 我们也提出了一种重赋权迭代算法，将求解L(1/2)正则化问题转化为一系列L(1)正则化算法迭代求解. 进一步，我们研究了L(1/2)正则化的的阈值迭代算法，给出了一种高效快速的求解方法. 同时从理论上分析L(1/2)正则化高维统计性质，研究了其非渐近统计性质，从而结果佐证了L(1/2)正则化尤为适合应用于高维数据处理. 项目开展了L(1)正则化的快速算法研究，提出了自适应梯度下降求解算法，所提方法能高效、快速实现L(1)正则化. 进一步，我们通过相变方法，我们还比较几种基于非凸罚函数的压缩感知策略的稀疏重建本质能力差异． 结果展示了L(0)正则化算法本质和L1正则化方法的稀疏重建能力近似，展示了L(1/2)正则化在Lp(0<p<1)正则化中的代表性. 即在Lp(0<p<1)正则化格式中，我们仅需要考虑L(1/2)正则化即可. 作为典型应用，应用于变量选择问题，结果显示，我们提出的L(1/2)正则化能正确选择主要变量，同时具有更稀疏的变量. 应用于稀疏信号重建领域的压缩感知，我们以合成孔径雷达为例，结果显示在远低于奈奎斯特采样率下，基于L(1/2)正则化的能实现高质量成像..项目成果达到了国际领先水平.主要以发表论文为主要成果形式。项目组先后发表了11篇高水平论文，分别发表在IEEE Transaction on Neural Network and Learning system, Science in China Information Sciences, 中国科学 数学，数学学报，高校应用数学学报等杂志. 已经发表11篇论文其中SCI 论文6篇，EI 1篇，核心4篇.