高维数据的低维非线性逼近中的非凸优化模型的有效解法和软件

Many data processing problems are modeled to be high-dimensional and expensive optimization problems. In this project, we will attempt to work on modeling and highly efficient and globally convergent algorithms for nonconvex and nonsmooth optimization, variational models, nonconvex semidefinite programming and eigeivalue optimization problems arising from low-dimensional nonlinear approximation of high-dimensional data, nonlinear compressed sensing and training neural network. We will analyse convergence and efficiencies of designed algorithms, program them, varify their practical efficiencies by sufficient numerical tests and use them to solve practical problems. Members of the research group have been working on theories, methods and software designing on numerical algebra and numerical optimization, neural network computation, computational geometry and image processing, respectively. They have cooperated in finishing a Research Fund for the Doctoral Program of Higher Education and a Fundamental Research Funds for the Central Universities and have built good cooperative relationship. All of these found solid bases for them to achieve good research results in this project.

很多信息处理问题，只有离散的数据，没有清楚的物理机理和数学模型。对这类问题，统计方法、数值逼近与几何建模方法、人工神经网络、机器学习、变分法等方法是主要建模工具，并最后归结为高维、复杂的优化问题。本项目拟研究高维数据的低维非线性逼近、非线性压缩感知、人工神经网络学习中的非凸非光滑优化问题、非凸半定规划问题、特征值优化问题与变分问题模型的高效率全局收敛解法和在线学习算法。在理论上分析所设计的算法的收敛性、有效性的基础上，编制相应的软件，通过充分的数值实验验证其实际有效性并用来解决实际问题。本项目组成员分别长期从事数值代数与优化、神经网络计算、计算几何与图形图像、微分方程符号与数值解法的理论、算法和软件研究，经常一起交流，并通过合作完成教育部博士点基金项目和大连理工大学“中央高校基本科研业务费专项”重大项目培育项目建立了很好的合作关系，为发挥众之所长合作完成本项目做了充分的准备。

本项目在神经网络稀疏化及学习算法、结构矩阵分解、非凸非线性规划、非光滑优化、非凸非线性半定规划无约束minimax问题题的快速算法和半无限minimax问题的截断凝聚光滑化方法等方面进行了深入研究。在min-max-min半无限规划问题转化成双层规划问题使用同伦算法进行求解,非线性代数方程组和非线性微分方程多解问题的大范围收敛有效解法、非线性锥优化和不确定优化、非线性矩阵方程、稀疏矩阵分解、稀疏与低秩表示、视觉显著性检测、图像配准、图像处理等方面取得了一系列创新成果。三年中，发表(接受发表)论文52篇，其中多篇论文在Math.Comput., SIAM J. Numer. Anal., SIAM Matrix Anal. Appl., Comput.Optim. Appl., J. Global Optim., JOTA等数学杂志上发表，以及在计算机类杂志包括IEEE系列、Machine Learning Journal, Neurocomputing和计算机类会议包括计算机视觉顶级会议CVPR 2014、多谋体旗舰会议ICME 2014等会议上发表。一篇文章获得ICTE 2014最佳学生论文奖。其中SCI检索 26 篇，EI检索 9篇。