基于非平行超平面支持向量机的最优化模型及算法研究

Support vector machines (SVMs) are recognized as the most effective learning methods of classification and regression and have been widely used in many areas. As a new breakthrough, non-parallel hyperplanes support vector machines received extensive attention from the academia due to their less computing time and nice generation ability.They have become a new hotspot of support vector machines. Based on our preliminary works, we shall construct the non-parallel hyperplanes support vector machine optimization models and algorithms for the standard classification and regression as well as the class-imbalanced problems. Firstly, we propose maximal margin non-parallel hyperplanes support vector machines and give thier theoretical framework. Secondly, we propose resampling, cost-sensitive, local and global learning non-parallel hyperplanes support vector machines. Finally, the above non-parallel hyperplanes support vector machines are investigated and modified to the protein function prediction and structural analysis in bioinformatics. The goal of our project is provide the theory, methods and technical support for non-parallel hyperplanes support vector machines.

支持向量机是当前公认最有效的分类与回归的机器学习方法，广泛应用于各个领域。基于非平行超平面支持向量机是支持向量机研究中的一项新的突破，它以训练时间少和推广能力强受到了广泛重视，并已经成为支持向量机中的一个新研究热点。对此本课题组也取得了若干有意义的初步成果。本项目拟在这些成果基础上，针对标准的分类和回归问题以及类别不均衡的问题，构建各种非平行超平面支持向量机模型和算法：首先，针对分类和回归问题提出基于最大间隔思想的各种非平行超平面支持向量机模型和求解算法，并给出其最优化理论框架；其次，对类别不均衡问题提出基于重采样和代价敏感学习的非平行超平面支持向量机模型、局部全局的非平行超平面支持向量机模型；最后，针对生物信息学中蛋白质功能预测和结构分析问题具有类别不均衡和局部信息相对重要等特点，在以上模型基础上提出更有效的模型。本课题将为非平行超平面支持向量机的研究和应用提供理论、方法和技术支持。

针对支持向量机，本项目研究于近年来流行的非平行超平面支持向量机方法。基于非平行超平面支持向量机是支持向量机研究中的一项新的突破，它以训练时间少和推广能力强受到了广泛重视，并已经成为支持向量机中的一个新研究热点。对此我们取得了若干有意义的成果。针对标准的分类和回归问题及其中的类别不均衡等数据挖掘问题，构建各种非平行超平面支持向量机模型和算法，并给出其最优化理论框架；同时，针对图像、文本以及生物信息预测和结构分析问题具有类别不均衡和局部信息相对重要的特点，在以上模型基础上提出更有效的模型。具体主要包括：.1、本项目利用最优化方法研究了双子支持向量机的模型、理论和算法等问题，拓展了现有双子支持向量机，特别是双子支持向量机研究的相关结果，在更高的理论层次——最优化方法层次上研究了双子支持向量机的复杂性，从而促进了双子支持向量机理论的发展。.2、本项目突破了现有双子支持向量机的应用局限性，在更广的范围内研究了非平行支持向量机在分类、回归、半监督等机器学习方面的应用，从而拓展了非平行支持向量机的应用与研究范围。.3、利用最优化方法研究了非平行支持向量机提供了新的对非平行支持向量机的研究思路和研究方法，对现有支持向量机在最优化理论中的成功应用给出了一种经验借鉴。.4、在以上基础上已发表了论文44篇: 发表了SCI论文20余篇，其中Top期刊论文10篇，特别是提出了一致的非平行超平面支持向量机，发表在information Science 上，提出了首个双子支持向量聚类机发表在IEEE TNNLS 上等，发表EI等会议论文20余篇，以上论文被引用300余次。.总之，本项目的完成有力地拓展了非平行支持向量机的应用范围、发展了非平行支持向量机理论，同时也为最优化方法的研究提供了新的理论和新的研究途径。