原始空间中孪生支持向量机的大规模优化算法研究

基本信息
批准号:61907012
项目类别:青年科学基金项目
资助金额:25.00
负责人:薛贞霞
学科分类:
依托单位:北方民族大学
批准年份:2019
结题年份:2022
起止时间:2020-01-01 - 2022-12-31
项目状态: 已结题
项目参与者:
关键词:
孪生支持向量机共轭梯度法监督学习支持向量机次梯度法
结项摘要

Twin Support Vector Machines (TWSVM), a new extension of Support Vector Machine (SVM), is one of the research hotspots in recent years. Since it is a relatively new theory in data mining, there are still some problems to be further researched and improved, such as the speed of solving large-scale problems is still not fast enough. This project mainly studies the large-scale optimization algorithms of twin support vector machines in the primal space. Its main contents are as follows:(1) Based on the fact that the objective function of twin support vector machine is the sum of differentiable convex function and non-differentiable convex function, the subgradient algorithm among nonsmooth optimization algorithms are used to solve TWSVM. This algorithm has simple structure and small computational complexity, and is suitable for solving large-scale problems; (2) Based on the fact that the non-differentiable term of the objective function of twin support vector machines is not differentiable on a hyperplane, the primal optimization problem is divided into two cases: the non-differentiable term is zero or not zero. The conjugate gradient method is used to solve the problem in above two cases flexibly. This algorithm has the advantages of small storage, good stability, fast convergence speed and quadratic termination. It is also suitable for solving large-scale problems. The aim of this project is to provide fast and effective algorithms and strong theoretical support for twin support vector machines for large-scale problems. In addition, the effectiveness of the proposed methods will be verified by experiments.

孪生支持向量机是支持向量机的一种新的拓展,是近年来的研究热点之一。但由于其是数据挖掘中相对较新的理论,还存在一些有待进一步研究和改进的问题,比如对大规模问题求解速度依然不够快。本项目主要研究原始空间中孪生支持向量机的大规模优化算法,主要内容包括:(1)利用孪生支持向量机目标函数是可微凸函数和不可微凸函数之和的特点,采用非光滑优化算法中的次梯度算法对孪生支持向量机进行求解。该算法结构简单,计算量小,适合求解大规模问题;(2)利用孪生支持向量机目标函数的不可微项仅在一个超平面上不可微的特点,将原始优化问题分成不可微项为0和不可微项不为0两种情况,灵活使用共轭梯度法对其求解。该算法所需存储量小,稳定性好,且有较快的收敛速度和二次终止性等优点,也适合求解大规模问题。本项目将对孪生支持向量机用于大规模问题提供快速有效的求解算法以及强有力的理论支持。本项目还将通过实验验证所提方法的有效性。

项目摘要

孪生支持向量机是在支持向量机的基础上改进的一种新的非常有效的机器学习算法,其训练速度大约时支持向量机的四倍,但还存在一些有待进一步研究和改进的问题,比如对大规模问题求解速度依然不够快等缺点。本项目主要研究原始空间中孪生支持向量机的大规模优化算法,主要内容包括两方面:(1)利用孪生支持向量机目标函数是可微凸函数和不可微凸函数之和的特点,研究次梯度算法,随机次梯度算法及小批量次梯度算法加速孪生支持向量机的求解。该算法结构简单,计算量小,可有效求解大规模问题;(2)利用孪生支持向量机目标函数的不可微项仅在一个超平面上不可微的特点,将原始优化问题分成不可微项为0和不可微项不为0两种情况,灵活使用共轭梯度法对其求解。该算法所需存储量小,稳定性好,且有较快的收敛速度,也可有效求解大规模问题。本项目对孪生支持向量机用于大规模问题提供快速有效的求解算法以及强有力的理论支持。本项目还通过实验验证所提方法的有效性。

项目成果
{{index+1}}

{{i.achievement_title}}

{{i.achievement_title}}

DOI:{{i.doi}}
发表时间:{{i.publish_year}}

暂无此项成果

数据更新时间:2023-05-31

其他相关文献

1

现代优化理论与应用

现代优化理论与应用

DOI:10.1360/SSM-2020-0035
发表时间:2020
2

“阶跃式”滑坡突变预测与核心因子提取的平衡集成树模型

“阶跃式”滑坡突变预测与核心因子提取的平衡集成树模型

DOI:10.16031/j.cnki.issn.1003-8035.2019.05.04
发表时间:2019
3

基于速变LOS的无人船反步自适应路径跟踪控制

基于速变LOS的无人船反步自适应路径跟踪控制

DOI:10.19693/j.issn.1673-3185.01377
发表时间:2019
4

基于颗粒阻尼的变频空调压缩机管路减振设计

基于颗粒阻尼的变频空调压缩机管路减振设计

DOI:10.3969/j.issn.1004-132x.2022.18.003
发表时间:2022
5

泛"胡焕庸线"过渡带的地学认知与国土空间开发利用保护策略建构

泛"胡焕庸线"过渡带的地学认知与国土空间开发利用保护策略建构

DOI:10.15957/j.cnki.jjdl.2022.03.003
发表时间:2022

薛贞霞的其他基金

相似国自然基金

1

孪生支持向量机理论算法及其应用研究

批准号:61662005
批准年份:2016
负责人:黄华娟
学科分类:F0607
资助金额:39.00
项目类别:地区科学基金项目
2

面向语音识别的抗噪支持向量机优化算法

批准号:61072087
批准年份:2010
负责人:张雪英
学科分类:F0113
资助金额:32.00
项目类别:面上项目
3

基于优化新技术的支持向量机的模型与算法研究

批准号:70601033
批准年份:2006
负责人:钟萍
学科分类:G0102
资助金额:18.00
项目类别:青年科学基金项目
4

基于先验知识的支持向量机的最优化模型与算法研究

批准号:11171346
批准年份:2011
负责人:钟萍
学科分类:A0405
资助金额:45.00
项目类别:面上项目