敌手环境中安全机器学习关键技术研究

基本信息
批准号:61105050
项目类别:青年科学基金项目
资助金额:24.00
负责人:龙军
学科分类:
依托单位:中国人民解放军国防科技大学
批准年份:2011
结题年份:2014
起止时间:2012-01-01 - 2014-12-31
项目状态: 已结题
项目参与者:赵文涛,詹宇斌,刘新旺,熊伟,梁小龙,朱俊
关键词:
主动学习博弈安全机器学习敌手环境统计机器学习
结项摘要

统计机器学习因能有效发现经验数据中的隐藏模式,已应用于众多真实世界问题,从而使相关应用系统具备自适应特点。但是在存在恶意对手的敌手环境中(如入侵检测、垃圾邮件过滤等),机器学习的引入也会给相关应用系统带来新的脆弱性。恶意对手可以利用机器学习依赖样本的特性进行攻击,从而导致其分类性能下降,包括:恶意对手探索学习器的分类边界,从而发送学习器会误分类的样本;或恶意对手污染训练样本,使学习器分类正确率下降。面对这一威胁,本项目研究当存在恶意对手的情况下,增强机器学习安全性的若干关键技术,主要研究内容包括:①攻击威胁模型和机器学习安全性分析框架;②探索型和使役型攻击的检测技术;③离线情况下的攻击容忍学习算法;④在线情况下的攻击容忍学习算法。本项目关于安全机器学习的理论分析和算法实现,可推动机器学习安全性的理论认识,并有助于解决机器学习在敌手环境下的应用障碍,在恶意行为检测等应用领域展现重要前景。

项目摘要

统计机器学习因能有效发现经验数据中的隐藏模式,已应用于众多真实世界问题,从而使相关应用系统具备自适应特点。但是在存在恶意对手的敌手环境中(如入侵检测、垃圾邮件过滤、恶意代码检测等),机器学习的引入也会给相关应用系统带来新的脆弱性。恶意对手可以利用机器学习依赖样本的特性进行攻击,从而导致其分类性能下降,包括:恶意对手探索学习器的分类边界,从而发送学习器会误分类的样本;或恶意对手污染训练样本,使学习器分类正确率下降。面对这一威胁,本项目研究当存在恶意对手的情况下,增强机器学习安全性的若干关键技术,主要研究内容包括:①敌手环境中攻击威胁模型;②敌手环境中机器学习安全性分析框架;③攻击容忍学习算法。本项目的主要研究成果和结论包括:① 根据信息安全问题的实际情况,并考虑半监督学习和主动学习的场景,引入未标注样本的污染问题,明确了敌手环境中的攻击威胁模型,并提出针对未标注样本污染的几种典型攻击,使针对机器学习的攻击谱系更加完整;② 基于提出的敌手环境攻击威胁模型,并结合博弈论,扩展了机器学习安全性定量分析框架;③ 在前述研究的基础上,提出一系列攻击容忍学习算法,包括:基于主动学习的攻击容忍学习算法、基于自适应多核学习的攻击容忍算法、缺失多核学习的攻击容忍算法和面向删除型污染攻击的容忍算法;④ 在研究和测试过程中,完成了一套敌手环境中基于深度、混合机器学习技术和NetFPGA板卡的入侵防御系统,集成了提出的各种针对机器学习的攻击算法和攻击容忍算法。本项目关于安全机器学习的理论分析、算法研究以及系统开发,将机器学习安全性的理论认识扩展到半监督、监督、主动学习三种范式上,拓宽了对机器学习安全性的理论认识,并有助于解决机器学习在敌手环境下的应用障碍,在恶意行为检测等应用领域展现重要前景。

项目成果
{{index+1}}

{{i.achievement_title}}

{{i.achievement_title}}

DOI:{{i.doi}}
发表时间:{{i.publish_year}}

暂无此项成果

数据更新时间:2023-05-31

其他相关文献

1

多能耦合三相不平衡主动配电网与输电网交互随机模糊潮流方法

多能耦合三相不平衡主动配电网与输电网交互随机模糊潮流方法

DOI:10.13334/j.0258-8013.pcsee.190276
发表时间:2020
2

新型树启发式搜索算法的机器人路径规划

新型树启发式搜索算法的机器人路径规划

DOI:10.3778/j.issn.1002-8331.1903-0411
发表时间:2020
3

现代优化理论与应用

现代优化理论与应用

DOI:10.1360/SSM-2020-0035
发表时间:2020
4

二叠纪末生物大灭绝后Skolithos遗迹化石的古环境意义:以豫西和尚沟组为例

二叠纪末生物大灭绝后Skolithos遗迹化石的古环境意义:以豫西和尚沟组为例

DOI:10.7605/gdlxb.2022.03.033
发表时间:2022
5

汽车侧倾运动安全主动悬架LQG控制器设计方法

汽车侧倾运动安全主动悬架LQG控制器设计方法

DOI:
发表时间:2017

龙军的其他基金

批准号:61272150
批准年份:2012
资助金额:81.00
项目类别:面上项目
批准号:51567002
批准年份:2015
资助金额:39.00
项目类别:地区科学基金项目
批准号:61472450
批准年份:2014
资助金额:82.00
项目类别:面上项目
批准号:60873081
批准年份:2008
资助金额:28.00
项目类别:面上项目
批准号:81373232
批准年份:2013
资助金额:70.00
项目类别:面上项目

相似国自然基金

1

多方机器学习中的隐私保护关键技术研究

批准号:61802078
批准年份:2018
负责人:李同
学科分类:F0206
资助金额:25.00
项目类别:青年科学基金项目
2

隐私保护机器学习关键技术研究

批准号:61872109
批准年份:2018
负责人:蒋琳
学科分类:F0206
资助金额:64.00
项目类别:面上项目
3

适于图像分类与标注的安全机器学习技术研究

批准号:61772262
批准年份:2017
负责人:李宇峰
学科分类:F0605
资助金额:67.00
项目类别:面上项目
4

保护隐私的多方机器学习关键技术研究

批准号:61802227
批准年份:2018
负责人:马旭
学科分类:F0206
资助金额:23.00
项目类别:青年科学基金项目