虚拟机逃逸的通用渗透攻击机理与防护模型研究

Virtual machine escape is considered to be one of the most serious threat to the security of the virtual machine, and virtual machine traffic monitoring is a common approach to alleviate this threat. However, there are many different kinds of ways of virtual machine escape, and the harm is severe. Particularly, the escape behavior becomes the main bottleneck of constructing virtualization security protection system based on virtual machine monitor. Firstly, the project does basic scientific research on the rules and reasons of penetration attack of virtual machine escape, taking the vulnerabilities of virtualization system kernel code and virtual machine application software as main research subjects. Secondly, to control the exception handlers of the virtual machine monitor by using the method of triggering the general protection errors in order to make it clear that the relationship between the instructions （such as data flow instructions and the control flow instructions of system for virtualization） and exception handlers. Then to establish the general penetration attack model of virtual machine escape. Finally, to explore the protective mechanism of virtual machine escape. According to the comprehensive utilization of intercepting dynamic instructions and analyzing static data, to make the virtual machine monitor be capable of filtering malicious operation requests, eventually to be innovative in establishing a protection model based on virtual machine monitor prevention and control of self-handling. The project could solve the problem of lacking research model on general penetration attack of virtual machine escape, thus lays a theoretical and technical foundation for constructing the novel security protection architecture of virtualization, and presents a new idea in the research fields of virtualization security.

虚拟机逃逸被认为是对虚拟机安全最严重的威胁之一，虚拟机流量监控是缓解该问题的一般途径。然而虚拟机逃逸方式种类繁多，危害严重，尤其基于虚拟机监控器的逃逸行为成为制约虚拟化安全防护体系构建的主要瓶颈。本课题首先以虚拟化系统内核态代码漏洞和虚拟机应用软件漏洞为研究对象，对虚拟机逃逸渗透攻击的规律和原因进行基础科学研究。其次是采用触发通用保护错误的方法对虚拟机监控器的异常处理程序进行控制，明确了异常处理程序与虚拟化系统数据流指令、控制流指令等因素之间的关系，建立了虚拟机逃逸通用渗透攻击的模型。最后探索虚拟机逃逸防护机制，综合利用动态指令截获与静态数据分析方法，使虚拟机监控器能够过滤恶意操作请求，创新性地建立了基于虚拟机监控器防控自处理的安全防护模型。本课题解决了虚拟机逃逸研究中缺乏通用渗透攻击模型的难题，为虚拟化系统新型安全防护体系构建奠定了理论和技术基础，提供了虚拟化安全领域研究的新思路。

虚拟机逃逸被认为是对虚拟机安全最严重的威胁之一，虚拟机流量监控是缓解该问题的一般途径。然而虚拟机逃逸方式种类繁多，危害严重，尤其基于虚拟机监控器的逃逸行为成为制约虚拟化安全防护体系构建的主要瓶颈。本文将虚拟化技术与传统的安全技术结合在一起，实时跟踪逃逸技术的更新，形成的主要成果如下：.1）归纳了虚拟机逃逸的提权模型和渗透模型，提出了一种使虚拟化系统执行的CPU指令保留在内核态的用户提权方法。本文研究了开源虚拟化系统KVM和XEN的机制和运行模式，在此基础上总结出一般虚拟机逃逸模式，并以虚拟化系统内核态和用户态代码为研究对象，对基于hypervisor级虚拟机逃逸渗透攻击的规律和原因进行归纳和提炼，提出并证明虚拟机逃逸的提权模型和渗透模型，随后提出了一种通过触发通用保护错误处理机制实现的使虚拟化系统执行的CPU指令保留在内核态的提权渗透方法。.2）提出了一种基于hypervisor级改进型FSM的虚拟机逃逸攻击模型。本文对目前所有虚拟机逃逸漏洞的可参考信息和源代码进行分析，发现漏洞的攻击效果在一定程度上可以进行分类，可以解决逃逸漏洞无法归类的问题。提出了一种改进的FSM的虚拟机逃逸攻击模型，该模型通过细节化逃逸漏洞，提炼出关键步骤，可推演未来可能出现的逃逸漏洞。.3）设计了一种基于状态空间模型优化的虚拟机逃逸安全防护模型的量化分析方法和预测算法。为了优化该模型的主动防护能力，基于逃逸行为状态序列特征库，利用连续时间马尔科夫链模型对其进行瞬态分析，能够根据系统初始状态的理论最优值，为后续防护系统的正确决策提供指导；设计的逃逸行为异常状态预测算法，提升了对数据序列样本状态发生逃逸行为概率的预测精度。. 本文解决了虚拟机逃逸研究中缺乏攻击模型的难题，同时设计了一种虚拟机逃逸安全防护模型，为虚拟化系统新型安全防护体系构建奠定了理论和技术基础，提供了虚拟化安全领域研究的新思路。