基于协同的网络协议模糊测试研究

Many applications are using common or custom network protocols to communicate with each other, and fuzz testing is an important method for discovering software vulnerabilities. However, it is not convenient and efficient to fuzz network protocols now. This project proposes a collaboration-based fuzzing method, where all the participants of the network protocol are fuzzed together, to reduce the preparation work required before, and redesigns the key techniques of fuzz testing based on the characteristics of collaboration and network protocol, to improve the efficiency of protocol fuzzing. The main research contents are as follows. First, we combine the interaction relationship and interaction message content into the execution coverage calculations to perform comprehensive execution behavior recording during the collaborative fuzz testing. Second, we use the Markov chain to model the execution coverage of the messages, and adopt the fitness sharing technique in evolutionary algorithms to maintain the diversity of messages, to achieve efficient collaboration-oriented message mutation. Third, we propose to automatically identify and disable the message authentication checks that may exist in the protocol to make the fuzzing can test codes after the checks. At last, we propose special fuzzing strategies for detecting data races and privilege violations, since they are common vulnerabilities in network protocol implementations.

很多应用程序需要使用通用的或者自定义的网络协议来进行通信，而模糊测试作为目前发现软件漏洞的一种重要方法，测试网络协议时却并不方便和高效。本项目提出让协议的各方协同参与模糊测试的新方法，以减少测试前准备工作，并面向协同以及协议的特征重新设计了模糊测试的关键技术，以提高对协议进行模糊测试的效率。主要研究内容包括：将协同测试时各协同方的交互关系、交互内容结合进执行覆盖统计中以全面地记录执行行为；利用马尔可夫链对消息的执行覆盖进行建模，并采用进化算法中的适应值共享技术来保持消息的多样性，从而实现高效地面向协同地对交互消息进行更改；自动识别协议中可能存在的消息认证字段检查并使其失效，以使模糊测试能测试到认证检查后面的逻辑；对网络协议实现中比较容易出现的数据竞争、越权等漏洞设计专门的模糊测试方法。

模糊测试是一种常用的自动化发现漏洞的方法，但是它应用在网络协议中时并不高效。本项目目的在于针对协议特性设计相应的高效模糊测方法，同时探索不同的改进通用模糊测试效率的方法。.本项目1）提出了支持多方的高效网络协议模糊测试框架，可以支持消息级别的变异并可以实现更高的测试速度，2）在种子变异和调度优化方面，提出了基于引力搜索算法的种子变异算法对变异操作和变异位置进行指导，以及提出结合了种子代码覆盖、变量距离等特性的适用于定向模糊测试的种子调度算法，还提出了种子变异强度这种新的优化方向的优化算法和基于分组的优化算法，3）在种子生成方面，提出了考虑数据和语法语义特征的、可同时针对传输协议和应用层逻辑的内存数据存储模糊测试方法，4）在针对协议状态特性方面，提出了基于Mealy状态机的协议状态覆盖算法和关键变量识别方法。.本项目使用提出的MultiFuzz多方测试框架找到了Eclipse Mosquitto和 libcoap的多个漏洞，使用提出的DAFuzz内存数据存储模糊测试方法找到了Redis和Memcached的多个漏洞。开源desockmulti组件被安全研究人员Star 40余次。提出的协议模糊测试框架MultiFuzz路径覆盖优于AFLNet可达44.6%，优于AFL可达126.6%，优于MOpt可达125.4%。提出的变异优化方法GSA-Fuzz的变异效率优于MOpt多达38%。提出的定向模糊测试调度方法在覆盖度和发现漏洞速度上均优于AFLGo，同时代码覆盖几乎与AFL++相等。提出的基于Mealy机状态覆盖新方法和在代码覆盖和状态覆盖上均优于AFL、AFLNet、IJON和SGFuzz。