基于自然语言处理的安全漏洞静态检测方法研究

Security vulnerability static detection is a hot research field. The main problem for this field lie in two folds. Firstly, conventional static detection relies on manual detection rule extraction, the efficiency of which is a huge trouble, and the extracted rules are mostly specific to the target system. Therefore, extracting the detection rules has been the obstacle of developing advanced vulnerability static detection techniques. Secondly, detection rule extraction based on certain data mining techniques depends on how the number of secure programming patterns is far beyond the number of insecure patterns. The related solutions also often ignore some important information such as the code structure, semantics and so on, leading to high false positives. This research project plans to incorporate vulnerability static detection with natural language processing, treating the target system as a language system, modeling it with the n-gram language model, and then computing the probabilities of the token sequences. This research will explore the automated techniques of extracting detection rules and develop corresponding detection methods. It analyzes the dependency and semantic correlation among the code elements and also recognizes the intra- and inter-procedural equivalent implementations so as to optimize the model, improve its representation capability, increase the accuracy of rule extraction and decrease the false positives and false negatives of vulnerability detection. Based on that, the research develops the detection methods associated with the rule extraction and implements the prototype system, constructing a complete tool chain of vulnerability static detection to overcome the obstacles of vulnerability static detection.

安全漏洞静态检测技术是国际上的热点研究领域，目前存在的主要问题是：传统的漏洞静态检测技术依赖于人工提取规则，效率问题突出，且与具体目标系统密切相关，使得规则提取成为了漏洞静态检测技术发展的瓶颈；基于数据挖掘技术的规则提取则依赖于目标系统中安全编程模式对于非安全编程模式的数量优势，且经常忽略代码内部结构语义等信息，具有较高误报率。本项目拟在漏洞静态检测领域引入自然语言处理技术，视目标代码为语言系统，利用n-gram语言模型建模，计算代码元素序列的概率，探索具有相当自动化程度的规则提取方法及相应的漏洞检测技术。将分析代码元素之间的依赖与语义关联，并通过过程内与过程间等效实现的识别完善模型，增强模型表示能力，提升规则提取的准确率，降低漏洞检测的误报与漏报。在此基础上，发展与规则提取相配合的检测技术，研发相应的原型系统，形成完整的漏洞静态检测工具链，以期有效克服漏洞静态检测技术当前存在的发展障碍。

安全漏洞静态检测技术是国际上的热点研究领域，目前存在的主要问题是：传统的漏洞静态检测技术依赖于人工提取规则，效率问题突出，且与具体目标系统密切相关，使得规则提取成为了漏洞静态检测技术发展的瓶颈；基于数据挖掘技术的规则提取则依赖于目标系统中安全编程模式对于非安全编程模式的数量优势，且经常忽略代码内部结构语义等信息，具有较高误报率。本项目引入基于深度学习的自然语言处理技术（词嵌入）来表征代码，并利用类比推理等技术自动识别代码中的敏感操作，以此为基础开展漏洞检测。此外，我们开展了利用基于深度图嵌入技术进行代码表征的探索，以尽可能利用代码的语义信息和结构信息，降低漏洞检测的误报、提升准确性。此外，受项目支持，我们也在其他研究领域，如Android安全性分析和基于数据挖掘的编码规则识别等方面开展了研究。我们设计实现了相应的方法和原型工具，在真实的软件系统（如Linux内核、OpenSSL等）中进行了测试，发现了数十个已被软件开发人员确认的未知缺陷。相关研究成果已发表7篇会议/期刊论文，含4篇CCF A类论文；部分研究成果作为重要组成部分获得了计算机学会2021年度的自然科学奖一等奖。