基于演化数据语义理解的多元扩展代码搜索方法研究

Search-based software engineering is a hot research topic in intelligent software engineering in which Free text-oriented Code Search has become an important means to realize man-machine collaborative programming. Currently, by using API documents or crowdsource data for reformulating queries, the mainstream code search methods have achieved a precision of 83%. However, the precision decreased by 15% when those methods are used to search in the source codes that evolves over time. To prevent a sharp drop in the precision after code evolution, this project conducts the following studies. Firstly, it establishes the probabilistic inference model that dependent items trigger new/deleted items during code evolution, so as to obtain the code items with the highest evolutionary probability and reformulate the queries, and realizes the code search based on evolving data. Second, it explores the evolving code data semantic representation based on the deep learning model, so as to obtain the evolved code item with the largest semantic similarity and reformulate the queries, and realizes the code search based on the semantic understanding of the evolutionary data. Third, it builds a multi-element extended code search integration model to realize the scene-adaptive code search based on evolving data. Meanwhile, it generates test data by following Proksch’s method, and verifies the above methods by the automatic evaluation technology. The research results of this project provide new strategies for the searching of the evolving code, new ideas for the semantic understanding of source code, and technical support for the man-machine collaborative programming based on AI code search assistant.

基于搜索的软件工程是智能软件工程的研究热点，面向自由文本的代码搜索是实现人机协同编程的重要手段。当前基于API文档和众智数据重构查询语句的主流代码搜索方法，准确率已经达83%，但要搜索随时间演化的代码，准确率会降低15%。本项目针对代码演化后搜索准确率急剧降低的问题：（1）研究建立代码演化时依赖项触发新增/删除项的概率推理模型，以获取演化概率最大的代码项重构查询语句，实现基于演化数据的代码搜索；（2）探索基于深度学习模型的代码演化数据语义表示，以获取语义相似度最大的演化代码项重构查询语句，实现基于演化数据语义理解的代码搜索；（3）构建多元扩展代码搜索集成模型，实现基于演化的场景自适应代码搜索。同时，采用Proksch的方法生成测试数据，并用自动评测技术验证上述方法。项目研究成果为演化代码搜索问题提供新策略，为程序代码语义理解提供新思路，为实现基于AI代码搜索助手的人机协同编程提供技术支撑。

在研究利用代码演化数据提高代码搜索准确率的过程中，我们发现程序语义表示是代码搜索、代码补全、代码翻译、代码摘要和错误定位等诸多软件工程任务背后的共性关键基础问题。为此，我们先后分三个阶段研究有效利用深度学习和知识图谱表示程序语义的方法。.阶段1.基于演化数据的代码搜索模型研究。我们针对代码演化后搜索准确率急剧降低的问题，分别采用概率统计、深度置信网络等方法从Github Commits蕴含的代码演化数据（新增/删除的代码项及其依赖项）中学习程序语义表示，建立基于演化数据的代码搜索模型、基于演化数据语义理解的代码搜索模型，并构建多元扩展代码搜索集成框架将这两种模型融合起来，实现基于演化的场景自适应代码搜索。.阶段2.基于深度学习的程序语义表示研究。使用注意力、图神经网络、预训练大规模语言模型等热门深度学习模型表示源码和中间码的程序语义。具体地，采用注意力机制学习代码和注释之间彼此关注的重点，给出一种<代码、注释>的表示方法；采用图神经网络学习Solidity源码和中间码中的抽象语法树、控制流和数据流，给出具有普适性的、基于图神经网络的程序语义表示方法；基于“预训练、提示和预测”的新范式，使用小规模数据微调预训练代码掩码语言模型CodeBert，激活该模型表示程序语义的潜力，使其能够理解代码片段上下文，推理出缺失的、不完整的、未声明的完整数据类型名称。.阶段3.基于知识图谱的程序语义表示研究。研究针对API文档、程序开发指南、程序代码的语义提取（知识图谱构建）及语义强化（知识图谱融合）的方法，实现程序语义的表示、链接、互补、强化，以及编程知识和专有知识的一致性搜索。.综上所述，项目既取得预期研究成果，又对采用最新深度学习（注意力、图神经网络、大规模语言模型）和知识图谱（构造与融合）技术表示程序语义做了充分的探研。共发表学术论文5篇（期刊论文3篇，2篇被SCIE收录；会议论文2篇，均被EI收录），其中2篇CCF-A，1篇CCF-B,1篇CCF-C，1篇CSCD-C。围绕本课题研究内容，2020年至2022年间已培养硕士研究生2名（毕业1名，在读1名）。项目组成员两次参加国际学术会议。