一种基于代码表示学习的即时软件缺陷预测方法

摘要

本发明涉及一种基于代码表示学习的即时软件缺陷预测方法，借助自然语言模型思想，解决了传统神经网络无法解决长距离依赖的问题；首先审查代码变更信息，分解成提交信息和代码变更两部分；接着编码代码变更信息，得到基于单词嵌入、段落嵌入和位置嵌入等词向量序列；然后利用注意力机制构建Transformer编码器模型；最后预训练之前的编码序列，构建基于代码表示学习的代码缺陷预测模型。本发明相较现有技术，应用注意力机制的优势，构造出Transformer编码器作为模型进行两项预训练任务，使得生成的语言模型更加健壮，能更好地表示代码变更信息，进而提高软件缺陷的检测率。