基于教师学生网络和多头解码器的应用题自动解题方法

摘要

本发明公开了一种基于教师学生网络和多头解码器的应用题自动解题方法，首先使用一个序列到树结构的编码解码网络训练一个准确率较高的教师网络，然后利用这个教师网络获得针对训练样本的预测分布向量即软标签向量。然后构造了一个同样基于序列到树结构的编码解码网络，并添加多个树结构的解码器，获得了一个有多头树结构解码器的学生网络。之后，通过使用软标签向量和原有的训练样本中提供的0‑1分布的标签向量即硬标签向量共同作为监督信号，训练了学生网络。在测试时，选取多头解码器中生成的多个解中置信度最高的一个作为模型的输出。本发明通过利用教师模型生成不同于标注的解题等式的能力，并辅以多头解码器结构，可以取得更好的解题效果。