面向小型CPU设备的神经机器翻译系统解码加速方法

摘要

本发明公开一种面向小型CPU设备的神经机器翻译系统解码加速方法，步骤为：构建训练平行语料及基于注意力机制的神经机器翻译的模型，利用平行语料生成机器翻译词表，进一步训练得到训练收敛后的模型作为对比的基线模型，用于和改进后模型进行对比；将注意力神经机器翻译模型中多头注意力模块中多头变为单头，进一步训练得到训练收敛后的模型作为对比的单头模型；将注意力神经机器翻译模型中多头注意力模块中多头变为单头后，其余部分的头由此单头和一个轻量级线性变换计算获得，减少注意力模块中的计算量，达到解码加速的目的。本发明能够在多个机器翻译任务数据集上显著加速模型CPU解码速度，并保证模型的性能没有明显下降。