一种基于离散型注意力机制的神经机器翻译解码加速方法

摘要

本发明公开一种基于离散型注意力机制的神经机器翻译解码加速方法，步骤为：构建训练平行语料及基于注意力机制的神经机器翻译的模型，利用平行语料生成机器翻译词表，进一步训练得到训练收敛后的模型参数，作为基线系统；通过对模型参数数值的缩放将网络中注意力机制部分参数转换为整型数值，将浮点数映射到整型数值的整型区间内；无法用整型计算的归一化部分替换为有利于整型计算的线性结构；在线性结构之前通过阈值来控制是否所有数值均参与运算；通过在训练数据中随机抽取的1％～2％的数据上调整所选取的阈值，使其能够达到更好的翻译结果。本发明能够在快速推理的最新实现基础上，且在模型性能几乎没有下降的前提下，提升实时相应速度。