使用质量分数来训练序列生成神经网络

摘要

用于训练序列生成神经网络的方法、系统和装置，包括在计算机存储介质上编码的计算机程序。方法中的一个包括：获得一个批次的训练示例；对于训练示例中的每一个：使用神经网络来处理该训练示例中的训练网络输入以生成输出序列；对于输出序列中的每个特定输出位置：识别包括在输出序列中的该特定输出位置之前的位置处的系统输出的词头；对于词汇中的每个可能系统输出，确定能够被指派给包括被该可能系统输出跟随的词头的任一个候选输出序列的最高质量分数；以及确定对网络参数当前值的更新，该更新提高神经网络生成在该位置处具有高质量分数的系统输出的似然性。