训练语言表征模型的方法、查找语句的方法及装置

摘要

本申请实施例提供了训练语言表征模型的方法、查找语句的方法及装置，该方法包括：获取目标训练语句，其中，所述目标训练语句是通过对语言表征模型所应用的目标领域的语句进行采集获得的；根据所述目标训练语句对预训练语言表征模型进行训练，获得目标语言表征模型，其中，所述预训练语言表征模型依次包括短语特征提取层、句法特征提取层和语义特征提取层，所述语义特征提取层中的第i层中部分节点的输入为所述短语特征提取层中的第j层的输出，i和j为大于或等于1的整数。通过本申请的一些实施例能够提升语言表征模型的运行速度，并且能够使目标语言表征模型中的参数更适合应用于目标领域，从而提升语言表征模型的精确度。