基于集成学习的最小错误率训练算法

摘要

最小错误率训练是统计机器翻译的标准调参方法,在统计机器翻译建模过程中发挥着重要作用.然而,该方法在训练过程中容易出现训练过拟合现象,即开发集训练得到的权重无法很好地适用于翻译测试集.针对该问题,本文引入集成学习方法来优化调参.在调参时挑选不同的特征子集来训练多组特征权重,并计算权重之间的空间距离以删除不合理的特征权重,再根据各组子集在开发集上的BLEU(bilingual evaluation understudy)值来进行加权平均,获得最终的特征权重.NIST和IWSLT实验结果表明,该方法具有较好的效果.