最大熵和HMM在中文词性标注中的应用

摘要

隐马尔可夫模型（HMM）基于n-元语法的标注效果虽然不错，但由于预测信息的不足，对汉语的词性标注，特别是未登录词的词性标注精度影响很大。而最大熵模型使用特征的形式，有效的利用了上下文信息，在一定的约束条件下可以得到与训练数据一致的概率分布，即使是未登录词，由于其丰富的上下文信息，对它的词性标注也起到了很好的预测作用。实验结果证明最大熵方法取得了较好的标注效果。