一种用于英语语法错误纠正的层次语言模型的研究与设计

摘要

近些年，英语语法错误纠正领域快速发展，产生了很多优秀的成果，但是在语言模型的设计上却没有大的突破。传统的n-gram模型对于语言纠错没有很强的针对性，新提出的句法n-gram模型纠错和一些新出现的树状语言模型纠错效果不太理想，基于神经网络的语言模型太过复杂。因而，本文的目标是综合现有常见语言模型的优点，在资源比较有限的条件下，研究和设计一种可以应用于英语语法错误纠正系统的层次语言模型。
　　为了取得比传统语言模型更理想的语法错误纠正效果，首先，本文分析了目前常见的几种语言模型的特点，提出了一种既可以克服远距离单词间依赖问题又能兼顾保存语义信息的层次语言模型。该语言模型利用句中单词之间的依存关系，将句子分解成不同层次的子句，子句内部高度相关，上下层子句之间相互修饰和补充。其次，训练该层次语言模型，设计纠正解码算法，利用近似单词作为备选词，使用模型的概率信息进行纠正解码，并依此实现了一个覆盖多种英语语法错误的通用语法错误纠正模块;然后，采用该层次语言模型提取句子的上下文信息作为分类器的特征，利用近似动名词搭配作为备选搭配集，对搭配集进行筛选，并使用该语言模型对纠错结果进行最终排序，并依此设计了一个针对英语动名词搭配错误的纠正模块。最后，对这两个模块的纠错效果进行了测评。
　　经过实验验证，本文提出的层次语言模型具有稳定性和简洁性等优点，对句子的描述也更加精确。将层次语言模型直接用于构建解码器对多种英语语法错误进行检错纠错，或者用于抽取上下文特征作为英语语法检错纠错中机器学习的特征，或者运用于对纠错结果进行评分和排序，均能取得比传统线性语言模型更好的效果。

目录

声明

摘要

第1章 绪论

1．1 研究背景

1．2 研究意义

1．3 相关研究

1．4 本文的主要工作

1．5 本文的篇章结构

第2章 相关理论与技术分析

2．1 依存句法分析

2．1．1 依存语法

2．1．2 依存句法分析

2．2 语言模型

2．2．1 传统n-gram语言模型

2．2．2 句法n-gram语言模型

2．2．3 基于神经网络的语言模型

2．3 平滑算法

2．4 Viterbi算法

2．5 层次语言模型的使用方法

2．5．1 提取动名词规则

2．5．2 基于解码的方法中估计概率

2．5．3 基于分类的方法中抽取特征

2．6 本章小结

第3章 层次语言模型的设计与分析

3．1 传统语言模型的不足

3．2 句子的层次结构

3．3 构建层次语言模型

3．3．1 层次语言模型构建过程

3．3．2 稳定性

3．3．3 简洁性

3．4 本章小结

第4章 基于层次语言模型的英语语法错误纠正模块设计与实现

4．1 通用语法错误纠正模块设计与实现

4．1．1 通用语法错误纠正模块纠错流程设计

4．1．2 训练层次语言模型

4．1．3 依存分析和生成备选词

4．1．4 层次语言模型纠错解码算法

4．2 动名词搭配错误纠正模块设计与实现

4．2．1 动名词搭配错误纠正模块纠错流程设计

4．2．2 特征选择

4．2．3 层次语言模型排序

4．3 本章小结

第5章 实验与分析

5．1 评价标准

5．2 通用语法错误纠正模块的测试结果分析

5．3 动名词搭配错误纠正模块的测试结果分析

5．4 本章小结

第6章 总结和展望

6．1 全文总结

6．2 未来工作展望

参考文献

致谢

在读期间发表的学术论文与取得的其他研究成果