基于深度学习的文本语法自动纠错模型研究与实现

目录

声明

第一章 绪 论

1.1 研究背景

1.2 研究意义

1.3 国内外研究现状

1.3.1 英文文本自动纠错

1.3.2 中文文本自动纠错

1.4 论文主要研究内容

1.5 论文结构安排

第二章 基础理论与方法

2.1 文本表示方法

2.1.1 传统表示方法

2.1.2 分布式表示方法

2.1.3 Word2vec词嵌入

2.1.4 Glove词嵌入

2.2 深度学习模型

2.2.1 循环神经网络

2.2.2 Sequence2Sequence网络

2.2.3 Transformer网络

2.3 解码生成方法

2.3.1 贪心解码

2.3.2 Beam Search解码

2.4 子词切分技术

2.5 本章小结

第三章 实验设置与数据预处理

3.1.1 硬件环境

3.1.2 软件环境

3.2 训练数据与预处理

3.2.1 NLPCC 2018 GEC训练集和预处理

3.2.2 中文维基百科语料和预处理

3.2.3 HSK动态作文语料库

3.2.4 SIGHAN 2013 CSC语料

3.3.1 基准测试集介绍

3.3.2 评价指标

3.4 本章小结

第四章 基于N-Gram语言模型的拼写错误纠错算法

4.1 N-Gram语言模型

4.2 平滑技术

4.3 N-Gram语言模型纠错算法

4.4.1 实验环境及评价方法

4.4.2 实验数据及预处理

4.4.3 实验结果与分析

4.5 本章小结

第五章 基于深度学习的语法错误纠正算法

5.1 基于Seq2Seq_Attention的纠正算法

5.2 数据预处理与数据扩增

5.2.1 数据预处理

5.2.2 数据扩增

5.3 基于子词技术的基线模型

5.4 基于Transformer的纠正算法

5.5.1 课程学习策略

5.5.2 遮蔽序列到序列策略

5.6 模型集成

5.7.1 实验环境及评价方法

5.7.2 实验数据与预处理

5.7.3 实验设计

5.7.4 实验结果与分析

5.8 本章小结

第六章 总结与展望

6.1 总结

6.2 展望

致谢

参考文献

攻读硕士学位期间取得的成果