融合外部知识的机器阅读理解方法研究

目录

第 1 章 绪 论

1.1课题背景及研究目的和意义

1.1.1课题背景

1.1.2课题研究的目的和意义

1.2 国内外研究现状

1.2.1 国外研究现状

1.2.2 国内研究现状

1.3 主要研究内容

1.4 本文章节安排

第 2 章 基于预训练语言模型的隐式引入外部知识的方法

2.1 引言

2.2 实验数据集介绍

2.3 预训练语言模型介绍

2.3.1 传统的语言模型训练方法

2.3.2 预训练语言模型

2.4 基于预训练语言模型的机器阅读理解模型

2.5 实验结果与分析

2.5.1 基于预训练语言模型的机器阅读理解模型实验结果

2.6 本章小结

第 3 章 基于注意力机制的融合外部知识的方法

3.1 引言

3.2 机器阅读理解中常用的 Attention 机制

3.2.1 Attentive Reader 和 Impatient Reader

3.2.2 Attentive Sum Reader

3.2.3 斯坦福 Attentive Reader

3.2.4 AOA Reader

3.2.5 双向注意力机制

3.2.6 自匹配注意力机制

3.3 实验数据集与外部知识库

3.4 基于注意力机制的融合外部知识的机器阅读理解方法

3.4.1 外部知识检索

3.4.2 基于注意力机制的融合外部知识的机器阅读理解模型

3.5 实验设置与结果分析

3.5.1 评价指标

3.5.2 实验设置与结果分析

3.6 本章小结

第 4 章 结合实体感知增强的引入外部知识的方法

4.1 引言

4.2 引入外部知识的阅读理解主要技术介绍

4.2.1知识感知的双向LSTMs

4.2.2 命名实体识别主要技术介绍

4.4 结合实体感知增强和外部知识的机器阅读理解

4.4.1命名实体识别辅助任务数据构造

4.4.2外部知识检索

4.4.3结合实体感知增强与外部知识的阅读理解模型

4.5 实验设置与结果分析

4.5.1数据来源

4.5.2评价指标

4.5.3实验结果及分析

4.6 本章小结

结 论

参考文献

攻读硕士学位期间发表的论文及其它成果

声明

致 谢