基于领域泛化和信息增强的未知目标立场检测方法研究

目录

摘要

第1章绪论

1．1研究目的和意义

1．2国内外研究现状

1．2．1立场检测研究现状

1．2．2领域泛化研究现状

1．2．3数据增强研究现状

1．2．4外部知识研究现状

1．3未知目标立场检测面临的主要问题

1．4本文主要研究内容

1．5本文的组织安排

第2章基于领域泛化的未知目标立场检测

2．1引言

2．2未知目标立场检测基线模型

2．2．1长短时记忆神经网络

2．2．2条件编码机制

2．2．3注意力机制

2．2．4目标话题相关注意力机制

2．2．5立场分类器

2．3对抗领域泛化方法

2．3．1目标话题分类器-条件编码

2．3．2目标话题分类器-独立编码

2．3．3目标话题相关的表示

2．3．4模型训练

2．4数据集

2．5实验设置

2．5．1框架

2．5．2GloVe词向量

2．5．3模型参数

2．5．4对比模型

2．6实验结果与讨论

2．6．1模型的实验结果

2．6．2注意力机制的可视化

2．6．3错误样例分析

2．7本章小结

第3章基于数据增强的未知目标立场检测

3．1引言

3．2数据增强的需求调研

3．2．1社交领域应用需求

3．2．2金融领域应用需求

3．3基于回译方法的非条件数据增强

3．4基于预训练模型BERT的条件数据增强

3．4．1Masked语言模型任务

3．4．2条件BERT模型

3．5结合回译和预训练模型的数据增强

3．6实验设置

3．6．1回译增强方法实验细节

3．6．2CBERT方法实验细节

3．7实验结果与讨论

3．8本章小节

第4章基于外部知识的未知目标立场检测

4．1引言

4．2引入外部可解释信息方式的未知目标立场检测

4．2．1针对目标话题的外部知识引入

4．2．2重构数据集

4．3基于预训练语言模型的外部知识引入

4．3．1Transformer-XL模型

4．3．2XLnet预训练语言模型

4．3．3XLnet词向量的应用

4．4结合Wiki知识和XLnet词向量的外部知识应用

4．5实验设置

4．6实验结果与讨论

4．7本章小结

结论

参考文献

致谢

攻读硕士学位期间发表的学术论文及参加的科研项目

声明