文本情感分类及观点摘要关键问题研究

摘要

人类自然语言文本承载了两种信息,客观事实信息和带有人的主观感情色彩的信息,这些带有人的主观性信息的文本反映了人们对于某个特定对象的态度、立场和意见等。文本情感分析以带有主观性信息的文本为研究对象,目的是识别、分类、抽取、标注这些文本里表达的情感、观点、影响。
　　 随着互联网的迅猛发展,论坛、社区、博客、购物网站等社会媒体上面的主观性评论信息越来越多,甚至呈现爆炸式的增长。越来越多的人或机构开始习惯于在网络上搜索评论信息来帮助做出决定。但是,Web上的海量信息使他们在进行检索后不得不在数量巨大的评论中一条一条地人工翻阅、检查、判断信息,以便做出综合判断。在这种情况下,如果能够对这些海量的评论信息进行综述,得到的观点综述信息势必对消费者和生产商两方都具有很高的参考价值。这方面的工作就是基于观点的多文档摘要。同时,如果能够自动对这些评论进行分析,分析出哪些评论对评论对象持肯定态度,哪些持否定态度,以及肯定或否定的程度,便可极大提高用户获取评论信息时的效率。这方面的工作就是情感分类。
　　 本文围绕文本情感分析中的多文档观点摘要和情感分类这两个子课题进行了研究,主要工作包括以下三方面:
　　 (1)提出了一种基于观点的多文档摘要方法。
　　 现有基于观点的多文档摘要方法多数根据被评论的特征/方面(feature/aspect)进行摘要,称为基于特征/方面的观点摘要。这种摘要很大程度上依赖于对评论特征和评论词的精确识别,而实际中经常存在句子中缺少显式给出的评价特征或评论词的情况,这样的句子在基于特征的观点挖掘中很容易被忽略,从而影响后续生成的摘要的质量。而要精确挖掘句子中的评论特征和评论词又需要领域知识的支持,这又会造成领域依赖性。同时,这种基于特征/方面的观点摘要将关注点放在对每个特征的评价上,不能提供一个覆盖所有评论中主要主题和基本观点的综述信息。
　　 针对以上问题,本文提出了一种通用的领域无关的多文档观点摘要方法。本方法采用传统摘录式多文档摘要技术,结合概率主题模型LDA(Latent Dirichlet Allocation,LDA)和语义倾向进行多文档观点摘要。本文方法首先利用LDA模型对多文档的句子集合建模,挖掘文本集合中的潜在主题,利用Gibbs抽样得到句子在主题上的概率分布和主题在词上的概率分布,同时对句子进行词性分析并利用Wo rdNet和SentiWordNet计算句子中词的语义倾向值;然后依次计算主题的重要度、词的重要度,在这两者基础上结合词的语义倾向计算句子的重要度;最终根据句子的重要度排序依次抽取句子,根据主题去除句子冗余后得到抽取式文摘。本文方法利用LDA模型挖掘评论文本中的重要主题,并结合语义倾向挖掘在重要主题上的主观性较强的观点。实验证明,本文方法得到的摘要更接近专家摘要。
　　 (2)提出了一种基于集成学习的不平衡数据集情感分类方法。
　　 目前二元情感分类的研究重点都放在了如何提高情感分类的性能上,却忽略了现实中经常出现情感分类样本中一个类别的样本数量几倍于另一个类别样本数量的情况,即情感分类样本的类别“不平衡”问题。而当前对情感分类的研究绝大多数都是在平衡的数据集上进行的,由此导致在平衡的数据集上得到的性能较好的情感分类器,在实际中应用时很难保持原有的性能。因此,研究如何对不平衡的情感分类数据进行分类,并提高其分类性能具有非常重要的意义,这也是情感分类技术能真正运用到实践过程中必须解决的一个问题。
　　 针对上述问题,本文提出了一种综合了不平衡数据集分类和集成学习两方面技术的情感分类方法。作为一种混合的方法,该方法从算法和数据两个层面着手,在集成学习的框架下,综合了欠抽样、Bootstrap重采样和随机特征选择三种方法来处理训练集,以便同时获得这三种方法的优势,得到若干在样本和特征空间都不相同的具有较大差异性的训练子集,由此得到具有较大差异性的基分类器,并最终提高集成得到的总分类器的性能。在“不平衡”情感数据集上的实验证明该方法可显著提高“不平衡”情感数据集的分类性能。
　　 (3)提出了细粒度的情感分类并研究了文本分类预处理技术对情感分类的影响。
　　 大量的情感分类研究重点放在二元情感分类上,即将主观性文本分为肯定类别或否定类别,而现实中带主观性信息的文本并不总是分为肯定或否定两类,例如很多网上商城的评价信息都是对应着1星到5星的等级信息,在这种情况下仅仅研究将评论信息分为肯定和否定两个类别不能满足实际的需要。针对这种情况,本文提出了对含有主观性信息的文本进行更细致的分类,称为细粒度的情感分类,该分类不仅考虑评论文本的肯定和否定的极性,还考虑评论的力度等级。本文同时分析了细粒度情感分类与普通多类分类问题本质上的不同。
　　 考虑到情感分类和传统的基于主题分类的目的不同,为了更好地研究细粒度的情感分类,本文针对有指导的机器学习方法,分析了影响情感分类的各种因素,研究比对了特征词数目、停用词表、文本特征选择、特征权重计算和文本分类方法在情感分类这个特殊问题上的性能表现,发现将文本分类技术应用于情感分类时在停用词、分类方法等方面和应用于主题分类时表现不同。最后,针对细粒度的中文文本情感分类问题,本文利用机器学习的方法在中文科技论文的评论上做了相应实验;实验中使用评论文本对应的等级信息作为类别标签,解决了人工标注的问题;实验发现细粒度的情感分类不仅在本质上和基于主题的多类分类不同,而且分类难度高于传统的多类分类和两类的情感分类。

目录

声明

摘要

第1章 绪论

1．1 研究背景

1．2 研究现状

1．3 存在的问题和挑战

1．4 本文工作和创新点

1．5 本文的组织结构

第2章 基础知识及相关研究

2．1 引言

2．2 基于语义倾向的研究方法

2．2．1 词性标注

2．2．2 情感词识别

2．2．3 词的语义倾向

2．2．4 文档的语义倾向

2．3 基于有指导的机器学习的研究方法

2．3．1 训练集

2．3．2 特征选择

2．3．3 文本表示

2．3．4 文本分类方法

2．3．5 评价标准

2．4 其他研究方法

2．5 现有研究方法比较

2．6 本章小结

第3章 文本预处理对情感分类的影响及细粒度情感分类

3．1 引言

3．2 中文文本预处理技术对情感分类的影响

3．2．1 影响分析

3．2．2 数据集和评价标准

3．2．3 实验结果

3．3 细粒度情感分类

3．3．1 细粒度情感分类分析

3．3．2 数据集和评价标准

3．3．3 实验结果

3．4 本章小结

第4章 基于集成学习的不平衡数据集情感分类方法

4．1 引言

4．1．1 问题描述

4．1．2 不平衡数据集分类问题

4．1．3 集成学习

4．2 非平衡语料情感分类分析

4．2．1 情感分类中类不平衡问题

4．2．2 平衡和非平衡语料情感分类比较

4．3 基于集成学习的不平衡情感数据分类

4．3．1 基于欠抽样的训练子集生成

4．3．2 基于Bootstrap的重采样

4．3．3 随机特征空间选择

4．3．4 算法描述

4．4 实验结果及分析

4．4．1 数据集

4．4．2 比对算法

4．4．3 评价标准

4．4．4 实验结果及分析

4．5 本章小结

第5章 基于观点的多文档摘要

5．1 引言

5．1．1 问题描述

5．1．2 相关工作

5．2 Latent Dirichlet Allocation主题模型

5．2．1 主题模型

5．2．2 LDA模型

5．3 多文档观点摘要

5．3．1 算法描述

5．3．2 模型参数估计

5．3．3 主题重要度

5．3．4 句子重要度

5．3．5 文摘抽取及冗余处理

5．4 实验

5．4．1 数据集

5．4．2 评价指标

5．4．3 实验结果

5．5 本章小结

第6章 总结与展望

6．1 主要工作总结

6．2 未来工作展望

参考文献

致谢

攻读学位期间发表的学术论文目录

攻读学位期间参与科研项目情况

攻读学位期间获奖情况

学位论文评阅及答辩情况表

外文论文