基于链分类器的多标记分类问题研究

摘要

伴随着科学技术的迅猛发展，多标记学习已经成为机器学习的研究热点并且在现实生活中广泛存在着各种多标记学习的例子.不同于传统的单标记分类问题，多标记分类通常将一个实例同时分配给一个或多个类别.在研究多标记分类的算法中，链分类器是最常用的方法之一.链分类器不仅可以在二值相关方法的基础上体现类之间的相关性而且可以保持可接受的计算复杂度.然而，一方面虽然它考虑了类标记之间的相关性，但是它却忽略了潜在的类标记冗余信息并且没有具体衡量类标记间的相关性.另一方面链分类器中的类标记序影响着最后的分类效果并且它容易导致错误信息的传递.因此，本文针对在链分类器中存在的两点问题进行研究，分别为： 第一，对于链分类器中的每个基分类器的扩充属性过程，本文提出了一种选择性链分类器，它主要用于有选择性的扩充属性并且最后取得了良好的效果. 首先，针对每个基分类器选择类标记作为其扩充属性的问题，它忽略了类标记之间的冗余性并且没有具体衡量类标记之间的相关性.由于扩充属性过程实际上为特征选择过程并且它要同时考虑扩充属性之间的相关性与冗余性，因此本文将最大相关最小冗余的特征选择算法与属性扩充过程相结合.其次，该算法主要对所要扩充的属性进行最大相关最小冗余关系的衡量和选择，这样不但同时考虑了扩充属性之间的相关性与冗余性而且减少了所扩充的属性个数，因此得到一个结构简单且分类性能良好的选择性链分类器.最后，借助多个多标记数据集和目前的多个多标记分类算法进行实验，结果表明，本文所建立的选择性链分类器是有效的. 第二，对于链分类器中的类变量顺序的确定问题，本文提出了一种有序的链分类器，它利用类变量之间的相关性与冗余性有效的为链分类器寻找合适的类序. 首先，针对链分类器中类变量的顺序确定问题，它严重影响着最后的分类效果且容易导致错误信息的传递.由于随着类变量个数的不断增加，链序的随机排列顺序也越来越多，学习它的计算复杂度也会随之增加，并且在该问题上很少出现全面衡量类之间关系的方法，因此本文采用最大相关最小冗余特征选择算法具体衡量类之间的相关性与冗余性，它为每个类变量选择出不同的最大相关最小冗余标记子集.其次，根据所选择的结果，每一个类变量从不同的标记子集中选择出一个最优的标记子集，接着，再根据最优标记子集的信息为链分类器确定合适的链序.最后，在多标记数据集上进行实验测试，结果表明，有序的链分类器分类性能优良. 最后，本文总结了研究内容与成果，它为更进一步的研究链分类器奠定了基础.

目录

第一个书签之前

摘要

ABSTRACT

插图索引

表格索引

符号对照表

缩略语对照表

第一章 绪论

1.1.1数据挖掘研究背景

1.1.2多标记学习研究背景

1.1.3特征选择研究背景

1.2国内外研究现状

1.2.1多标记分类国内外研究现状

1.2.2链分类器国内外研究现状

1.2.3最大相关最小冗余算法国内外研究现状

1.3本文的研究目标、方法和意义

1.3.1研究目标与方法

1.3.2研究意义

1.4研究主要内容和结构安排

1.4.1本文主要内容

1.4.2本文结构安排

第二章 基本理论知识

2.1.2多标记分类概念

2.2典型的单标记分类算法

2.2.1朴素贝叶斯分类器

2.2.2决策树分类器

2.3常用的多标记分类方法

2.3.1二值相关方法

2.3.2标记幂集方法

2.3.3链分类器方法

2.4本章小结

第三章 选择性链分类器模型

3.2.1熵与互信息

3.2.2最大相关最小冗余特征选择算法

3.3选择性链分类器建构过程

3.3.1训练过程

3.3.2测试过程

3.4实验验证

3.4.1多标记数据集

3.4.2多标记评估准则

3.4.3实验结果评估

3.5本章小结

第四章 有序的链分类器模型

4.2有序的链分类器建构过程

4.2.1训练和预测阶段

4.2.2整体的算法过程

4.3实验验证

4.4本章小结

第五章 本文总结及展望

5.2本文展望

参考文献

致谢

作者简介