基于多维关联规则的粒度支持向量机学习方法研究

摘要

支持向量机(Support Vector Machine，SVM)是一种通用高效的机器学习方法，能较好地处理小样本、非线性、高维数据等实际问题，目前已经成为机器学习的研究热点，并广泛应用于模式识别、函数估计和时间序列预测等数据挖掘问题，然而SVM在解决实际问题时仍然存在一定局限性，如SVM的训练速度极大地受到训练集规模的影响、在特定的空间中泛化能力受到限制、应用领域有待于进一步拓展等。针对以上问题，本文将粒度计算(Granular Computing)思想引入SVM中，用以改进传统SVM分类器的上述缺陷。
　　本文在粒度计算和支持向量机学习框架下，以多维关联规则挖掘为手段，提出一种粒度支持向量机(Granular SVM，GSVM)学习方法，称为AR-GSVM，并且在AR-GSVM的基础上提出一种核空间上的粒度支持向量机学习方法，称为AR-KGSVM。主要研究内容包括：⑴对现有的粒度支持向量机学习模型进行了深入系统的分析；⑵提出一种原始数据空间上基于多维关联规则的粒度支持向量机学习方法AR-GSVM，该方法不仅可以有效地降低分类器的复杂性，而且本质上的可并行计算可以提高其学习效率，同时算法重点考察靠近分类边界的数据（有可能是支持向量数据），从而保证分类器具有良好的泛化能力；⑶在AR-GSVM的基础上，考虑到算法在原始空间做粒划分而在核空间进行训练造成数据分布的不一致，而使泛化能力下降的情况，本文提出核空间上的粒度支持向量机学习方法AR-KGSVM，尝试先将样本映射到高维特征空间再进行粒划分，保证了粒划分和数据训练在同一空间，从而使学习器具有更强的泛化能力；⑷在标准UCI数据集上对本文提出的学习方法进行了验证，获得了良好的预期效果。本文提出方法的重要应用是对非平衡数据的处理，通过在标准数据集上与常用非平衡数据处理方法的比较，说明了本文提出的AR-GSVM和AR-KGSVM算法非常有效。

目录

摘要

第一章 引言

1．1 研究背景

1．2 国内外研究动态

1．3 本文主要内容及组织结构

第二章 背景知识

2．1 支持向量机简介

2．2 粒度计算理论

2．3 关联规则挖掘理论

2．4 本章小结

第三章 基于多维关联规则挖掘的粒度支持向量机学习方法

3．1 粒度支持向量机学习原理

3．1．1 粒度支持向量机基本原理

3．1．2 基于关联规则的粒度支持向量机学习模型

3．2 基于多维关联规则的粒划分

3．2．1 原始空间上的粒划分

3．2．2 核空间的粒划分

3．3 基于多维关联规则挖掘的粒度SVM学习方法

3．3．1 AR-GSVM和AR-KGSVM学习原理

3．3．2 AR-GSVM和AR-KGSVM学习算法

3．4 实验结果与分析

3．4．1 粒度参数的选择

3．4．2 算法有效性验证

3．5 本章小结

第四章 AR-GSVM和AR-KGSVM在非平衡数据处理中的应用

4．1 非平衡数据简介

4．2 非平衡数据处理方法

4．3 分类器性能评价标准

4．4 实验结果与分析

4．4．1 在同一数据集上不同正负比例下的实验结果

4．4．2 在UCI数据集上分类能力的实验结果

4．5 本章小结

第五章 总结与展望

参考文献

致谢

攻读学位期间取得的研究成果

个人简况及联系方式

声明