基于粗糙集理论的决策树生成与剪枝方法

摘要

本文主要研究了基于粗糙集理论的决策树生成和剪枝方法,具体如下:1)对决策树生成方法进行研究.Pawlak粗糙集理论由于其分类过于精确的特性而无法很好的处理含有噪声的数据,基于Pawlak粗糙集理论构造的决策树也因此而不能很好的对噪声进行抑制,易产生过匹配训练数据的缺陷,从而不能很好的指导决策.本文在变精度粗集理论的基础上,对原有的基于Pawlak粗糙集理论的决策树生成方法进行了改进,提出基于变精度粗糙集理论的决策树生成方法.2)对决策树剪枝方法进行研究.为增强决策树的泛化能力,需要对生成的决策树进行剪枝.根据Vapnik结构风险最小化的理论,一个性能较好的模型应在模型的复杂度与模型的正确率之间取一折中.基于这一理论的指导,本文提出了一种基于粗糙集理论的决策树剪枝算法.

目录

文摘

英文文摘

独创性声明及学位论文版权使用授权书

引 言

第1章.决策树生成算法

1.1决策树技术

1.2决策树生成算法

1.2.1 CLS学习算法

1.2.2 ID3学习算法

1.2.3 C4.5学习算法

1.2.4 CART学习算法

1.2.5其它算法

1.3决策树生成算法评价

第二章.对基于粗糙集理论的决策树生成方法进行改进

2.1粗糙集研究背景

2.1.1粗糙集理论的发展

2.1.2粗糙集理论的特点

2.1.3粗糙集理论的基本原理

2.2基于粗糙集理论的决策树生成方法

2.3决策树生成示例

2.3.1基于粗糙集理论构造决策树

2.3.2ID3算法构造决策树

2.3.3算法对比

2.4基于变精度粗糙集理论对决策树生成方法进行改进

2.4.1基于Pawlak粗糙集理论的决策树生成方法的缺陷

2.4.2变精度粗糙集理论的基本概念

2.4.3生成方法的改进

2.4.4示例验证

2.5结论

第三章决策树的剪枝

3.1控制树的大小

3.1.1预剪枝

3.1.2后剪枝法

3.2修改测试属性空间

3.2.1数据驱动方法

3.2.2假设驱动构造

3.3改进测试属性的选择

3.4对数据进行限制

3.4.1实例选择

3.4.2属性选择

3.5改变数据结构

3.5.1决策图

3.5.2规则集

3.6基于粗糙集理论的新的决策树剪枝方法

3.6.1剪枝方法

3.6.2剪枝示例

3.7结论

结 论

参考文献

致谢

在学期间公开发表论文用著作情况