基于交互信息的连续属性决策树学习算法

摘要

Fayyad决策树学习算法的核心是使用信息熵的下降速度作为选取扩展属性标准的启发式,但它仅考虑了条件属性与决策属性的关系,没有考虑条件属性间的关系(即交互性),因此极有可能选择对继续分类无实际意义或意义相对不大的冗余属性,不能实现信息熵的真正减少.基于此种考虑,该文给出该算法的一个改进版本,它在选择扩展属性时不仅要求该属性带来的信息熵尽可能小,而且要求其与已经使用过的各属性之间的交互性(即交互信息)尽可能小.该文首先从全局角度描述这两种算法,然后从训练准确率与测试准确率,决策树的结构等方面对这两种算法进行了比较,归纳出交互信息在决策树学习算法中的作用,证明了改进算法的有效性;同时考虑将Fayyad决策树学习算法在单边三角形模糊数属性意义下进行推广,对于单边三角形模糊数属性构造出一种决策树学习算法,并对算法的复杂度,效率进行了分析.

目录

文摘

英文文摘

第1章绪论

1.1背景知识

1.2决策树归纳学习的产生及研究现状

1.3本文的研究重点和主要内容

第2章Fayyad决策树学习算法

2.1算法简介

2.2学习算法中关于属性的最优割点的讨论

第3章基于交互信息的连续属性决策树学习算法

3.1算法简介

3.2两种算法的比较

第4章单边三角形模糊数属性决策树学习算法

4.1算法简介

4.2学习算法中关于最优割点的讨论

第5章结束语

参考文献

攻读硕士学位期间科研工作情况

致谢