概率值模糊决策系统中基于粗糙集的属性约简和分类算法的研究

摘要

随着互联网技术的快速发展，人们获取和存储数据的能力越来越强，数据的形式也越来越丰富。在不同的场景下，数据往往有不同的采集方法和表示方法，最终的数据也会不同。常见的数据有符号型数据和实值型数据。符号型数据取值为一个单一的符号或类别值。实值型数据则可以在值域内取任意值，没有离散的概念。而如果数据表示介于两者之间，比如，不再是只能取一个值，而是每个属性值都有一定的可能性，此时这两种数据类型已经无法满足人们的需求。因此，人们提出了模糊信息系统。其中，每个属性值不再是一个值，而是一个模糊集，表示属于该属性值的程度。在传统的离散型信息系统中，同一属性下的属性值是互斥的。然而，模糊集信息系统的每个属性值只跟对象有关，同一属性下的各个属性值之间的互斥关系却没有揭示出来。本文在模糊集信息系统的基础上，提出了一种概率值模糊决策系统，对象在一个属性上属性值构成了一个概率分布。在这种情况下，每个属性不仅与对象有关，同时受到统一属性下其他属性值的影响和制约，从而刻画了同一属性下各个属性值之间的互斥关系。概率广泛应用于人们的学习和生活，概率的特性使得概率值模糊决策系统满足很多性质。粗糙集理论是一种有效刻画不确定性的数学工具，已经在多个领域得到广泛的应用。本文将概率值模糊决策系统和粗糙集相结合，定义了三种上下近似算子，并从理论上研究了它们之间的关系。在此基础上，提出了三种属性约简算法和基于模糊决策树的分类算法，并通过实验验证了算法的有效性。具体来说，本文的主要工作如下:
　　基于KL散度，定义了属性之间的相似性度量;
　　提出了三种上下近似算子，并研究了三种近似算子之间的关系。定义了精确度，粗糙度和近似精度等不确定性度量，并证明了他们的单调性;
　　基于概率值模糊决策系统，提出了新的条件熵的公式，并证明了其单调性。在新的条件熵和三种近似模型的基础上，提出了三种属性约简算法，通过实验验了算法的有效性;
　　提出了三种新的模糊决策树的构造算法，通过和现有的算法对比，证明了算法的有效性。

目录

声明

摘要

图目录

表目录

第1章 绪论

1．1 研究背景

1．2 研究现状

1．3 研究内容和组织结构

第2章 粗糙集理论综述

2．1 基本概念

2．1．1 信息系统

2．1．2 关系和集合近似

2．1．3 属性约简

2．2 信息论基础

2．3 逻辑算子

2．4 本章小结

第3章 三种粗糙集模型

3．1 概率值模糊决策系统

3．2 基于KL散度的相似性的度量

3．3 第一种粗糙集模型

3．4 第二种粗糙集模型

3．5 第三种粗糙集模型

3．6 三种粗糙集模型之间的关系

3．7 实验与结果分析

3．8 本章小结

第4章 属性约简算法

4．1 基于熵的属性约简算法

4．2 基于依赖度的属性约简算法

4．2．1 基于第一种粗糙集的属性约减算法

4．2．2 基于第三种粗糙集的属性约简算法

4．3 实验与结果分析

4．4 本章小结

第5章 基于模糊决策树的分类算法

5．1 基于互信息的模糊决策树

5．1．1 模糊决策树的生成算法

5．1．2 使用模糊决策树进行分类

5．2 基于依赖度的模糊决策树

5．2．1 基于第二种依赖度的模糊决策村

5．2．2 基于第三种依赖度的模糊决策树

5．3 实例分析

5．4 实验与结果分析

5．5 本章小结

6．1 总结

6．2 展望

参考文献

攻读硕士学位期间的主要研究成果

致谢