贝叶斯网络学习及数据分类研究

摘要

随着信息技术的迅猛发展，如何从中发现并揭示变量间的依赖关系显得尤为重要。贝叶斯网络是将图论与概率论有机结合、应用广泛的一类概率图模型，为数据分类、推理和预测等问题提供了重要的理论基础和有效工具。贝叶斯网络的结构学习是其主要研究内容之一，也是NP难问题。本文针对该问题，提出了学习高维网络结构的混合算法，探讨了含隐变量和选择变量的贝叶斯网络的本质图及等价转化问题.并针对数据分类问题，构建了一个贝叶斯网络分类器模型，同时研究了k-最近邻分类器的k值选择问题。
　　本文首先针对大数据网络的结构学习，提出了基于条件独立测试的学习贝叶斯网络框架的算法.高阶条件独立测试具有不可靠性和运算费用高的特点，这导致大网络结构学习的主要难点在于如何减少高阶条件独立测试的次数以及如何尽可能地降低测试的阶数。本文所提算法采用低阶测试学习目标变量的候选父子节点集，利用候选父子节点集学习目标变量的候选配偶节点集，再结合一个快速的学习父子节点集的算法进一步缩小父子节点集的规模；利用一个补偿机制将那些因过于严格的筛选条件而被删除的父子节点补回来.在分层筛选目标变量父子节点集的过程中，通过不断缩小条件集，有效地提高了高维网络结构学习的精度。其次研究了马尔科夫等价祖先图的共性，提出了最大祖先图的最小本质图的概念.由于祖先图的空间是随着变量个数的增加而指数级增加的，因此讨论等价类的共性，并用共性刻画等价类，不但可以更加深刻理解祖先图的本质，而且大大降低祖先图空间的维数，从而为祖先图结构学习做出有意义的指导.本文基于最小汇连路，给出了学习最小本质图的算法，并将其应用到快速判断祖先图等价问题上，进一步地给出了一组定向规则尽可能多的定向本质标记。研究了马尔科夫等价的有向最大祖先图的转化问题.这种等价转化可以使得我们从一个给定的有向最大祖先图出发，通过对其上的一些非紧边做反转或添加箭头或去掉箭头的变化，遍历该最大祖先图所在的等价类.本文着重研究了双向边向有向边转化的条件，再结合已有的研究工作，得到了有向边转化为双向边、有向边反转和双向边转化为有向边的充分条件.这些结果使得等价有向最大祖先图之间可以流畅地相互转化，便于提取马尔科夫等价类共性和识别本质标记。构建了一个贝叶斯网络分类器模型(ARE-BNC)，并研究了k-最近邻分类器的k值选择问题. ARE-BNC是基于粗糙集理论和进化算法构建的，通过与其它八种常见的分类器相比，实验结果表明该算法设计合理，且分类效果好.对于k-最近邻分类器，参数k是它唯一的参数并密切影响着算法的效果，因此k值的选择问题十分重要.本文采用几乎无偏的留一法来评估k-最近邻分类器的分类性能，利用留一分类精度和k值之间的近似凹的关系，建立了快速寻找最优k值的搜索策略，该策略可以快速收敛到最优k值，并保证模型有最高的留一分类精度。

目录

封面

声明

中文摘要

英文摘要

插图索引

表格索引

符号对照表

缩略语对照表

目录

第1章 绪论

1.1 研究意义与背景

1.2 贝叶斯网络的发展现状

1.3 数据分类问题

1.4 本文的主要内容和结构安排

第2章 贝叶斯网络和祖先图的基础知识

2.1 贝叶斯网络基本知识

2.2 祖先图基本知识

第3章 基于约束学习贝叶斯网络框架

3.1 引言

3.2 理论基础

3.3 EHPC算法

3.4 仿真实验

3.5 本章小结

第4章 祖先图的本质图

4.1 祖先图的等价类

4.2 (最小)本质图

4.3 学习本质图框架

4.4 实验结果

4.5 本章小结

第5章 等价祖先图的转换

5.1 引言

5.2 基础知识

5.3 转换流程

5.4 本章小结

第6章 数据分类问题研究

6.1 贝叶斯网络分类器

6.2 k-最近邻分类器

第7章 结束语

参考文献

致谢

作者简介