贝叶斯网络分类器结构与参数分步在线学习算法

摘要

贝叶斯网络结构在线学习是贝叶斯网络研究的一个难点,当前有关的研究仍然比较少。另外,贝叶斯网络在推理过程中,通常分为三个相继的步骤：结构学习,参数学习,推理。这样的过程缺少步骤之间的反馈机制,这在一定程度上会影响贝叶斯网络的应用效果。 本文首先定义了两个贝叶斯网络之间的距离函数,然后以此距离函数为基础定义了一个既能反映新的在线贝叶斯网络结构对新增数据集的匹配程度,又能反映新的在线贝叶斯网络结构与旧的贝叶斯网络结构之间的距离的适应值函数。接着,利用遗传算法在整个贝叶斯网络结构空间中找出一个最优的贝叶斯网络结构以此完成贝叶斯网络结构在线学习。算法在完成贝叶斯网络结构在线学习后,以在线更新的贝叶斯网络结构为基础进行贝叶斯网络参数在线学习。为了反映推理结果对参数学习的反馈作用,贝叶斯网络参数在线学习定义了一个能够通过分类结果对贝叶斯网络参数学习进行反馈的适应值函数。然后,以此函数为基础,根据新增数据集,应用遗传算法在整个参数空间找出一组局部最优的贝叶斯网络参数。实现了基于分类结果反馈的贝叶斯网络参数在线学习。文章分别在UCI数据集中的两个数据集上对算法进行检查。检查结果表明,本文提出的贝叶斯网络结构与参数在线学习算法能够在一定程度上提高贝叶斯网络分类器的性能。

目录

文摘

英文文摘

声明

第一章绪论

1.1研究背景和意义

1.2贝叶斯网络的产生、发展及研究现状

1.3本文所做的工作

1.4本章小结

第二章贝叶斯网络基本理论与在线学习

2.1贝叶斯概率基础

2.2贝叶斯网络基本知识

2.3贝叶斯网络结构学习

2.3.1利用信息论学习贝叶斯网络

2.3.2基于打分-搜索的贝叶斯网络结构学习的典型算法

2.3.3基于信息论的依赖分析方法的典型算法

2.4贝叶斯网络参数学习

2.5贝叶斯网络结构与参数在线学习研究现状

2.6本章小结

第三章几种典型的贝叶斯网络分类器

3.1朴素贝叶斯分类器模型NBC

3.2树扩展朴素贝叶斯分类器模型TANC

3.3贝叶斯网络分类器模型BNC

3.4基于聚类的贝叶斯网络分类器

3.5本章小结

第四章贝叶斯网络结构与参数分步在线学习

4.1算法过程描述

4.2算法适值函数

4.2.1贝叶斯网络结构在线学习适值函数选择

4.2.2网络结构的距离定义

4.2.3贝叶斯网络参数在线学习适值函数选择

4.3遗传操作

4.3.1结构在线学习算法

4.3.2参数在线学习算法

4.4算法检验

4.5本章小结

结论

参考文献

攻读硕士学位期间取得的研究成果

致谢