基于启发式搜索的贝叶斯网络结构学习研究

摘要

贝叶斯网络是一种基于概率论和图论理论的图形模型，在处理不确定性方面具有非常巨大的优势，已被广泛应用于人工智能、金融、医学、军事等各类领域。而仅仅依靠专家先验知识来构建贝叶斯网络的传统方法是不可靠的，无法满足我们的需要，所以，如何从数据中进行贝叶斯网络的构建引起了众多学者的关注，成为了该领域的研究热点。
　　本文对贝叶斯网络的基本理论知识和现有贝叶斯网络结构学习方法进行了深入研究，针对现有算法的不足之处，我们结合其他领域知识，给出了新的贝叶斯网络结构学习方法，本文的研究工作如下:
　　首先，详细介绍了贝叶斯网络的相关概念:研究背景和意义、基本理论知识，并阐述了贝叶斯网络的研究现状及其常用的结构学习方法。
　　其次，介绍了MMPC算法和粒子群算法，在此基础上，提出了基于粒子群优化算法的贝叶斯网络结构学习方法。该算法了融合了这两种算法的思想，利用专家经验和互信息知识优化了初始种群的产生方式，并利用粒子群算法对初始种群的邻域空间进行搜索，搜索到最优的贝叶斯网络结构。实现结果表明:同其他算法相比，新算法具有更好的学习性能，收敛速度更快，求解质量更高。
　　然后，介绍了K2算法，在此基础上，提出了基于节点预排序的贝叶斯网络结构学习方法。该算法在MMPC算法的基础上，利用广度优先搜索算法对初始网络结构进行搜索，得到优化了的节点顺序，并将其作为K2算法的初始节点顺序。通过实验显示:新算法具有明显的优势，体现了较好的学习性能。
　　最后，总结本文的研究内容，展望了下一步的研究工作。

目录

摘要

1 绪论

1．1 研究背景和意义

1．2 贝叶斯网络的研究现状

1．3 本文主要研究内容与结构安排

1．3．1 主要研究内容

1．3．2 结构安排

2 贝叶斯网络的基本理论

2．1 贝叶斯网络基础知识

2．1．1 概率知识

2．1．2 图论知识

2．1．3 图分割与条件独立

2．1．4 信息论知识

2．2 贝叶斯网络的知识表示

2．3 贝叶斯网络结构学习

2．3．1 基于条件独立性测试的方法

2．3．2 基于评分搜索的方法

2．3．3 混合贝叶斯网络结构学习方法

2．4 本章小结

3 基于粒子群优化算法的贝叶斯网络结构学习

3．1 MMPC算法

3．2 粒子群算法

3．2．1 粒子群算法的基本思想

3．2．2 标准的粒子群算法

3．2．3 粒子群算法的特点

3．3 基于粒子群优化算法的学习过程

3．3．1 编码设计

3．3．2 评分函数的选择

3．3．3 初始种群的产生方式

3．3．4 算法实现过程

3．4 实验环境与结果分析

3．4．1 实验环境与配置

3．4．2 实验结果与分析

3．5 本章小结

4 基于节点预排序的贝叶斯网络结构学习

4．1 K2算法

4．2 基于节点预排序的优化算法

4．2．1 优化算法的基本思想

4．2．2 优化算法的主要步骤

4．2．3 优化算法的实现步骤

4．3 实验结果与分析

4．4 本章小结

5．总结与展望

5．1 工作总结

5．2 展望

参考文献

攻读学位期间取得的研究成果

致谢

声明