离散动态贝叶斯网络精确推理的研究与实现

摘要

贝叶斯网络由于对不确定性问题的良好描述，简洁的表示以及可行的计算方法，在许多领域得到广泛的应用。动态贝叶斯网络是贝叶斯网络的拓展形式，主要应用于对时序和序列性数据的建模。动态贝叶斯网络的特例，HMM和KFM在语音识别，生物基因检测，以及动态系统跟踪等领域得到成熟应用，而针对更一般化的动态贝叶斯网络，由于其表示的多样性，推理和学习的复杂性，并没有在工业界得到大规模的应用。本文首先从贝叶斯网络理论出发，阐述贝叶斯网络对现实建模的理论基础。分别对动态贝叶斯网络的三个主要问题，模型的表示，推理和学习问题进行深入研究。列举出了隐马尔可夫模型，因子隐马尔可夫模型，耦合隐马尔可夫模型，层次隐马尔可夫模型以及抽象隐马尔可夫模型等五种离散动态贝叶斯网络模型的表示，并给出每个特定结构的具体应用领域。
　　贝叶斯网络的推理是指观察到网络中的变量值，求取其他变量值概率的过程。本文以静态贝叶斯网络的推理为基础，深入分析了离散动态贝叶斯网络的推理算法，根据贝叶斯网络的变量消元法，联合树算法，以及HMM的前向后向算法的理论基础，剖析了适用于一般化动态贝叶斯网络的接口算法。之后简要分析了极大似然估计和EM算法在动态贝叶斯网络中参数学习的使用。
　　最后，依据本文所涉及的理论基础，实现了一个用于贝叶斯网络的表示，推理和学习的计算库libdbn。libdbn的底层由C++，上层由Python实现，它完成了大部分本文中涉及的算法，可以完成适用于离散动态贝叶斯网络的建模和概率推理，也进一步地为相关研究人员的深入研究和改进提供了基础。

目录

封面

声明

中文摘要

英文摘要

插图索引

表格索引

符号对照表

缩略语对照表

目录

第一章 绪论

1.1 贝叶斯网络的研究目的

1.2 贝叶斯网络的理论基础

1.3 动态贝叶斯网络模型及研究内容

1.4 本文内容

第二章 动态贝叶斯网络的表示

2.1 静态贝叶斯网络表示

2.2 隐变量和动态贝叶斯网络表示

2.3 HMM及离散动态贝叶斯网络的变体

第三章 动态贝叶斯网络的精确推理

3.1 推理算法分类

3.2 基本运算

3.3 变量消元法

3.4 联合树算法

3.5 动态贝叶斯网络的推理

第四章 贝叶斯网络的参数学习

4.1 最大似然估计

4.2 EM算法

4.3 参数集和动态网络参数学习

第五章 贝叶斯网络推理库实现

5.1 libdbn简介

5.2 实现环境

5.3 核心组件

5.4 高级组件

5.5 中间接口

5.6 高级接口示例

5.7 核心组件测试

第六章 结论

参考文献

致谢

作者简介