GMRF模型近似变分消息传播方法

摘要

变分推理应用变分迭代计算出随机变量的近似期望值,是现代人工智能学科一种重要的近似概率推理方法。由于随着变分迭代次数的增加,变分迭代过程涉及到的变量越来越多,但新增变量对精度影响较小,故近期发展出不完全迭代的近似变分推理方法。本文研究Gaussian马尔可夫随机场模型的不完全迭代近似变分推理方法,计算出变量期望的精确下界,主要工作包括:
　　 1.定义了Gaussian马尔可夫随机场模型的Gaussian拆环树的概念,可形式表示Gaussian马尔可夫随机场模型的迭代计算过程。
　　 2.提出了基于Gaussian拆环树的近似变分消息传播算法,证明了变量期望下界定理,保证了方法的正确性,进一步分析了近似消息传播算法的计算复杂性。
　　 3.设计了数值模拟实验,实验验证了算法的正确性,并对比分析了不同Gaussian马尔可夫随机场模型上变量期望界的紧致性和计算复杂性。

目录

文摘

英文文摘

第一章 绪论

1.1 研究背景

1.2 研究现状

1.3 本文工作

第二章 图模型变分推理

2.1 图模型概述

2.1.1 概率图模型

2.1.2 Gaussian马尔可夫随机场模型

2.2 指数族

2.3 变分推理

2.3.1 变分推理基础

2.3.2 均值场方法

2.3.3 信念传播方法

2.3.4 现有工作

第三章 GMRF模型近似变分消息传播算法

3.1 Gaussian拆环树

3.2 AVMP算法

3.3 性质分析

3.3.1 精确性

3.3.2 计算复杂性

第四章 实验

4.1 实验环境

4.2 正确性

4.3 精确性

4.4 计算复杂性

第五章 结语

5.1 总结

5.2 进一步工作

参考文献

致谢