基于RBM的深度神经网络算法研究

目录

声明

致谢

目 录

1 绪论

1.1 课题来源

1.2 背景与意义

1.3 国内外研究现状

1.3.1 传统的受限玻尔兹曼机的模型概述

1.3.2 受限玻尔兹曼机在特征学习中的研究

1.3.3 受限玻尔兹曼机在深度学习中的研究

1.3.4 国内外研究中存在的不足

1.4 本文的主要研究内容和组织结构

1.4.1 主要研究内容

1.4.2 论文组织结构

2 基础理论

2.1 RBM 基础理论

2.1.1 玻尔兹曼机与 RBM

2.1.2 RBM 常用的训练算法

2.1.3 实值 RBM 模型

2.2 RBM与神经网络

2.2.1 DBN 和 DBM

2.2.2 基于变分自编码和 RBM 的混合模型

2.2.3 卷积深度置信网

2.3 其他相关理论

2.3.1 生成对抗网络

2.3.2 流模型

2.4 小结

3 关于 RBM特征表达的研究

3.1 引言

3.2 基于附加单元的高斯 RBM 模型

3.2.1 ARBM 模型简介

3.2.2 实验

3.3 基于隐式梯度的对抗 RBM模型

3.3.1 AIRBM 模型简介

3.3.2 实验

3.4 小结

4 基于不确定性权值的 RBM模型

4.1 引言

4.2 基于权值不确定性方法的 RBM 及其深度拓展模型

4.2.1 权值不确定性方法

4.2.2 Boosted CD 算法

4.3 实验

4.4 小结

5 基于深度特征嵌入的深度判别模型

5.1 引言

5.2 小波核极限学习机

5.2.1 ELM 与核函数简介

5.2.2 小波 KELM 模型

5.2.3 Weighted WKELM 模型的实验分析

5.2.4 DBN-Weighted WKELM 模型及其实验分析

5.3 基于深度特征嵌入的增量型极限学习机

5.3.1 IELM-DFE 模型简介

5.3.2 实验验证

5.4 小结

6 RBM在生成模型中的应用与拓展

6.1 引言

6.2 基于对抗损失的 DBM 模型

6.2.1 模型结构与算法

6.2.2 实验分析

6.3 基 于 对 抗 损 失 的 卷 积 混 合 生 成 模 型

6.3.1 模型结构与算法

6.3.2 实验分析

6.4 具有 Boltzmann 先验的对抗的非体积保持流模型

6.4.1 ANVPB 模型结构和学习算法

6.4.2 实验

6.5 小结

7 总结与展望

7.1 总结

7.2 展望

参考文献

作者简历