基于PAC-Bayes的元学习算法研究

目录

声明

第一章 绪 论

1.1 研究工作的背景与意义

1.2 元学习方法的国内外研究历史与现状

1.2.1 基于度量的元学习

1.2.2 基于模型的元学习

1.2.3 基于优化的元学习

1.2.4 元强化学习

1.2.5 元学习的挑战

1.3 本文的研究动机

1.4 本文的主要贡献与创新

1.5 本论文的结构安排

第二章 PAC-Bayes，依赖数据的先验和Entropy-SGD基础

2.1 PAC-Bayes框架

2.1.1 PAC-Bayes设置和结论

2.1.2 Gibbs后验与PAC-Bayes

2.1.3 Bayes与PAC-Bayes之间的关系

2.2 依赖数据的先验

2.3 Entropy-SGD

2.3.1 局部熵

2.3.2 局部熵和熵

2.3.3 算法与应用细节

2.3.4 局部熵和PAC-Bayes

2.4 本章小结

第三章 PAC-Bayes框架下的元学习

3.1 元学习问题表述

3.2 元学习PAC-Bayes界

3.3 本章小结

第四章 元学习算法

4.1 二阶元学习算法

4.1.1 二阶分布模型

4.1.2 一阶分布模型

4.1.3 优化过程

4.1.4 快速适应

4.1.5 与现有算法的比较

4.2 三阶元学习算法

4.2.1 模型设置

4.2.2 优化方法

4.2.3 算法过程简化

4.2.4 快速适应

4.3 算法复杂度

4.3.1 有效迭代次数

4.3.2 计算复杂度

4.4 算法比较

4.5 本章小结

第五章 数值评估

5.1 分类任务

5.1.1 实验设置与基线模型

5.1.2 实验结果

5.2 回归任务

5.2.1 实验设置与基线模型

5.2.2 实验结果

5.3 本章小结

第六章 全文总结与展望

6.1 全文总结

6.2 后续工作展望

致谢

参考文献