基于可微架构搜索的层次模块化表示方法研究

目录

声明

第1章 绪论

1.1 引言

1.2 研究背景与意义

1.2.1 神经网络的发展介绍

1.2.2 优化问题介绍

1.2.3 神经网络架构搜索介绍

1.3 国内外研究现状

1.4 论文组织结构及创新点

1.4.1 组织结构

1.4.2 创新点

第2章 神经网络架构搜索研究综述

2.1 引言

2.2 搜索空间

2.2.1 链式结构

2.2.2 多分支结构

2.2.3 基于Cell的结构

2.3 神经网络架构搜索算法

2.3.1 贝叶斯优化

2.3.2 强化学习

2.3.3 神经进化

2.3.4 基于梯度的方法

2.4 性能评估策略

2.4.1 低保真度

2.4.2 早停

2.4.3 代理模型

2.4.4 权值共享

第3章 可微架构搜索的层次模块化表示

3.1 引言

3.2 架构搜索空间

3.2.1 节点

3.2.2 Cell

3.2.3 模块

3.2.4 网络表示

3.3 基于可微架构搜索的层次模块化表示方法——HMR-DARTS

3.3.1 模块化思想

3.3.2 可微架构搜索DARTS

3.3.3 渐进式可微架构搜索P_DARTS

3.3.4 HMR-DARTS架构搜索

第4章 实验设计与结果分析

4.1 引言

4.2 实验设计

4.2.1 CIFAR-10数据集

4.2.2 实验环境和实验平台

4.2.3 搜索空间的变化

4.3 实验结果对比

4.3.1 不同层级的实验结果

4.3.2 常见神经网络架构搜索方法对比

第5章 总结与展望

5.1 总结

5.2 展望

参考文献

作者简介及科研成果

致谢