面向物体识别与检测的高效率深度神经网络模型研究

目录

声明

摘要

第1章绪论

1．1 研究背景

1．2研究现状

1．2．1神经网络压缩

1．2．2高效率网络结构设计

1．2．3数据集与评估方法

1．3论文贡献与章节安排

第2章深度神经网络基础

2．1神经网络模块

2．1．1全连接层

2．1．2卷积层

2．1．3池化层

2．1．4激活函数

2．1．5归一化层

2．2损失函数

2．2．1 逻辑回归损失函数

2．2．2 softmax交叉熵损失函数

2．2．5平滑的L1损失函数

2．3优化方法

2．3．1 随机梯度下降法

2．3．2动量随机梯度下降法

2．3．3 Adam优化方法

2．4本章小结

第3章基于去相关约束的稀疏神经网络训练方法

3．1 引言

3．2相关工作

3．3方法介绍

3．3．1 网络滤波器相关性

3．3．2去相关约束设计

3．3．3去相关参数初始化

3．3．4参数量及计算复杂度分析

3．4实验结果

3．4．1 数据集及实验设置

3．4．2 VGG-16网络压缩效果

3．4．3滤波器相关性可视化

3．4．4卷积层剩余滤波器数量

3．4．5 ResNet-56网络压缩效果

3．4．6 AlexNet网络压缩效果

3．4．7模块诊断实验

3．5本章小结

第4章面向物体角点检测的神经网络知识蒸馏方法

4．1 引言

4．2相关工作

4．2．1 知识蒸馏方法

4．2．2无锚框物体检测模型

4．2．3可变形卷积

4．3 方法介绍

4．3．1 CornerNet物体检测模型

4．3．2基于角点特征增强的知识蒸馏方法

4．3．3角点可变形卷积

4．3．4参数量及计算复杂度分析

4．4实验结果

4．4．1 数据集及实验设置

4．4．2模块诊断实验

4．4．3角点可变形卷积效果验证

4．4．4角点掩码效果验证

4．4．5与CenterNet模型结合效果

4．4．6与其他常用物体检测模型性能对比

4．5本章小结

第5章基于自适应空洞卷积的尺度解耦特征金字塔网络

5．1 引言

5．2相关工作

5．3 方法介绍

5．3．1 尺度解耦合特征金字塔网络

5．3．2 自适应非整数空洞卷积

5．3．3 自适应整数空洞卷积

5．3．4参数量及计算复杂度分析

5．4实验结果

5．4．1 数据集及实验设置

5．4．2与基线方法对比

5．4．3模块诊断实验

5．4．4 分支结构阶段数量对比

5．4．5不同空洞率分组数量对比

5．4．6与其他常用物体检测模型性能对比

5．4．7空洞率学习结果可视化

5．4．8通过空洞率稀疏约束进行网络压缩

5．4．9检测结果及特征图可视化

5．5本章小结

第6章总结与展望

6．1 论文总结

6．2未来展望

参考文献

致谢

在读期间发表的学术论文与取得的研究成果