受生物启发的物体识别算法研究

摘要

生物视觉系统是人类已知的最为强大和完善的视觉系统，其结构特点和运行机制对计算机视觉模型有重要的启发意义。近几十年来，对生物视觉系统的研究取得了非常丰富的研究成果。基于现有计算机架构，可以从这些研究成果中总结出具有启发意义的生物机制，用于指导物体识别算法的设计与建构。
　　本文从计算机视觉系统整体设计的角度，通过对基本生物机制的分析，探讨它们与计算机视觉模型之间的联系。根据对生物机制的分析，总结了计算机模型设计的指导性原则，认为在设计物体识别算法时，应考虑分层结构、感受野、底层特征学习、计算的局部性、结构的一致性、信号反馈以及注意力选择等方面的特性。利用这些指导性原则，对相关物体识别算法的优缺点进行了分析，并应用到实际的模型设计中:
　　1.利用分层结构、底层特征学习、计算的局部性、结构的一致性以及信号反馈等生物启发的特性，提出一种多层在位学习网络。即利用统一的神经元模型构建多层神经网络，在同样的学习框架中整合无监督学习与监督学习，通过软性监督的方式将监督信息自上而下传递，避免了反向传播网络的局部极小问题和梯度消失问题。模型通过对环境与任务的学习与适应得到分层的特征表示和自下而上逐渐增强的特征不变性。软性监督信号有效地提高了神经元的类型纯度，有利于改善特征不变性并提升分类性能。分层的特征不变性可以在不同任务间共享，加快新任务的学习速度。
　　2.在多层在位学习网络模拟多个皮层结构的基础上，对皮层内部功能层进行了建模，实验表明皮层内部无监督与有监督功能的分离是必要的。另外在皮层内部结构上模拟了自适应的侧向连接权重，网络通过自适应学习得到形如墨西哥帽的侧向连接权重，这种特性有助于自组织特征映射的形成以及建构更接近生物机制的物体识别算法。
　　3.利用分层结构、感受野、底层特征学习、结构的一致性以及信号反馈等生物启发的特性，选择多层神经网络最优的底层特征设定方式。通过一个完整的物体识别任务，比较了不同的底层特征感受野设定方式。在实验中，生物启发的底层特征学习方式取得了最高的识别率，并且生成与简单细胞感受野非常相似的底层滤波器。从而验证了相关模型设计的指导性原则，即底层特征的感受野应当从训练样本中学习得来，从而具备对信息去相关并降低冗余的特性;在分类训练阶段，底层特征感受野应当进行自适应调整。
　　实际的模型设计以及相关实验证明，生物启发可以用于改进物体识别算法。

目录

表格

插图

摘要

第1章 绪论

1．1 研究背景及意义

1．2 论文主要贡献

1．3 论文结构

第2章 生物启发的总结及相关模型分析

2．1 生物视觉系统简介

2．1．1 基本结构

2．1．2 视网膜

2．1．3 初级视觉皮层

2．2 对生物启发的分析与总结

2．2．1 感受野由简单到复杂的构建

2．2．2 稀疏编码

2．2．3 细胞可塑性与基因组等价

2．2．4 信息的反馈

2．2．5 生物启发的指导意义

2．3 受生物启发的物体识别算法

2．3．1 HMAX模型

2．3．2 卷积神经网络

2．4 本章总结

第3章 生物启发的多层在位学习网络

3．1 相关工作

3．1．1 叶成分分析的理论基础

3．1．2 叶成分分析

3．2 基于生物启发建构多层网络

3．2．1 模型架构

3．2．2 软性监督

3．2．3 整个网络的算法流程

3．2．4 地形图

3．2．5 稀疏编码

3．3 实验

3．3．1 一个简单的三类问题

3．3．2 MNIST数据集上的实验

3．3．3 多任务间共享的内部不变性

3．3．4 从自然图像中学习边缘特征

3．4 本章总结

第4章 基于多层在位学习网络对皮层内结构建模

4．1 背景

4．2 针对物体识别算法的功能层建模

4．2．1 模型架构

4．2．2 实验

4．3 自适应的侧向连接

4．3．1 模型架构

4．3．2 实验

4．4 本章总结

第5章 生物启发的多层网络底层特征学习

5．1 背景

5．2 模型架构

5．3 生物启发与其他特征选择方式的比较

5．3．1 人为选定特征：以Gabor为例

5．3．2 用Gabor初始化特征权重

5．3．3 特征的无监督学习

5．4 本章总结

第6章 总结与展望

参考文献

发表文章目录

致谢

声明