一种基于遗传算法的脉冲神经网络学习新算法

摘要

人工神经网络（ANNs）中的神经元特征在于单个静态的连续值激活。然而，生物神经元使用离散脉冲尖峰来计算和传输信息，除了脉冲速率之外，脉冲时间也很重要。因此，脉冲神经网络（SNNs）比人工神经网络在生物学上更具现实性，如果想要了解大脑如何在神经元描述水平上进行计算，可以说它是唯一可行的选择。生物神经元的脉冲在时间和空间上都是稀疏的，并且是事件驱动的。结合生物合理的局部学习规则，这使得为脉冲神经网络构建低功耗神经形态硬件变得更加容易。脉冲神经元的传递函数通常是不可微分的，这阻止了使用反向传播。 近年来，SNNs学习算法也在被不断地探索。SNNs中的无监督学习通常将STDP作为其学习机制的一部分。最常见的生物STDP形式具有非常直观的解释。如果突触前神经元在突触后神经元之前短暂地发射，则连接它们的权重会增强。如果突触前神经元在突触后神经元后短暂发射，则时间事件之间的因果关系是虚假的，并且权重减弱。大多数现有的监督学习算法都是基于具有固有缺陷，例如局部最优和过度拟合，的梯度下降学习算法。于是，在脉冲网络上寻找具有全局最优解的学习算法成为当前研究热门问题。 在本文中，我们研究了涉及模拟退火机制的遗传算法作为SNN的监督训练算法的性能。本算法关键的思想在于采用全局搜索，有效避免局部最优和过度拟合，同时避免反向梯度的计算，没有主动引入误差。我们对网络训练过程和网络参数进行了细致分析，找到了最优参数组合。根据实验结果，该方法在众所周知的分类问题上具有比其他学习算法更高的准确性。

目录

1 绪论

1.1 选题背景及意义

1.2 脉冲神经网络监督学习的研究现状

1.3 脉冲神经网络的基本理论

1.3.1 脉冲神经元模型概述

1.3.2 脉冲序列信息编码

2 基于遗传算法的脉冲网络算法

2.1 脉冲神经网络结构

2.2 脉冲响应模型

2.3 引入模拟退火机制的遗传算法

2.4 基于遗传算法的脉冲网络算法

3 脉冲序列的学习过程

3.1 单任务脉冲序列学习过程

3.1.1脉冲序列学习流程设计

3.1.2 脉冲序列学习效果

3.2 多任务脉冲序列学习过程

3.2.1 脉冲序列学习流程设计

3.2.2 脉冲序列学习效果

4 数值实验

4.1 高斯扰动的 Exclusive-OR问题

4.1.1 实验过程

4.1.2 实验参数分析

4.2 Iris分类问题

4.2.1 实验过程

4.2.2 实验参数分析

4.3 Hepatitis分类问题

4.3.1 实验过程

4.3.2 实验参数分析

结论

参考文献

攻读硕士学位期间发表学术论文情况

致谢