首页> 中国专利> 神经网络模式识别系统和模式识别方法

神经网络模式识别系统和模式识别方法

摘要

一种基于神经元工作方式的神经网络模式识别系统和模式识别方法,该模式识别系统由时间发出模块、输入层神经元输入处理模块、中间层神经元信息处理模块、突触可塑性模块和系统输出模块构成。本发明的不会受到太多的限制,比如步长、输入数据的规模等,相对于传统的BP网络来说,步长增大导致训练时间增加而且收敛性也随之变差,甚至有的时候不会收敛,而基于神经元工作方式的网络没有步长的需求,并且输入规模加大确实会导致学习时间增长,但这并不影响收敛性。对于规模相当的输入,基于神经元工作方式的网络收敛速度快,识别率比BP网络略高。

著录项

  • 公开/公告号CN102663428A

    专利类型发明专利

  • 公开/公告日2012-09-12

    原文格式PDF

  • 申请/专利号CN201210088483.6

  • 发明设计人 王昊;阮昊;夏知拓;

    申请日2012-03-29

  • 分类号G06K9/62;G06N3/02;

  • 代理机构上海新天专利代理有限公司;

  • 代理人张泽纯

  • 地址 201800 上海市嘉定区800-211邮政信箱

  • 入库时间 2023-12-18 06:28:50

法律信息

  • 法律状态公告日

    法律状态信息

    法律状态

  • 2014-11-26

    授权

    授权

  • 2012-11-07

    实质审查的生效 IPC(主分类):G06K9/62 申请日:20120329

    实质审查的生效

  • 2012-09-12

    公开

    公开

说明书

技术领域

本发明涉及模式识别,特点是一种基于神经元工作方式的神经网络模式识别系 统和模式识别方法。

背景技术

基于神经元工作原理的神经网络起步是从1983年,自1983年W.B.Levy和O. Steward两名科学家通过实验发现哺乳动物大脑中的可塑性原理之后,众多神经科学 家和脑科学家开始常年探索大脑内的学习方式和工作原理,经过不懈努力,在1992 年由Y.Dan和M.Poo两位科学家发现了大脑的一种认知机理,即脉冲时间依赖可 塑性学习方式,后又由瑞士洛桑理工学院的Henry Markram教授完善并丰富了该学 说。这种基于神经元工作原理的神经网络也称为脉冲神经网络,它被誉为第三代神 经网络。该网络的基本组成单元,即神经元,是利用其触发的脉冲时序进行信息的 处理,目前大部分的研究工作集中在理论和算法等方面。所述的基于神经元工作方 式的神经网络模式识别系统和实现方法详细阐述了其进行模式识别的实现步骤,并 加入了延时更新的有监督学习机制。

目前神经网络的应用范围非常广泛,其应用范围主要包括生物信号的检测与自 动分析、医学专家系统、计算机领域、数据挖掘、自动驾驶,甚至美国的邮件系统 里也应用了神经网络。

世界各地的科学家和工程师不断尝试把新发现的技术应用到实际工作中,正是 由于应用领域的发展使得人工神经网络达到了一个新的高度达到了一个新的繁荣 点。

发明内容

本发明提出一种基于神经元工作方式的神经网络模式识别系统和模式识别方 法。基于神经元工作方式的网络不会受到太多的限制,比如步长、输入数据的规模 等,相对于传统的BP网络来说,步长增大导致训练时间增加而且收敛性也随之变 差,甚至有的时候不会收敛,而基于神经元工作方式的网络没有步长的需求,并且 输入规模加大确实会导致学习时间增长,但这并不影响收敛性。对于规模相当的输 入,基于神经元工作方式的网络收敛速度快,识别率也比BP网络要高。

本发明的技术解决方案如下:

一种基于神经元工作方式的神经网络模式识别系统,其特点在于该系统由时间 发出模块、输入层神经元处理模块、中间层神经元信息处理模块、突触可塑性模块 和系统输出模块构成,其连接方式如下:

所述的时间发出模块分别与所述的输入层神经元处理模块的第一输入端、中间 层神经元信息处理模块的第一输入端、突触可塑性模块第一输入端和系统输出模块 第一输入端相连,所述的输入层神经元处理模块的第二输入端为外界图像接收端, 该输入层神经元处理模块的输出端与所述的中间层神经元信息处理模块的第二输入 端相连,所述的中间层神经元信息处理模块的第一输出端与所述的系统输出模块的 输入端相连,所述的中间层神经元信息处理模块的第二输出端和第三输入端之间连 接所述的突触可塑性模块,所述的系统输出模块的输出端为系统输出端。

一种基于神经元工作原理的模式识别系统的模式识别方法,其特点在于该方法 包括以下步骤:

1)、系统初始化:

在输入层神经元处理模块中包括输入层膜电位矩阵A、膜电位重置矩阵Vr、输 入层当前时刻矩阵Cold、输入层电脉冲发出时刻矩阵Cnew和输入矩阵I五个1×n的 矩阵,其中输入层膜电位矩阵A的元素为Ai,矩阵Vr的元素为矩阵Cold的元素 为矩阵Cnew的元素为矩阵I的元素为Ii,i的取值均为1~n;所述的 输入层膜电位矩阵A和矩阵I初始化为零矩阵,所述的矩阵Vr的所有n个分量都 初始化为恒定的常量Vreset,所述的矩阵Cold中所有n个分量均为从时间发出模块接 收到的当前时刻t,矩阵Cnew初始化为零矩阵;一个n×n的输入层电脉冲判断矩阵B, 矩阵B的元素为Bij,i和j的取值均为1~n,B初始化为一个零矩阵;一个p×q的 图像矩阵Q,矩阵Q的元素为Qfs,f的取值为1~p,s的取值为1~q,其中p代表 了输入图像每一列的像素点个数,q代表了输入图像每一行的像素点个数,而且 p×q=n,u代表了需要识别图像的个数,Q初始化为一个零矩阵;

中间层神经元信息处理模块中包括中间层当前时刻矩阵H、中间层电脉冲发出 时刻矩阵R和中间层膜电位矩阵G三个1×m的矩阵,他们的元素分别为Hk、Rk、Gk, k的取值均为1~m,其中矩阵H的所有m个分量均为从时间发出模块接收到的当前 时刻t,矩阵R和G都初始化为零矩阵;三个m×m的矩阵,中间层电脉冲判断矩阵D、 中间层神经元关系矩阵S和中间层脉冲时间差矩阵ΔT,他们的元素分别为Dgk、Sgk和ΔTgk,g和k的取值均为1~m,其中,矩阵D和ΔT均初始化为零矩阵,矩阵S在 初始化时必须保证其每一行和每一列只能有一个值是1,其余的值均为零;一个n×m 的前端突触矩阵P,其元素为Pik,i的取值为1~n,k的取值为1~m,矩阵P的所 有元素Pik初始化为0~0.5的随机数;m个m×m的矩阵Ei,i的取值为1~m,Ei中的元素为epq,当p=q=i时,epq=1,其他元素均为零;

突触可塑性模块中包括权重改变量矩阵ΔW和中间层权重矩阵M两个m×m的矩 阵,他们的元素分别为ΔWgk和Mgk,g和k的取值均为1~m,其中矩阵ΔW初始化 为零矩阵,矩阵M的所有元素Mgk初始化为0~0.5的随机数;

系统输出模块中包括时间系数矩阵T、延时代更新矩阵Yold和延时矩阵Ynew三 个m×u的矩阵,他们的元素分别为Tkh、和k的取值为1~m,h的取值为 1~u,其中矩阵T的所有元素Tkh初始化为1,矩阵Yold的所有元素初始化为0~ 1的随机数,矩阵Ynew初始化为零矩阵;脉冲系数矩阵X、输出层电脉冲判断矩阵L 和判断系数矩阵N三个u×1的矩阵,他们的元素分别为Xh、Lh和Nh,h的取值均 为1~u,其中矩阵X和矩阵N的所有元素初始化为1,这两个矩阵是常矩阵,在计 算过程中所有元素的值保持不变,矩阵L初始化为零矩阵;u个u×1的模式矩阵Kc, 这u个矩阵为常矩阵,不随时间变化,c的取值为1~u,每一个矩阵Kc的元素为h的取值为1~u,矩阵Kc的初始化依照的规律为:Kc的第c位为1,其他元素均为 零;一个1×m的衰减系数矩阵Z,其元素为Zk,k的取值为1~m,该矩阵的所有 元素Zk全部初始化为1;一个1×u的输出层膜电位矩阵V,其元素为Vh,h的取值 为1~u,矩阵V初始化为零矩阵;

所述的神经网络模式识别系统,涉及到的恒定常量包括阈值Vth、重置膜电位 Vreset、神经元树突电位随指数衰减的时间常数τd、神经元膜电位随指数衰减的时间 常数τm、神经元树突电阻Rd、神经元细胞膜的膜电阻Rm、神经元细胞体电位随指 数衰减的时间常数τs、突触正向增益A+、突触负向增益A-、突触权重随时间指数衰 减常量τ+、突触权重随时间指数递增常量τ-、权重最大值wmax、权重最小值wmin、 学习速率η、延时偏移量Δd=0.1和希尔伯特-施密特范数阈值λth

2)、时间发出模块是控制整个神经网络的时钟模块,该模块每间隔1ms向输入 层神经元处理模块、中间层神经元信息处理模块、突触可塑性模块和系统输出模块 发出当前时刻t,t从0开始,每次递增1;

3)、当所述的输入层神经元处理模块接收到所述的时间发出模块发出的时间触 发脉冲信号t时,所述的输入层神经元处理模块接收外界输入的图像,通过MATLAB 软件将该输入图像读到所述的图像矩阵Q中;

4)、在所述的图像矩阵Q前乘以一个系数0.5,并把矩阵Q第一行的q个元素写 到所述的输入矩阵I的第1~q个元素上,矩阵Q第二行的q个元素写到矩阵I的第 q+1~2q个元素上,以此类推,直到把矩阵Q的最后一行元素写到矩阵I的最后q 个元素上,至此得到了所述的输入矩阵I;

5)、通过公式(1)计算输入层膜电位矩阵A:

A=[ABe-θτm+Vr(E-B)]+RmIτm---(1)

其中:B为输入层电脉冲判断矩阵,Rm为神经元细胞膜的膜电阻,τm为神经元膜电 位随指数衰减的时间常数,E为n×n的单位矩阵,θ为一个计数器,从0开始每次 递增0.1,共递增8次,之后清零,Vr矩阵的每个元素均为常量Vreset

6)、将所述的输入层膜电位矩阵A的每一个分量Ai与一个恒定阈值Vth做比较并 进行相应的处理:

当Ai大于阈值Vth,所述的矩阵B的第i行第i列的元素Bii置为1,当Ai小于或 等于阈值Vth,则所述的矩阵B的第i行第i列的元素Bii不变;把A的所有n个分量 与阈值Vth比较过之后,得到输入层电脉冲判断矩阵B;

7)、利用公式(2)计算输入层电脉冲发出时刻矩阵Cnew

Cnew=ColdB    (2)

其中:Cold是输入层当前时刻矩阵,Cnew为输入层电脉冲发出时刻矩阵;

8)、当所述的输入层神经元处理模块接收到所述的时间发出模块发出的时间触 发脉冲信号t时,将所述的矩阵B和矩阵Cnew发送给中间层神经元信息处理模块(3); 同时所述的输入层神经元处理模块进入步骤5);

9)、当所述的中间层神经元信息处理模块接收到所述的时间发出模块发出的时 间触发脉冲信号t时,利用公式计算中间层膜电位矩阵G:

G=G+a(e-H-Rτm-e-H-Rτs)P+bRd(e-H-Cnewτd-e-H-Cnewτm)BM---(3)

其中:

a=1τm-τs

b=1τd-τm

Rd=τdVthRm(τmτd)τmτm-τd

τs为神经元细胞体电位随指数衰减的时间常数,τm为神经元膜电位随指数衰减 的时间常数,τd为神经元树突电位随指数衰减的时间常数,Rd为神经元树突电阻, Vth为恒定阈值,Rm为神经元细胞膜的膜电阻,H为中间层当前时刻矩阵,R为中间 层电脉冲发出时刻矩阵,Cnew为输入层电脉冲发出时刻矩阵,B为输入层电脉冲判 断矩阵,M为中间层权重矩阵;

10)、将G的每一个分量Gk与恒定阈值Vth做比较并进行相应的处理:

当Gk大于阈值Vth时,所述的中间层电脉冲判断矩阵D的第k行第k列的元素Dkk 置为1,当Gk小于阈值Vth时,则所述的中间层电脉冲判断矩阵D的第k行第k列的 元素Dkk置为0;把G的所有m个分量与阈值Vth比较过后,得到中间层电脉冲判断 矩阵D;

11)、利用公式(4)计算得到中间层电脉冲发出时刻矩阵R:

R=HD    (4)

该矩阵的元素记录了中间层神经元发出电脉冲的时刻,H为中间层当前时刻矩阵;

12)、通过公式(5)计算所述的中间层脉冲时间差矩阵ΔT:

ΔT=D[(F-S)(RD)T(Σi=1mEiS)]---(5)

其中:R为中间层电脉冲发出时刻矩阵;D为中间层电脉冲判断矩阵;矩阵Ei,i 的取值为1~m,Ei中的元素为epq,当p=q=i时,epq=1,其他元素均为零;F为 m×m的单位矩阵,S为中间层神经元关系矩阵;

13)、当所述的中间层神经元信息处理模块接收到所述的时间发出模块下一次发 出时间触发脉冲信号t时,将所述的中间层脉冲时间差矩阵ΔT发送给突触可塑性模 块;同时将所述的中间层电脉冲判断矩阵D和中间层电脉冲发出时刻矩阵R发送给 系统输出模块;

14)、当所述的突触可塑性模块接收到所述的时间发出模块发出的时间触发脉冲 信号t时,利用公式(6)和(7)计算权重改变量矩阵ΔW:

ΔWgk=A+eΔTgkτ+ΔTgk<0(6)

ΔWgk=A-e-ΔTgkτ-ΔTgk>0(7)

其中,A+为突触正向增益,A-为突触负向增益,τ+为突触权重随时间指数衰减常 量,τ-为突触权重随时间指数递增常量,ΔTgk为中间层脉冲时间差矩阵ΔT的元素;

15)、通过公式(8)和(9)计算得到矩阵M:

Mgk=Mgk+ηΔWgk(wmax-Mgk)ΔWgk>0(8)

Mgk=Mgk+ηΔWgk(Mgk-wmin)ΔWgk<0(9)

其中,wmax为权重的最大值,wmin为权重的最小值,η为学习速率,ΔWgk为权重改 变量矩阵ΔW的元素;

16)、当所述的突触可塑性模块接收到所述的时间发出模块下一次发出时间触发 脉冲信号t时,将所述的矩阵M发送给中间层神经元信息处理模块;同时所述的突 触可塑性模块进入步骤9);

17)、当所述的系统输出模块接收到所述的时间发出模块下一次发出时间触发脉 冲信号t时,利用公式(10)计算所述的输出层膜电位矩阵V:

V=V+ZD[e-tT-XR+Ynewτd-e-tT-XR+Ynewτm]---(10)

其中,τm为神经元膜电位随指数衰减的时间常数,τd为神经元树突电位随指数衰减 的时间常数,t的值为所述的时间发出模块中发出的当前时刻脉冲信号,所述的脉冲 系数矩阵X为常矩阵,其所有元素Xh在计算过程中全为1,所述的时间系数矩阵T所 有元素的值均为所述的时间发出模块中发出的当前时刻脉冲信号t的值,Z为衰减 系数矩阵,该矩阵的所有元素Zk全部为恒定常量1,D为中间层电脉冲判断矩阵,R 为中间层电脉冲发出时刻矩阵,Ynew为延时矩阵;

18)、将所述的输出层膜电位矩阵V的每一个分量Vh与一个恒定阈值Vth做比较并 进行相应的处理:当Vh大于阈值Vth,该模块将会把所述的输出层电脉冲判断矩阵L的 第h个元素Lh置为1,当把所述的输出层膜电位矩阵V的所有u个分量与阈值Vth比 较过之后,得到了所述的输出层电脉冲判断矩阵L;

19)、利用公式(11)计算得到所述的延时矩阵(Ynew):

Ynew=Yold+ΔdN(L-Kc)(11)

其中:所述的模式矩阵Kc中的上标c从所述的时间发出模块发出的当前时刻t=1ms 开始,每当所述的系统输出模块接收到所述的时间发出模块发出的当前时刻脉冲t 信号后,上标c递增1,当c增加到u时,c的值变回1,之后继续递增,所述的判 断系数矩阵(N)是个常矩阵,其所有元素均为1,并且在计算中不改变,L为所 述的输出层电脉冲判断矩阵,Yold为所述的延时待更新矩阵,Δd为一个恒定常量;

20)、利用公式(12)计算延时矩阵Ynew的希尔伯特-施密特范数λ:

λ=[Σk=1uΣh=1u(Ykhnew-Ykhold)2]12---(12)

之后把所述的延时矩阵Ynew的值写到所述的延时待更新矩阵Yold,其中:为所 述的延时矩阵Ynew)的元素,为所述的延时待更新矩阵Yold的元素;

21)、如果希尔伯特-施密特范数λ小于等于希尔伯特-施密特范数阈值λth,那么 该模块就把标志位flag置位为1;如果λ大于希尔伯特-施密特范数阈值λth,那么该 模块就把标志位flag置位为0;

22)、如果标志位flag为0,则所述的系统输出模块(5)接收到所述的时间发出 模块下一次发出时间触发脉冲信号t时,返回步骤18);

23)、如果flag为1,则所述的系统输出模块接收到所述的时间发出模块下一次 发出时间触发脉冲信号t时,将所述的输出层电脉冲判断矩阵L作为整个网络的输 出,该输出层电脉冲判断矩阵L中只有一个元素为1,其他元素均为0,当该矩阵L第 h个元素为1,则说明所述的输入层神经元处理模块接收外界输入的图像就是第h个 输入图像,实现了对输入的图像的识别。

本发明的技术效果如下:

本发明基于神经元工作方式的神经网络模式识别系统和实现方法。该系统易于 软件实现,采用突触可塑性学习方式和延时更新学习方式,系统具有记忆的功能, 相对于传统的BP网络来说,不会受到步长等因素的限制,随着输入规模的增大仍 然保持收敛,而且识别率可以保持在较高的水平。

附图说明

图1系统整体结构框图

图2系统输入图像

图3输入层神经元输入处理模块(2)流程图

图4中间层神经元信息处理模块(3)和突触可塑性模块(4)流程图

图5系统输出模块(5)流程图

具体实施方式

以下结合附图对本发明做进一步说明,但不应以此限制本发明的保护范围。

图1是系统整体结构框图。如图所示,基于神经元工作方式的神经网络模式识 别系统由时间发出模块1、输入层神经元输入处理模块2、中间层神经元信息处理模 块3、突触可塑性模块4和系统输出模块5构成。其连接方式如下:

所述的时间发出模块1分别与所述的输入层神经元处理模块2的第一输入端、 中间层神经元信息处理模块3的第一输入端、突触可塑性模块4第一输入端和系统 输出模块5第一输入端相连,所述的输入层神经元处理模块2的第二输入端为外界 图像接收端,该输入层神经元处理模块2的输出端与所述的中间层神经元信息处理 模块3的第二输入端相连,所述的中间层神经元信息处理模块3的第一输出端与所 述的系统输出模块5的输入端相连,所述的中间层神经元信息处理模块3的第二输 出端和第三输入端之间连接所述的突触可塑性模块4,所述的系统输出模块5的第 二输出端为系统输出端。

图2是系统输入图像。如图所示,图2-1表示输入英文字母O,图2-2表示输入 英文字母P。两个输入图像均为黑白二值图像,该图像共15个像素点。其中,黑色 像素用恒定电流值0.5mA表示,表示白色像素的电流值为0。

图2-1和图2-2从当前时刻t=1ms开始,每间隔1ms输入到系统中。即,t=1ms 时,输入图2-1;t=2ms时,输入图2-2,依此类推。

基于神经元工作原理的模式识别系统的模式识别方法,其特征在于该方法包括 以下步骤:

1)、系统初始化:

在输入层神经元处理模块2中包括输入层膜电位矩阵(A)、膜电位重置矩阵 (Vr)、输入层当前时刻矩阵(Cold)、输入层电脉冲发出时刻矩阵(Cnew)和输入 矩阵(I)五个1×15的矩阵,其中矩阵A的元素为Ai,矩阵Vr的元素为矩阵 Cold的元素为矩阵Cnew的元素为矩阵I的元素为Ii,i的取值均为1~ 15;所述的矩阵A和矩阵I初始化为零矩阵,所述的矩阵Vr的所有15个分量都 初始化为恒定的常量Vreset=-1,所述的矩阵Cold中所有15个分量均为从时间发出 模块1接收到的当前时刻t,矩阵Cnew初始化为零矩阵;一个15×15的输入层电脉 冲判断矩阵(B),矩阵B的元素为Bij,i和j的取值为1~15,B初始化为一个零 矩阵;一个5×3的图像矩阵(Q),矩阵Q的元素为Qfs,f的取值为1~5,s的取 值为1~3,其中输入图像每一行的像素点个数是3,每一列的像素点个数为5,需 要识别图像的个数是两个,Q初始化为一个零矩阵;

中间层神经元信息处理模块3中包括中间层当前时刻矩阵(H)、中间层电脉冲 发出时刻矩阵(R)和中间层膜电位矩阵(G)三个1×10的矩阵,他们的元素分 别为Hk、Rk、Gk,k的取值均为1~10,其中矩阵H的所有10个分量均为从时间 发出模块1接收到的当前时刻t,矩阵R和G都初始化为零矩阵;三个10×10的矩 阵,中间层电脉冲判断矩阵(D)、中间层神经元关系矩阵(S)和中间层脉冲时间 差矩阵(ΔT),他们的元素分别为Dgk、Sgk和ΔTgk,g和k的取值均为1~10,其 中,矩阵D和ΔT均初始化为零矩阵,矩阵S在初始化时必须保证其每一行和每一列 只能有一个值是1,其余的值均为零;

中间层神经元关系矩阵(S)的具体初始值如下:

S=0001000000000010000000000100000010000000000000001010000000000100000000000000000100000000100000000100

中间层神经元信息处理模块3中还包括一个15×10的前端突触矩阵P,其元素 为Pik,i的取值为1~15,k的取值为1~10,矩阵P的所有元素Pik初始化为0~0.5 的随机数;10个10×10的矩阵Ei,i的取值为1~10,Ei中的元素为epq,当p=q=i 时,epq=1,其他元素均为零;

突触可塑性模块4中包括权重改变量矩阵(ΔW)和中间层权重矩阵(M)两 个10×10的矩阵,他们的元素分别为ΔWgk和Mgk,g和k的取值均为1~10,其中 矩阵ΔW初始化为零矩阵,矩阵M的所有元素Mgk初始化为0~0.5的随机数。

系统输出模块5中包括时间系数矩阵(T)、延时代更新矩阵(Yold)和延时矩 阵(Ynew)三个10×2的矩阵,他们的元素分别为Tkh、和k的取值为1~ 10,h的取值为1~2,其中矩阵T的所有元素Tkh初始化为1,矩阵Yold的所有元素初始化为0~1的随机数,矩阵Ynew初始化为零矩阵;脉冲系数矩阵(X)、输出层 电脉冲判断矩阵(L)和判断系数矩阵(N)三个2×1的矩阵,他们的元素分别为 Xh、Lh和Nh,h的取值均为1~2,其中矩阵X和矩阵N的所有元素初始化为1, 矩阵L初始化为零矩阵;2个2×1的模式矩阵(Kc),c的取值为1~2,每一个矩 阵Kc的元素为h的取值为1~2,c的取值为1~2,矩阵Kc的初始化依照的规 律为:Kc的第c位为1,其他元素均为零;

这两个输入的模式矩阵(K)可以具体表示为

K1=10;K2=01

系统输出模块5中还包括一个1×10的衰减系数矩阵(Z),其元素为Zk,k的 取值为1~10,该矩阵的所有元素Zk全部初始化为1;一个1×2的输出层膜电位矩 阵(V),其元素为Vh,h的取值为1~2,矩阵V初始化为零矩阵。

基于神经元工作方式的神经网络模式识别系统中,涉及到的恒定常量包括:阈值 Vth=10、重置膜电位Vreset=-1、神经元树突电位随指数衰减的时间常数τd=5、 神经元膜电位随指数衰减的时间常数τm=30、神经元树突电阻Rd=50、神经元细 胞膜的膜电阻Rm=80、神经元细胞体电位随指数衰减的时间常数τs=2、突触正 向增益A+=0.1、突触负向增益A-=-0.105、突触权重随时间指数衰减常量 τ+=1、突触权重随时间指数递增常量τ-=1、权重最大值wmax=1、权重最 小值wmin=0、学习速率η=0.1、延时偏移量Δd=0.1和希尔伯特-施密特范数 阈值λth=10-5

2)、时间发出模块1是控制整个神经网络的时钟模块,该模块每间隔1ms向输 入层神经元处理模块2、中间层神经元信息处理模块3、突触可塑性模块4和系统输 出模块5发出当前时刻t,t从0开始,每次递增1;

3)、当所述的输入层神经元处理模块2接收到所述的时间发出模块1发出的时 间触发脉冲信号时,所述的输入层神经元处理模块2接收外界输入的图像,通过 MATLAB软件将该输入图像读到所述的图像矩阵(Q)中,该实例中首先接收的输 入图像是图2-1;当所述的输入层神经元处理模块2接收到所述的时间发出模块1发 出的下一个时间触发脉冲信号时,接收到输入图像为图2-2,以此类推;

4)、所述的图像矩阵(Q)为5×3的矩阵,由于MATLAB中黑色像素点默认 的值为1,所以要在所述的图像矩阵(Q)前乘以一个系数0.5。把所述的图像矩阵 (Q)第一行的3个元素写到所述的输入矩阵(I)的第1~3个元素上,所述的图 像矩阵(Q)第二行的3个元素写到所述的输入矩阵(I)的第4~6个元素上,以 此类推,直到把所述的图像矩阵(Q)第五行的三个元素写到所述的输入矩阵(I) 的第13~15个元素上,这样就得到了代表图2-1的所述的输入矩阵(I),用同样 的方法可以得到代表图2-2的所述的输入矩阵(I),他们的具体表示如下所示:

代表图2-1的输入矩阵(I)为:

I=[0,0,0.5,0,0.5,0,0,0.5,0,0,0.5,0,0,0,0.5]

代表图2-2的输入矩阵(I)为:

I=[0,0,0,0,0.5,0,0,0,0,0,0.5,0.5,0,0.5,0.5];

5)、通过公式(1)计算输入层膜电位矩阵A:

A=[ABe-θτm+Vr(E-B)]+RmIτm---(1)

其中:B为所述的输入层电脉冲判断矩阵,Rm为神经元细胞膜的膜电阻,τm为神经 元膜电位随指数衰减的时间常数,E为15×15的单位矩阵,θ为一个计数器,从0 开始每次递增0.1,共递增8次,之后清零,所述的膜电位重置矩阵(Vr)的每个 元素均为常量Vreset=-1;

6)、将所述的输入层膜电位矩阵(A)的每一个分量Ai与一个恒定阈值Vth做比较 并进行相应的处理:

当Ai大于阈值Vth=10,所述的输入层电脉冲判断矩阵(B)的第i行第i列的 元素Bii置为1,当Ai小于或等于阈值Vth,则所述的输入层电脉冲判断矩阵(B)的 第i行第i列的元素Bii不变;把A的所有n个分量与阈值Vth比较过之后,得到所述 的输入层电脉冲判断矩阵(B);

7)、利用公式(2)计算所述的输入层电脉冲发出时刻矩阵(Cnew):

Cnew=ColdB    (2)

其中:Cold是所述的输入层当前时刻矩阵,B为所述的输入层电脉冲判断矩阵;

8)、当所述的输入层神经元处理模块2接收到所述的时间发出模块1发出的时 间触发脉冲信号t时,将所述的输入层电脉冲判断矩阵(B)和所述的输入层电脉 冲发出时刻矩阵(Cnew)发送给中间层神经元信息处理模块3;同时所述的输入层 神经元处理模块2进入步骤5);

9)、当所述的中间层神经元信息处理模块3接收到所述的时间发出模块1发出 的时间触发脉冲信号t时,利用公式(3)计算所述的中间层膜电位矩阵(G):

G=G+a(e-H-Rτm-e-H-Rτs)P+bRd(e-H-Cnewτd-e-H-Cnewτm)BM---(3)

其中:

a=1τm-τs

b=1τd-τm

Rd=τdVthRm(τmτd)τmτm-τd

τs为神经元细胞体电位随指数衰减的时间常数,τm=30为神经元膜电位随指数衰 减的时间常数,τd=5为神经元树突电位随指数衰减的时间常数,Rd为神经元树突 电阻,Vth=10为恒定阈值,Rm=80为神经元细胞膜的膜电阻,H为所述的中间 层当前时刻矩阵,R为所述的中间层电脉冲发出时刻矩阵,Cnew为所述的输入层电 脉冲发出时刻矩阵,B为所述的输入层电脉冲判断矩阵,M为所述的中间层权重矩 阵;

10)、将所述的中间层膜电位矩阵(G)的每一个分量Gk与恒定阈值Vth做比较并 进行相应的处理:

当Gk大于阈值Vth时,所述的中间层电脉冲判断矩阵(D)的第k行第k列的元 素Dkk置为1,当Gk小于阈值Vth时,则所述的中间层电脉冲判断矩阵(D)的第k 行第k列的元素Dkk置为0;把所述的中间层膜电位矩阵(G)的所有m个分量与阈 值Vth比较过后,得到了所述的中间层电脉冲判断矩阵(D);

11)、利用公式(4)

R=HD(4)

计算得到所述的中间层电脉冲发出时刻矩阵(R),该矩阵的元素记录了中间层神经 元发出电脉冲的时刻,H为所述的中间层当前时刻矩阵,D为所述的中间层电脉冲 判断矩阵;

12)、通过公式(5)

ΔT=D[(F-S)(RD)T(Σi=1mEiS)]---(5)

计算得到所述的中间层脉冲时间差矩阵(ΔT),其中:R为所述的中间层电脉冲发 出时刻矩阵;D为所述的中间层电脉冲判断矩阵;矩阵Ei,i的取值为1~10,Ei 中的元素为epq,当p=q=i时,epq=1,其他元素均为零;F为10×10的单位矩阵, S为所述的中间层神经元关系矩阵;

13)、当所述的中间层神经元信息处理模块3接收到所述的时间发出模块1下一 次发出时间触发脉冲信号t时,将所述的中间层脉冲时间差矩阵(ΔT)发送给突触 可塑性模块4;同时将所述的中间层电脉冲判断矩阵(D)和中间层电脉冲发出时 刻矩阵(R)发送给系统输出模块5;

14)、当所述的突触可塑性模块4接收到所述的时间发出模块1发出的时间触发 脉冲信号t时,利用公式(6)和(7)

ΔWgk=A+eΔTgkτ+ΔTgk<0(6)

ΔWgk=A-e-ΔTgkτ-ΔTgk>0(7)

计算得到所述的权重改变量矩阵(ΔW)。其中,A+=0.1为突触正向增益, A-=-0.105为突触负向增益,τ+=1为突触权重随时间指数衰减常量,τ-=1 为突触权重随时间指数递增常量,ΔTgk为所述的中间层脉冲时间差矩阵(ΔT)的 元素;

15)、通过公式(8)和(9)

Mgk=Mgk+ηΔWgk(wmax-Mgk)ΔWgk>0(8)

Mgk=Mgk+ηΔWgk(Mgk-wmin)ΔWgk<0(9)

计算得到所述的中间层权重矩阵(M)。其中,wmax=1为权重的最大值,wmin=0 为权重的最小值,η=0.1为学习速率,ΔWgk为所述的权重改变量矩阵(ΔW)的 元素;

16)、当所述的突触可塑性模块4接收到所述的时间发出模块1下一次发出时间 触发脉冲信号t时,将所述的中间层权重矩阵(M)发送给所述的中间层神经元信 息处理模块3;同时所述的突触可塑性模块4进入步骤9);

17)、当所述的系统输出模块5接收到所述的时间发出模块1下一次发出时间触 发脉冲信号t时,利用公式(10)

V=V+ZD[e-tT-XR+Ynewτd-e-tT-XR+Ynewτm]---(10)

计算出所述的输出层膜电位矩阵(V)。其中,τm=30为神经元膜电位随指数衰减 的时间常数,τd=5为神经元树突电位随指数衰减的时间常数,t的值为所述的时 间发出模块1中发出的当前时刻脉冲信号,所述的脉冲系数矩阵(X)为常矩阵, 其所有元素Xh在计算过程中全为1,所述的时间系数矩阵(T)所有元素的值均为 所述的时间发出模块1中发出的当前时刻脉冲信号t的值,Z为所述的衰减系数矩 阵,该矩阵的所有元素Zk全部为恒定常量1,D为所述的中间层电脉冲判断矩阵,R 为所述的中间层电脉冲发出时刻矩阵,Ynew为所述的延时矩阵;

18)、将所述的输出层膜电位矩阵(V)的每一个分量Vh与一个恒定阈值Vth=10 做比较并进行相应的处理:当Vh大于阈值Vth,该模块将会把所述的输出层电脉冲判 断矩阵(L)的第h个元素Lh置为1,当把所述的输出层膜电位矩阵(V)的所有u 个分量与阈值Vth比较过之后,得到了所述的输出层电脉冲判断矩阵(L);

19)、利用公式(11)

Ynew=Yold+ΔdN(L-Kc)(11)

计算得到所述的延时矩阵(Ynew),其中:所述的模式矩阵(Kc)中的上标c从所 述的时间发出模块1发出的当前时刻t=1ms开始,每当所述的系统输出模块5接收 到所述的时间发出模块1发出的当前时刻脉冲t信号后,上标c递增1,当c增加到 2时,c的值变回1,之后继续递增,所述的判断系数矩阵(N)是个常矩阵,其所 有元素均为1,并且在计算中不改变,L为所述的输出层电脉冲判断矩阵,Yold为 所述的延时待更新矩阵,Δd=0.1为一个恒定常量;

20)、利用公式(12)

λ=[Σk=1uΣh=1u(Ykhnew-Ykhold)2]12---(12)

得到所述的延时矩阵(Ynew)的希尔伯特-施密特范数λ,之后把所述的延时矩阵 (Ynew)的值写到所述的延时待更新矩阵(Yold),其中:为所述的延时矩阵 (Ynew)的元素,为所述的延时待更新矩阵(Yold)的元素;

21)、如果希尔伯特-施密特范数λ小于等于希尔伯特-施密特范数阈值 λth=10-5,那么该模块就把标志位flag置位为1;如果λ大于希尔伯特-施密特范 数阈值λth=10-5,那么该模块就把标志位flag置位为0;

22)、如果标志位flag为0,则所述的系统输出模块5接收到所述的时间发出模 块1下一次发出时间触发脉冲信号t时,返回步骤18);

23)、如果flag为1,则所述的系统输出模块5接收到所述的时间发出模块1下一 次发出时间触发脉冲信号t时,将所述的输出层电脉冲判断矩阵L作为整个网络的输 出。

实验结果表明,在t=47ms时,flag=1,即图2-1被正确识别;在t=58ms时, flag=1,即图2-2被正确识别,这说明在t=58ms时此系统已经记忆了两个图像, 此时将存放的矩阵L作为整个网络的输出。如果矩阵L的元素L1=1并且L2=0, 从系统的输出可以知道输入的是图2-1;如果矩阵L的元素L2=1而L1=0,从系统 的输出可以知道输入的是图2-2。t=47ms时,输出的矩阵LT=[1,0],即L1=1, L2=0,可以得知输入的是图2-1;t=58ms时,输出的矩阵LT=[0,1],即L1=0, L2=1,可以得知输入的是图2-2,此时可以终止输入。此系统目前可以记忆26幅 黑白二值图像,他们是26个英文字母,随着输入的增多,识别的时间增长,但是系 统仍然收敛。当输入有噪声的图像时,系统的识别率为93.5%,相对于传统的BP网 络略高,训练时间明显比BP网络要少,而且该系统不涉及步长等因素,使得收敛 性强于BP网络。

去获取专利,查看全文>

相似文献

  • 专利
  • 中文文献
  • 外文文献
获取专利

客服邮箱:kefu@zhangqiaokeyan.com

京公网安备:11010802029741号 ICP备案号:京ICP备15016152号-6 六维联合信息科技 (北京) 有限公司©版权所有
  • 客服微信

  • 服务号