基本人工神经网络的训练法及自动训练人工神经网络的装置

摘要

一种基本人工神经网络的训练法及自动训练人工神经网络的装置,包括成双向电路联结的数据采集器和计算机,并在该计算机内存建立BP人工神经网络输入暂存区,参数暂存区等,特别是还包括基本神经网络和以程序联结的病人ED模式选取程序模块和训练专用神经网络程序模块等,使得可依藉本发明装置实现无医生参与的全自动定量检测脑电图中的癫痫样放电。

说明书

本发明涉及一种检测癫痫病情的方法和装置，具体地说，是一种全自动训练病人专用人工神经网络的方法及装置。

众所周知，癫痫是一种常见病，患病率约占人口的0.4％，患者发病时常有失去知觉倒地，全身抽搐等表征，是危害人民健康的重要疾病。首先要正确地诊断是否癫痫，使之和其它有类似症状的疾病区分开来，采取正确的治疗措施，目前常用的方法是记录患者的脑电图，再由医生来分析脑电图，看其中是否有癫痫样放电(Epileptiform Discharges，简称ED)，作为癫痫诊断的主要客观依据，关于这方面，本申请人已于1998年12月30日向中国专利局提交名称为“全自动判断脑电图中有无癫痫样放电的装置”的发明专利申请(申请号CN 98122894.1)，在这份申请中主要解决“有”和“没有”ED的定性判断。这对于采取正确的治疗路线是十分重要的。对于有ED的病人，如综合其他病症判断为癫痫病人，接着医生就需要了解病人的癫痫病发作的具体情况，发作频繁程度如何，ED的数量和在什么时间、什么情况下发作等等，以决定用什么药、用药量多少等，在治疗一阶段以后，医生需要知道治疗的效果如何、有效、无效、效果好不好等等，考虑是否继续用同类药继续治疗下去，药量是否要增减，还是改用另一种药。癫痫病的病情可主要在ED的数量和其时间分布上看到。除非病人的发作十分频繁，则在医院里，常规的脑电图记录中也可以看到ED，一般需要作动态脑电记录，就是连续记录24小时的病人脑电，由医生来人工分析动态脑电图是十分费时、费力的，因为24小时记录得到的数据量十分庞大，如果逐页显示，再由医生来判读，每一份动态脑电图就需要花费医生几个小时的时问，而且还得不到定量的结果。只是一个定性印象，如果要做定量测量，那么医生再要做很多测量和统计工作，还要把结果绘成图表，这样一天时间也许医生只能处理一个病人的动态脑电记录，有丰富经验的脑电分析医生目前在大城市中还不多，自然中小城市则更少，甚至没有，而广大农村、边缘地区，更是没有这方面专业人才，因此癫痫病人将不可能得到有效的、有针对性的治疗。

对于动态脑电的判读迫切需要计算机的自动化，这项工作国际学术界经过了20多年的努力，效果已明显改进，尤其是近年来用“人工神经网络”来检测ED，更是把这项工作推向一个新水平，ED的识别率已明显提高，假阳性率已大大下降，到目前为止以张彤等在《中国生物医学工程学报》1998，17(1)：1-11发表的“脑电图癫痫波的自动检测与分类”之技术方案水平最高，他们采用分层次，多方法整合途径将自动适应预测、小波变换、人工神经网络、模糊识别系统、专家系统等信号处理技术结合起来，检测癫痫波取得了良好的结果，还能对癫痫波进行分型。但该方法相当复杂，需用高速和大容量计算机，成本较高，也不利于快速识别。该论文距实用、特别是到广大小城市、边疆地区去推广应用尚有很大距离，最主要的是若把该文所得的具体方法、参数、网络连接权重等固定下来，推广应用。是不能取得好的效果的。其原因乃是由于癫痫病人脑内ED发生的区域不同，有的是弥漫型的，有的是局灶型的，有的发生在这一部位，有的则发生在另一部位，ED的波形也不同，有棘波(波宽在70ms左右)、有尖波(波宽在100～200ms)，有棘慢复合波等等。如果用一个固定的人工神经网络对所有的病人进行检测，则检测的结果自然不会对所有的病人都很好，为了要得到好的效果，应“具体情况具体分析”，针对每一个病人，挑选该病人的ED波作为ED模式来专门训练网络，得到其各项参数特别适合于该病人的神经网络，再来测量该病人，这样效果自然就会大大改善。但是谁来挑选该病人的ED波作为ED模式？如果要“全自动”，那么这项任务应该由计算机来承担。能自动训练病人专用人工神经网络的装置至今未见报道，究其原因乃是由于：

一、要能训练该病人的专用人工神经网络，首先要能在该病人的脑电图中挑选出ED波，这项任务要由计算机自动完成。

二、要能挑选出多种多样有代表性的ED，这样训练出来的网络才能对多种多样该病人的ED波有很好的识别。即使是同一个病人，他(她)的ED也是有明显变化的，这是因为随病人状态的变化，在多通道脑电放大器上的ED本身波形出现的道数等可能有所变化，更是因为自发脑电叠加在ED上，使ED波形发生变化，因此要求挑选出有代表性的多种ED模式，这代表性很难掌握，一般是由有经验的脑电医生和经验丰富的工程师们商量解决的。

三、让计算机来挑选ED模式，很难避免挑错。把一个非ED挑选成为ED模式，用来训练人工神经网络，这会造成怎么样的结果？如果是坏的结果，应设法减轻或避免。

综上所述，由于上述种种困难，这类“没有医生参与的，完全靠计算机自动训练病人专用人工神经网络的装置”迄今为止还没见到报导。

本发明的目的是提供一种基本人工神经网络的训练方法和免除医生参与的全自动训练病人专用人工神经网络的装置。

本发明是这样实现的，本发明的基本人工神经网络的训练法，其步骤包括：

(1)先在一计算机中建立如图3所示的盖博人工神经网络拓扑结构和驻留盖博的非ED算法和BP算法，其特征是：

(2)在该计算机中驻留

①由一病人的一组ED中的平均峰宽来确定峰宽的算法；

②由ED模式偏离M倍标准差算出非ED模式的算法和

③偏离采用使绝对值变小的算法；

(3)以任一ED为弥漫型棘慢复合波的病人的ED对该神经网络进行训练，生成其连接权重和偏置量各参数值，形成一基本人工网络。，更具体地说，上述所说的M＝10，而所说的一组ED是指从16道脑电图记录中选取的15个ED片段。

根据本发明的上述方法制成的全自动训练病人专用人工神经装置，其包括成双向电路联结的数据采集器和计算机，该数据采集器的输入端与一多路脑电放大器输出端相连接，而该计算机则与打印机相连接，在该计算机的内存储器中建立人工神经网络的输入暂存区，参数暂存器，并驻留有BP(前馈逆传播学习算法)算法程序，每一路脑电信号在该神经网络中有相应的输入节点，该人工神经网络由二个三层BP子网络组成，分别称为左子网络和右子网络，左子网络和右子网络的输出经加权平均后，组成网络输出O，左、右子网络各有三层：输入层、隐含层和输出层，在该计算机的内存中分别设置输入层数据存贮区、隐含层数据存贮区和输出层数据存储区，对于一个BP子网络，W_ji表示输入层第i个节点到隐含层第j个节点的联接权重，W_lj表示隐含层第j个节点到输出层第l个节点的联接权重，隐含层和输出层的节点含有偏置值；θ_j表示隐含层第j个节点的偏置值，θ_l表示输出层第l个节点的偏置值；隐含层节点和输出层节点的输入输出激励函数采用“S”型函数：

f(X)＝1/(1+exp(-X))；

一个输入层有ni个节点，隐含层有nj个节点，输出层有nl个节点的子网络，Pi表示子网络第i个节点的输入值，H_INj表示隐含层第j个节点的输入值，H_OUTj表示隐含层第j个节点的激活值，O_INl表示输出层第l个节点的输入值，O_OUTl表示输出层第l个节点的输出值，其前馈按下列前馈公式进行计算； $>>>H>INj>>=>>\Sigma >>j>=>1>>>n>i>>>>(>>W>ji>>\times >>P>i>>)>>+>>\theta >j>>>s>$

    H_OUTj＝1/(1+exp(-H_INj)) $>>>O>INI>>=>>\Sigma >>j>=>1>>>n>j>>>>(>>W>ij>>\times >>H>OUTj>>)>>+>>\theta >l>>>s>$

    O_OUTl＝1/(1+exp(-O_INl))

输出层只有一个节点，左、右两个子网络的输出分别表示为O_l和O_r，左子网络的加权系数为φ，则右子网络的加权系数为1-φ，网络的输出：

O＝φO_l+(1-φ)O_r，其特点是在该计算机内存贮器中驻留上述基本人工神经网络和后面要说明的病人ED模式选取程序模块和训练专用神经网络程序模块。其中病人ED模式选取程序模块如图4所示。训练专用神经网络程序模块如图5所示。脑电信号输入本发明装置后，经过ED模式选取程序处理后在病人脑电中找出符合要求的一定数量的片段，作为ED模式对人工神经网络进行训练。训练完成后得到适合该病人ED检测的专用人工神经网络，本装置可将专用人工神经网络的各项连接权重、偏重值、加权系数等下载到智能动态脑电记录仪中，使其边记录、边识别。

上述的与多路脑电放大器相连接的电极，其安置系采用国际10-20系统，头皮单极16通道记录结构；而该前馈逆传播学习算法网络的误差函数预置值E＝0.01，学习因子η＝0.01；动量因子α＝0.05，隐含层节点个数H＝16，左子网络加权系数φ＝0.5，ED与非ED模式的标准差倍数M＝10。

本装置处理的病人是用“全自动判断脑电图中有无癫痫样放电装置”分析过而且判定为有ED的病人。

本发明的优点：

1、实现不需医生参与的全自动训练病人专用人工神经网络，其结果接近有经验医生的检测水平。

2、省却了医生的繁琐、艰苦的劳动，省时，省力，因此特别适用于广大的小城镇、农村和边远地区，因为那里根本就没有有经验的脑电医生。病人得癫痫病后，必须到大中城市才能治疗、费钱又费时。

3、适合于智能动态脑电记录仪配合使用，专用人工神经网络训练好后，可下载到智能动态脑电记录仪中，使之能边记录、边识别ED，记录完成也识别完成，可节省以后的识别时间，而且能根据识别结果产生报警信号等，帮助病人避免发作引起的伤害。

4、由于本装置对于每个病人，训练出适合该病人的专用网络，以后再用于对该病人进行检测，因此有很强的适应能力，可以在不同地区、不同民族的区域内应用。

本发明的附图简单说明如下：

图1是应用本发明与多路脑电放大器和智能动态脑电记录仪等一起构成全自动定量检测脑电图中ED放电的系统的方块示意图。

图2是本发明中的数据采集器电路原理图。

图3是本发明的BP网络的拓扑结构图。

图4是本发明中病人ED模式选取程序的流程图。

图5是本发明中训练专用神经网络程序的流程图。

下面根据图1～图5给出本发明一个较好实施例，并予以详细描述，以使能更好地说明本发明的结构特征、功能，而不是用来限制本发明的权利要求保护范围。

请参阅图1和图2，如图所示，本发明装置包括成双向电路联结的数据采集器2和计算机3，并由数据采集器2与一多路脑电放大器1相连接，该计算机3的输出可记录在软盘上，插入其他系统使用或下载到智能动态脑电记录仪4中。在本实施例中，多路脑电放大器1为16道脑电放大器；实验时采用日本光电公司(NIHON KOHDEN)4217型脑电图机记录脑电图，记录电极的安置采用国际10-20系统头皮单极16道记录，经高通0.3Hz和低通60Hz滤波后描记在纸上，同时对放大后的脑电信号送入数据采集器2、该数据采集器2的模数转换的位数为10bit，采集频率为200次/秒，计算机3采用486微型计算机。

请参阅图3，它显示本发明的人工神经网络的拓扑结构，它是以盖博(Gabor)等的方法为基础，经对网络参数优化后的BP网络，它由二个三层BP子网络组成，分别称为左子网络和右子网络，各有三层：输入层、隐含层和输出层，对于一个BP子网络，W_ji表示输入层第i个节点到隐含层第j个节点的联接权重，W_lj表示隐含层第j个节点到输出层第l个节点的联接权重，隐含层和输出层的节点含有偏置值。θ_j表示隐含层第j个节点的偏置值，θ_l表示输出层第l个节点的偏置值。隐含层节点和输出层节点的输入输出激励函数采用“S”型函数：

f(X)＝1/(1+exp(-X))

该网络的误差函数预置值E＝0.01；学习因子η＝0.01；动量因子α＝0.05；输入层节点和隐含层节点个数均为16，输出层节点数为1。左子网络加权系数φ＝0.5；ED与非ED模式之间的标准差倍数M＝10。

设对于一个输入层有n_i个节点，隐含层有n_j个节点，输出层有n_l个节点的子网络，Pi表示子网络第i个节点的输入值，H_INj为隐含层第j个节点的输入值。H_OUTj表示隐含层第j个节点的激活值。O_INl表示输出层第l个节点的输入值。O_OUTl表示输出层第l个节点的输出值，本发明的前馈按下列公式进行计算； $>>>H>INj>>=>>\Sigma >>i>=>1>>ni>>>(>>W>ji>>\times >>P>i>>)>>+>>\theta >j>>,>>s>$

    H_OUTj＝1/(1+exp(-H_INj))， $>>>O>INl>>=>>\Sigma >>j>=>1>>nj>>>(>>W>lj>>\times >>H>OUTj>>)>>+>>\theta >l>>,>>s>$

    O_OUTl＝1/(1+exp(-O_INl))。

输出层只有一个节点，左右两个子网络的输出分别表示为O_l和O_r。左子网络的加权系数为φ，右子网络的加权系数为1-φ，则网络输出为：

    O＝φO_l+(1-φ)O_r

我们在计算机3的内存区建立了上述BP网络的算法，16路脑电信号送入BP网络的相应的16个输入节点Pl₁、Pl₂……Pl₁₆；Pr₁、Pr₂……Pr₁₆；网络输出值为0～1之间的某一确定值。

关于对基本神经网络的训练

首先要从该病人的脑电图中挑选出ED波，作为ED模式对人工神经网络进行训练，我们利用交叉识别的方法，即从一个病人的脑电中选取ED模式，对网络进行训练，训练好的网络对不同病人的ED进行识别。

我们选择了具有代表性的三个病人来进行实验，他们是ED为弥漫型棘慢复合波的病人A，ED为弥漫型尖波的病人B和ED为局灶型一棘波的病人C。然后以其中一个病人的ED训练人工神经网络，再对其余二人的脑电进行识别，这三位病人，ED的波形有棘波的光波，ED的空间分布有弥漫型和局灶型，因此有较好的代表性。为了适合交叉识别的要求，我们对盖博的方法进行了改进。一、特征提取中峰宽是根据一组ED模式而确定，使峰宽更有代表性；二、对于任何选取的一个ED模式，按盖博的方法计算产生一个非ED模式，非ED模式偏离该ED模式M倍标准差，我们选定的M值为10，比盖博的M值大得多；三、在计算非ED模式时，我们采用相消的方法，即以网络输入值的绝对值变小M倍标准差算作非ED模式。上述三项改进使脑电波形即使有相当程度偏离ED模式，仍能被网络识别。

实验结果表明：1、以病人A的ED(即弥漫型棘慢复合波)训练人工神经网络再去识别其他病人效果最好；2、对于没有伪差干扰的脑电，当阈值为0.86时，交叉识别的假阳性率接近零；3、自身识别优于交叉识别，这一点证明了本发明用该病人的ED训练专用人工神经网络，再用来识别本病人的ED效果最好。

根据上述实验结果，选定由一个弥漫型棘慢复合波的病人的ED训练出来的人工神经网络为基本网络，用基本网络去选出各病人的ED。

关于对病人脑电中ED模式的选取

本发明中ED模式的选取是以基本网络对该病人脑电进行识别为基础，当阈值定为0.86时，识别出来的ED都是真的，假阳性率接近为0；当阈值下降时识别率提高的同时，假阳性率也逐渐增加。

我们的实验表明，阈值定为0.86时，识别出来的ED作为ED模式对网络进行训练效果并不好，究其原因是这时选出的ED模式都是很典型的ED，而实际的ED中，由于受自发脑电的影响等因素，波形变得不典型了，而且这类ED数量很多。由典型ED训练出来的网络对这些ED就识别不出来，于是使识别率明显下降。

我们的实验表明，应该选择多种多样的有代表性的ED来作ED模式，训练网络，这样识别率就会高些。

本发明中选取ED模式是以这个波输入基本人工神经网络，其输出值的峰值PV_i为依据的。

我们的实验表明PV_i＜0.82的一概不选取为好，因为PV_l低于0.82，假阳性相当高了，就很容易把非ED选作ED模式，训练出来的网络识别率下降。

我们的实验表明PV_i＞0.92的ED很少，有的病人甚至没有。因此选取PV_i在以下范围中：0.82≤PV_i≤0.92。

在比较了五个不同分布型式后，我们的实验表明二头小中间大的型式最好，即PV_i0.89～0.87间(中间)要多选，PV_i向0.92变化时，选取数减少，当PV_I向0.82变化时，选取数也减少。

我们的实验表明，选取总共15个模式的效果最好，它兼顾了识别率比较高和训练时间短两方面。最后选定的分布型式为PV_i值为0.92的1个，0.90的2个，(0.89～0.87)的8个，0.86的2个，0.84的1个，0.82的1个。

在这样选取ED模方式中，非ED被误选为ED模式的可能性不大，我们的实验表明，在选中的15个ED模式中，如果混入了一个或二个非ED，对训练所得的人工神经网络的识别率影响不大。

根据上述研究结果，ED模式的选取程序的流程图如图4所示。从图中可见，程序启动后执行步骤50，将病人脑电信号输入基本人工神经网络→步骤51，判别网络输出是否达到峰值？如果未达到峰值，返回执行步骤50；如果达到峰值，则→步骤52，判别峰值PV_i≥0.82？，如果PV_i＜0.82，则执行步骤531，如果PV_i≥0.82，便→步骤53，判别PV_i是否小于0.92，如果小于0.92，执行步骤531；如果不小于0.92，则→步骤14，将此段脑电数据作为候补ED模式存入数据暂存区→步骤55，判别在已选作ED模式的信号波中，该PV_i值选取个数是否达到规定值？如果已达到规定个数，便执行步骤531，如果未达到规定个数，则→步骤56，将此段波选人和ED模式，其脑电数据转存到ED模式暂存区，→步骤57，判别规定选取的PV_i分布是否都已选满？如果未选满，便执行步骤531，如果已选满，则→步骤59，表示ED模式选取工作完成，并进入程序块6中的步骤60。

上述步骤531，判别规定的选取时间160分钟到了吗？如果已达160分钟，→步骤533，如未满160分钟，则→步骤532，判别脑电信号输入完毕了吗？如输入未完毕，返回执行步骤50，重复前述步骤，如已完毕，则执行步骤533，设PV_i＝0.82，→步骤534，判别该PV_i值选取个数是否已达到规定值？如果已达到规定值，便执行步骤537；如果未达到规定值，则→步骤535，判别该PV_i值附近是否有候补ED模式？若不存在候补ED模式，便执行步骤537，若存在候补ED模式，则→步骤536，将此候补者选作ED模式，并返回执行步骤534，重复上述步骤；若在步骤535时，不存在候补ED模式，则执行步骤537，令PV_i＝PV_I+0.01，→步骤58，判别PV_i值＞0.92？，如果不大于0.92，便返回执行步骤534；若大于0.92，则→步骤59，结束ED模式选取工作，并进入

还要指出，在使用本发明时，如来了一个波，其PV_i＝0.90，这时若PV_i＝0.90的波选中的不足2个，则此波被选作ED模式，如果PV_i＝0.90的波已选取2个，这个波就暂不选取。如果上述分布中所需的波都已选出，则ED模式选取工作结束。如果病人的脑电信号已经输入完毕或者规定的选取时间已到，规定的分布仍未选满，则尽量以PV_i相近(PV_i±0.02)的波代替，如PV_i＝0.86的还缺1个，候补者中有PV_i＝0.92的、0.88的、0.85的各若干个，则挑PV_i＝0.85的一个作为ED模式，如果替代后仍不能达到规定分布的要求，则选出多少就多少、选模式仍然结束。

关于训练病人专用的人工神经网络

训练的方法是按照盖博的方法经优化而成的。ED的特征是多道同步的尖波，该波的左侧从谷底到峰顶称左枝半峰宽，右侧从峰项到谷底为右枝半峰宽，由于自发脑电的叠加作用等使峰顶位置前后略有变动，我们用平均等方法算出峰谷的位置，求出右、左枝半峰宽，再算出各ED模式的平均左、右枝半峰宽W_l和W_r间隔内第i道信号的变化量经规格化成为左、右网络的输入量P_lip和P_rip。第i道脑电信号各ED模式之间有标准差S_li和S_ri，按盖博方法可由一个ED模式算出一个非ED模式，它们具有相同的W_l和W_r，而它们的左、右子网络输入量Q_lip和Q_rip由下列公式计算而得。

       Q_lip＝P_lip-MS_li      Q_rip＝P_rip+MS_li

经我们的优化，M取值为10，上述公式中前者取减，后者取加，这些与盖博不同。

网络的训练是按照公知的前馈逆播学习算法进行的，左、右子网络各联接权重初始化为-0.3到+0.3范围内随机数。然后将各模式的网络输入量P_lip，P_rip或Q_lip，l_rip输入网络，按网络的前馈公式算出各模式的网络输出。

ED模式的希望输出值为1，非ED模式的希望输出值为0，各模式的希望输出值和实际输出值之间的差，平方后再相加即得“误差”。

“误差”是否小于误差函数予置值E。如果小于E，则训练结束。如果大于等于E，则由希望输出和实际输出的差按公知的前馈逆传播算法，修改连接权重和偏置值。其中有学习因子η和动量因子α控制修改的量，经我们实验研究E＝0.01，η＝0.01，α＝0.05使训练速度快，识别率高。

左子网络的加权系数φ经实验表明φ＝0.5效果较好。

训练病人专用的人工神经网络的子程序流程图如图5所示。

请参阅图5，它示出训练专用神经网络子程序模块的结构图，其包括步骤60，提取ED模式的特征量→步骤61，以M＝10，从每个ED模式计算出一个非ED模式→步骤62，随机化决定人工神经网络的连接权重W_ji，W_lj，偏置值θ_j，θ_l等，→步骤63，计算各ED模式和各非ED模式的网络输入量Pl和Pr→步骤64，将各模式的网络输入量输入人工神经网络，按网络的前馈公式算出各模式的网络输出，→步骤65，计算“误差”，→步骤66，判别误差≤E？如果不是，→步骤67后返回步骤64，如果是则→执行步骤68训练完成，所得的W_ji，W_lj，θ_j和θ_l，和φ构成该病人的专用人工神经网络。上述之步骤67是按公知的前馈逆传播学习算法，以η＝0.01和α＝0.05修改连接权重W_ji，W_lj和偏置值θ_j和θ_l。

还要说明的是：

1、步骤70～73参照盖博Gabor的方法，其中M为非ED模式标准差倍数经我们优化后取M＝10。

2、ED模式的理想网络输出值为1.0，非ED模式的理想网络输出值为0，各模式理想网络输出值和实际网络输出值的差再平方，再相加即为“误差”。

3、E为误差函数预置值，经优化取E＝0.01，使训练速度快，识别率高。

4、η为学习因子，α为动量因子，经优化取η＝0.01，α＝0.05使训练速度快，识别率高。

5、φ为左子网络加权导数，优化得φ＝0.5，识别率高。