首页> 中国专利> 一种迁移学习克服小样本算法及其在揭秘人脑中科研应用

一种迁移学习克服小样本算法及其在揭秘人脑中科研应用

摘要

一种迁移学习克服小样本算法及其在揭秘人脑中科研应用,首先对高维小样本fMRI数据进行预处理,构建脑功能连接体;其次通过设计深度迁移学习模型实现了fMRI小样本数据的高精度二分类,并预测脑区划分方式;最后通过mask法反向研究了对于人脑改变决策相关的人脑脑部感兴趣区域ROI,即Region of Interest。本发明的目的是提供一种深度迁移学习模型用来解决fMRI数据高维小样本难以训练分类的问题,从而实现fMRI数据的高精度分类,并通过深度迁移学习模型确定对脑功能连接的构建方法,进而可以应用于分析得出与人脑改变决策相关的脑部感兴趣区域这类研究方法。

著录项

  • 公开/公告号CN115661512A

    专利类型发明专利

  • 公开/公告日2023-01-31

    原文格式PDF

  • 申请/专利权人 同济大学;

    申请/专利号CN202211236113.2

  • 发明设计人 桂任舟;闫健;

    申请日2022-10-10

  • 分类号G06V10/764;G06V10/20;G06V10/25;G06V10/774;G06V10/82;G06N3/047;G06N3/048;G06N3/084;G06N3/096;

  • 代理机构上海科律专利代理事务所(特殊普通合伙);

  • 代理人范艳静

  • 地址 200092 上海市杨浦区四平路1239号

  • 入库时间 2023-06-19 18:27:32

法律信息

  • 法律状态公告日

    法律状态信息

    法律状态

  • 2023-01-31

    公开

    发明专利申请公布

说明书

技术领域

本发明属于脑科学和类脑研究领域,特别涉及在功能核磁共振成像数据进行分类以及在此基础上对大脑进行解码分析的算法技术。

背景技术

人的大脑是一个构造非常复杂的生物组织,是人类情感、思维、认知、行为、情绪等产生的来源,对人脑的功能和结构研究一直是非常前沿和挑战性的研究方向。在人脑改变决定的机理研究上,一些学者从心理物理学、计算机建模,和随机理论的角度讨论决策不确定性和人脑做决定的机制,这些主要为为偏理论研究。目前神经成像技术被广泛的运用于人脑解码研究中,常用的手段有脑电图(electroencephalogram,EEG)和磁共振成像(Magnetic Resonance Imaging,MRI),EEG是通过电极来记录下人脑的细胞的节律性活动,缺点是空间分辨率低,无法很好地测量发生在大脑上层(皮层)以下神经活动。而MRI原理是利用原子核在强磁场中产生的共振信号来对人脑结构进行成像,它不会产生伪影,可以产生高分辨率的图像、对人体没有辐射等诸多优点成为医学影像学中非常优异的观察手段。磁共振成像(Magnetic Resonance Imaging,MRI)技术为我们揭开人脑的奥秘奠定了坚实的技术基础。例如人脑结构磁共振成像(Structural Magnetic Resonance Imaging,sMRI)可以用来反映人脑结构上的特点与变化,而功能磁共振成像(Functional MagneticResonance Imaging,fMRI)则能够反映人脑的功能活动模式。功能磁共振是一种通过检测低频率血氧水平依赖(BOLD)信号来测量大脑活动的程序,帮助人们更好地理解人脑的思维模式和活动规律。

目前fMRI存在数据量较少的特点,在fMRI数据的分类、特征提取上,很多传统机器学习方法如支持向量机(Support Vector Machine,SVM)、逻辑回归(LogisticRegression,LR)等能成功实现。比如:美国南加州大学Garner等人在《A Machine LearningModel to Predict Seizure Susceptibility from Resting-State fMRI Connectivity》介绍利用静息状态功能磁共振成像(fMRI)数据训练支持向量机来预测癫痫的发作结果,经过100轮分层交叉验证,结果表明模型在测试集评估癫痫发作结果的准确率为69%。美国英特尔Turek等人《A semi-supervised method for multi-subject fMRI functionalalignment》中提出了一个半监督方案,同时学习对准和执行分析,使用多项逻辑回归进行fMRI数据分类,该方法的平均分类准确率为68.5%。逻辑回归方法在fMRI数据分类的效率较高,但是准确性还有待提升。但随着近年来的发展,传统的机器学习算法在日益复杂的数据和任务需求下显得越来越吃力。近年来,深度学习发展的势头猛烈。但目前发展深度学习方法用于fMRI数据分析面临的主要问题是训练方法使用的数据量较少。因此,小样本的研究可能会导致明显的过拟合问题。随着样本数量的增加,训练方法可能需要更多的时间,训练时间越长,就越难以进行深入细致的参数调整工作,从而阻碍了方法性能的提高。

发明内容

发明目的

本发明的目的是提供一种深度迁移学习模型用来解决fMRI数据高维小样本难以训练分类的问题,从而实现fMRI数据的高精度分类,并通过深度迁移学习模型确定对脑功能连接的构建方法,进而可以应用于分析得出与人脑改变决策相关的脑部感兴趣区域这类研究方法。

技术方案

一种迁移学习克服小样本算法及其在揭秘人脑中应用,其特征,过程为:

首先对高维小样本fMRI数据进行预处理,构建脑功能连接体;

其次通过设计深度迁移学习模型实现了fMRI小样本数据的高精度二分类,并预测脑区划分方式;

最后通过mask法反向研究了对于人脑改变决策相关的人脑脑部感兴趣区域(Region of Interest,ROI)。

所述预处理为将fMRI功能图像的内容定位在有着更高的空间分辨率的结构图像上,预处理方法有受试者头动调整和矫正、将图像归一化至坐标系、间片矫正、异常扫描识别擦洗、图像配准和标准化、高斯核平滑等。

所述构建脑功能连接体步骤为:对fMRI数据预处理完成之后,对脑的三维图像进行区域划分感兴趣区域(ROI),并时间序列提取就是将四维数据转为的二维矩阵,用皮尔森系数来衡量两个ROI之间的功能连接关系,用偏相关系数来表示两个ROI之间的连接通过其他的ROI间接产生。将所有ROI两两的相关系数计算得出相关矩阵,即功能连接矩阵R,用于输入深度迁移学习阶段的预训练模型。

其中,n表示的是ROI的数量,r

所述深度迁移学习为选取AlexNet作为预训练模型,采用的是基于网络的迁移方法,目标是利用AlexNet网络在ImageNet数据集上学到的特征知识来帮助完成fMRI数据集在人脑改变决策任务上进行二分类。首先加载预训练模型和参数,除了最后一个阶段fc8以外所有网络层的架构和参数都被冻结,而将最后fc8的三层替换成新三层——全连接层、Softmax层、分类层,当模型在反向传播时只训练这个新三层的fc8,并更新分类器的参数,其中网络采用了常用的ReLU激活函数(f(x)=max(0,x)),损失函数采用了交叉熵损失函数(

所述的mask法反向研究了对于人脑改变决策相关的RIO就是将脑区划分得到ROI矩阵和mask矩阵与点乘,即可获得对应ROI之间的连接强弱关系,其中mask矩阵就是只包含0和1组成矩阵。进行mask操作后新的ROI相关系数矩阵作为模型的输入,输入深度迁移模型进行训练,根据不同区域训练后分类精度的贡献度,从而推出哪些ROI是对人脑改变决策的影响程度大小,进而推出控制人脑改变决策的可能主要区域。

技术效果

利用功能磁共振成像(functional MRI,fMRI)数据来对大脑进行解码是当前的研究热点,目前对于fMRI数据的分类存在着一些难题,这是由于fMRI数据具有的高维小样本的特点,使用传统的机器学习方法得到分类准确率不高,使用深度学习模型对fMRI数据进行训练也会存在过拟合等问题。针对该问题,本发明提出一种迁移学习算法克服fMRI数据小样本分类准确率不高的难点,分类精度达到92.1%。同时通过对fMRI数据进行头动校正等预处理,划分脑部感兴趣区域(Region of Interest,ROI)相关矩阵建立脑功能连接,在此迁移学习基础上使用了Mask法可以预测出与人脑改变决策相关的ROI集群。

附图说明

图1本发明具体实施方式示意图

图2分析对于人脑改变决策相关的人脑脑部感兴趣区域过程示意图

图3深度迁移学习模型学习过程示意图

图4深度迁移学习模型训练的正确率acc图

图5深度迁移学习模型训练的损失函数loss图

图6选取ROI集群示意图

图7不同ROI cluster在分类中的准确度图

具体实施方式

以下结合附图和实施例进一步介绍本发明技术方案。

如图1所示,过程可以按照如下方式介绍:

首先对高维小样本fMRI数据进行预处理,构建脑功能连接体;其次通过设计深度迁移学习模型实现了fMRI小样本数据的高精度二分类,并确定脑区划分方式;最后构建优化功能连接体通过mask法得到数据输入这个深度迁移学习模块后,反向研究了对于人脑改变决策相关的人脑脑部感兴趣区域(Region of Interest,ROI),如图2所示。

所述预处理主要为将fMRI功能图像的内容定位在有着更高的空间分辨率的结构图像上,预处理方法有受试者头动调整和矫正、将图像归一化至坐标系、间片矫正、异常扫描识别擦洗、图像配准和标准化、高斯核平滑等。

所述的构建脑功能连接体主要步骤为对fMRI数据预处理完成之后,对脑的三维图像进行区域划分感兴趣区域(ROI),并时间序列提取就是将四维数据转为的二维矩阵,用皮尔森系数来衡量两个ROI之间的功能连接关系,用偏相关系数来表示两个ROI之间的连接通过其他的ROI间接产生。将所有ROI两两的相关系数计算得出相关矩阵,即功能连接矩阵R。

其中,n表示的是ROI的数量,r

所述深度迁移学习为选取AlexNet作为预训练模型,采用的是基于网络的迁移方法,目标是利用AlexNet网络在ImageNet数据集上学到的特征知识来帮助完成fMRI数据集在人脑改变决策任务上进行二分类。首先加载预训练模型和参数,除了最后一个阶段fc8以外所有网络层的架构和参数都被冻结,而最后fc8的三层换成新层——全连接层、Softmax层、分类层,当模型在反向传播时只训练这个新的fc8,并更新分类器的参数,其中网络采用了常用的ReLU激活函数(f(x)=max(0,x)),损失函数采用了交叉熵损失函数(

所述构建优化功能连接体通过mask法得到数据就是对于人脑改变决策相关的RIO就是通过POWER方式将脑区划分得到ROI矩阵和mask矩阵与点乘,即可获得对应ROI之间的连接强弱关系,其中mask矩阵就是只包含0和1组成矩阵。进行mask操作后新的ROI相关系数矩阵作为模型的输入,输入深度迁移模型进行训练,根据不同区域训练后分类精度贡献度,从而推出哪些ROI是对人脑改变决策的影响程度大小,进而推出控制人脑改变决策的可能主要区域。

实施例

实验通过采样32个受试者进行了4次随机点预测task实验生成的小样本fMRI数据,小样本数据经过预处理后生成共128个大小为264×264的ROI相关性矩阵。70%的数据作为训练集数据,30%作为测试集数据。小样本里男性样本为60人,女性样本68人。Softmax层输出对应的连接矩阵二分类的概率,分类标签为男性受试者和女性受试者。使用基于AlexNet的深度迁移模型进行训练,学习率为0.0001,每次训练小块为10,epoch为30,迭代次数270次。经过150个iteration之后逐渐收敛,模型的准确率Accuracy和损失值Loss逐渐趋于平稳,并且变化趋势趋同,最终得出基于AlexNet的深度迁移学习模型准确率高达92.11%。图4和图5为模型训练的正确率acc和损失函数loss变化。这是在fMRI数据分类的领域,处于一个很高的准确率。

将上述用POWER264的脑区划分得到原始的264×264ROI相关矩阵,经过门限法优化后分成13个ROI集群(Cluster),每个Cluster包含了20个ROI,进而可以将264×264的ROI相关矩阵分为169个20×20小区域,每个小区域代表的是该区域中包含的ROI集群中的ROI之间的连接的强弱,如图6所示。通过ROI矩阵和mask矩阵与内积获得对应ROI之间的新的连接强弱关系矩阵。将这个矩阵作为模型的输入并调整相关矩阵大小,在上述基于AlexNet的深度迁移的模型上进行训练,学习率设置为0.0001,每次训练小块为10,epoch为30,迭代次数270次。以此得到169组的相关矩阵数据分类精度,如图7所示,找出分类结果比较好的ROICluster,比如最好的为Cluster10,列出Cluster10包含的20个ROI名称,最终查出大部分区域是脑部的顶叶,额叶,从而推断出大脑的顶叶、额叶与人脑改变决策可能具有很大的相关性。

去获取专利,查看全文>

相似文献

  • 专利
  • 中文文献
  • 外文文献
获取专利

客服邮箱:kefu@zhangqiaokeyan.com

京公网安备:11010802029741号 ICP备案号:京ICP备15016152号-6 六维联合信息科技 (北京) 有限公司©版权所有
  • 客服微信

  • 服务号