基于3D卷积神经网络分割多模态MR脑部图像方法

摘要

本发明公开了一种基于3D卷积神经网络分割多模态MR脑部图像的方法，包括：获取多模态MR脑部图像数据；对获取的原始MR脑部图像数据进行预处理，得到预处理后的图像；将预处理后的图像训练3D卷积神经网络模型，提取脑部皮下组织的特征数据，3D卷积神经网络模型包括残差网络模块和空洞空间卷积池化金字塔模块；优化3D卷积神经网络模型的参数；使用训练好的3D卷积神经网络模型对测试集数据进行测试，得到MR脑部图像数据的分割结果；将分割结果进行分析和可视化，得到三维脑皮下组织图。该方法通过将残差模块和空洞空间卷积池化金字塔模块引入卷积神经网络，解决了训练费时费力，模型退化的问题，并且还提高了分割的准确性。

说明书

技术领域

本发明涉及图像分割技术领域，具体涉及一种基于3D卷积神经网络分割多模态MR脑部图像方法、系统、终端及介质。

背景技术

大脑是人体的神经中枢，控制着人的思维和情感，包含很多复杂的解剖结构，其中深层脑结构包括海马体、壳核、尾状核等等，他们的结构变化与很多脑部疾病密切相关，脑结构的体积萎缩是很多脑疾病诊断和治疗评估中常用的生物标志物之一。磁共振成像(Magnetic Resonance Image,MRI)可以对脑和神经系统等软组织进行高分辨率成像，是大脑结构分析的有效临床方法。脑磁共振成像的精确分割和定量分析，可用于脑组织和脑结构的体积测量，辅助医生对疾病进行判断及治疗。其次，还可以辅助医生进行后续的医疗、手术规划及治疗效果追踪等。然而，手动分割MR脑部图像的方法耗时耗力，大量的影像数据在给医生提供准确详细的信息以供诊断的同时，也增加了医生的任务量和视觉疲劳。因此对MR脑部图像进行自动/半自动的处理与分析，进而进行计算机辅助诊断显得尤为重要。

近年来，MR脑部图像的自动分割受到越来越多的研究者关注。迄今为止，国内外关于脑结构的分割算法研究大致可以分为以下几个方面：

基于区域的方法：该类方法主要是通过区域标记，针对平行区域中生长的像素点进行细化，主要依赖属于同一区域的体素的不同性质的相似性。

基于多图谱融合的方法：该类方法的主要思想是利用图谱原图和目标图像的相关性和图谱标签中的先验信息将加权投票的结果或者重构误差作为分类的依据，从而判断目标像素的类别。

基于形变模型的方法：该方法的中心思想是根据脑结构的大小、形状、位置等先验信息，通过手动或自动生成的轮廓不断迭代变形得到最终的分割结果。其中脑结构分割软件FIRST使用的就是将主动外观模型AAM(Active appearance model)置于贝叶斯框架内，进而寻找到最合适分割的分布模型的方法。

近几年来研究最广泛的一种方法，基于学习的方法，也称为机器学习方法，其目标是在给定输入特征的条件下来预测分割标签。传统的机器学习分割MR脑部图像方法包括支持向量机(Support Vector Machines,SVM)和AdaBoost算法等。随着计算机硬件的提升，基于深度学习(深度卷积神经网络DCNNs)的分割MR脑部图像的方法逐渐成为了机器学习中的主流。

基于深度学习的医学图像分割最早的一次突破是在细胞膜分裂领域，Ciresan等人提出了不用手工提取特征，直接对中心图像块进行分类的卷积神经网络图像分割方法。之后，Kang等人提出了一种新的神经网络结构用于人群图像分割，这种结构被叫做全卷积神经网络(FCN)，可以直接分割整张图片，而不是选取有代表性的图像块进行分割，这种结构最大的优势就是可以实现图像端到端的分割。

一般情况下，都是使用灰度值作为神经网络的输入基本特征，随着网络层数的增加，可以提取到深层次的特征，以便于判别模型的分类，但是如此一来也忽略了一些浅层的原始特征，对于一些细节就无法有效的分割，而且过多的层数存在着参数量过大，训练费时费力和梯度消失的问题，但层数过少，浅层的特征也无法很好的实现分割任务。

发明内容

针对现有技术中的缺陷，本发明实施例提供一种基于3D卷积神经网络分割多模态MR脑部图像的方法，通过将残差模块和空洞空间卷积池化金字塔模块引入卷积神经网络，解决了训练费时费力，模型退化的问题，并且还提高了分割的准确性。

第一方面，本发明实施例提供的一种基于3D卷积神经网络分割多模态MR脑部图像的方法方法，包括：

获取多模态MR脑部图像数据；

对获取的原始MR脑部图像数据进行预处理，得到预处理后的图像；

将预处理后的图像训练3D卷积神经网络模型，提取脑部皮下组织的特征数据；所述3D卷积神经网络模型包括残差网络模块和空洞空间卷积池化金字塔模块；

优化3D卷积神经网络模型的参数；

使用训练好的3D卷积神经网络模型对测试集数据进行测试，得到MR脑部图像数据的分割结果；

将所述分割结果进行分析和可视化，得到三维脑皮下组织图。

第二方面，本发明实施例提供的一种基于3D卷积神经网络分割多模态MR脑部图像的系统，包括：图像获取模块、图像预处理模块、图像分割模块和输出模块，其中，

所述图像获取模块用于获取多模态MR脑部图像数据；

所述图像预处理模块用于对获取的原始MR脑部图像数据进行预处理，得到预处理后的图像；

将预处理后的图像训练3D卷积神经网络模型，提取脑部皮下组织的特征数据；所述3D卷积神经网络模型包括残差网络模块和空洞空间卷积池化金字塔模块；

优化3D卷积神经网络模型的参数；

使用训练好的3D卷积神经网络模型对测试集数据进行测试，得到MR脑部图像数据的分割结果；

所述输出模块用于将所述分割结果进行分析和可视化，得到三维脑皮下组织图。

第三方面，本发明实施例还提供一种智能终端，包括处理器、输入设备、输出设备和存储器，所述处理器、输入设备、输出设备和存储器相互连接，所述存储器用于存储计算机程序，所述计算机程序包括程序指令，所述处理器被配置用于调用所述程序指令，执行上述实施例描述的方法。

第四方面，本发明实施例还提供一种计算机可读存储介质，所述计算机存储介质存储有计算机程序，所述计算机程序包括程序指令，所述程序指令当被处理器执行时使所述处理器执行上述实施例描述的方法。

本发明的有益效果：

本发明实施例提供的一种基于3D卷积神经网络分割多模态MR脑部图像的方法与系统，将残差模块引入卷积神经网络，解决了模型退化的问题，相比传统的卷积神经网络，其复杂度降低，加深网络的同时，也不会出现梯度弥散的问题，弥补了信息传递中信息丢失的不足；并且使用空洞卷积代替原始的卷积层，增加卷积核的感受野，减少网络训练时的参数量、降低运算复杂度；同时使用ASPP模块在不同的特征图上实现多尺度预测，提升模型的性能。

本发明实施例提供一种智能终端和介质，与上述基于3D卷积神经网络分割多模态MR脑部图像的方法出于相同的发明构思，具有相同的有益效果。

附图说明

为了更清楚地说明本发明具体实施方式或现有技术中的技术方案，下面将对具体实施方式或现有技术描述中所需要使用的附图作简单地介绍。在所有附图中，类似的元件或部分一般由类似的附图标记标识。附图中，各元件或部分并不一定按照实际的比例绘制。

图1示出了本发明第一实施例所提供的一种基于3D卷积神经网络分割多模态MR脑部图像的方法的流程图；

图2示出了本发明第一实施例中的所提供的一种基于3D卷积神经网络分割多模态MR脑部图像的方法框架图；

图3示出了本发明第一实施例中的残差网络模块的构造图；

图4示出了本发明第二实施例所提供的一种基于3D卷积神经网络分割多模态MR脑部图像的系统的结构框图；

图5示出了本发明第三实施例所提供的一种智能终端的结构框图。

具体实施方式

下面将结合本发明实施例中的附图，对本发明实施例中的技术方案进行清楚、完整地描述，显然，所描述的实施例是本发明一部分实施例，而不是全部的实施例。基于本发明中的实施例，本领域普通技术人员在没有做出创造性劳动前提下所获得的所有其他实施例，都属于本发明保护的范围。

应当理解，当在本说明书和所附权利要求书中使用时，术语“包括”和“包含”指示所描述特征、整体、步骤、操作、元素和/或组件的存在，但并不排除一个或多个其它特征、整体、步骤、操作、元素、组件和/或其集合的存在或添加。

还应当理解，在此本发明说明书中所使用的术语仅仅是出于描述特定实施例的目的而并不意在限制本发明。如在本发明说明书和所附权利要求书中所使用的那样，除非上下文清楚地指明其它情况，否则单数形式的“一”、“一个”及“该”意在包括复数形式。

还应当进一步理解，本发明说明书和所附权利要求书中使用的术语“和/或”是指相关联列出的项中的一个或多个的任何组合以及所有可能组合，并且包括这些组合。

如在本说明书和所附权利要求书中所使用的那样，术语“如果”可以依据上下文被解释为“当...时”或“一旦”或“响应于确定”或“响应于检测到”。类似地，短语“如果确定”或“如果检测到[所描述条件或事件]”可以依据上下文被解释为意指“一旦确定”或“响应于确定”或“一旦检测到[所描述条件或事件]”或“响应于检测到[所描述条件或事件]”。

需要注意的是，除非另有说明，本申请使用的技术术语或者科学术语应当为本发明所属领域技术人员所理解的通常意义。

图1示出了本发明第一实施例所提供的一种基于3D卷积神经网络分割多模态MR脑部图像的方法的流程图，该方法包括：

S1:获取多模态MR脑部图像数据；

S2:对获取的原始MR脑部图像数据进行预处理，得到预处理后的图像；

S3:将预处理后的图像训练3D卷积神经网络模型，提取脑部皮下组织的特征数据；所述3D卷积神经网络模型包括残差网络模块和空洞空间卷积池化金字塔模块；

S4:优化3D卷积神经网络模型的参数；

S5:使用训练好的3D卷积神经网络模型对测试集数据进行测试，得到MR脑部图像数据的分割结果；

S6:将所述分割结果进行分析和可视化，得到三维脑皮下组织图。

如图2所示，示出了本实施例基于3D卷积神经网络分割多模态MR脑部图像的方法的框架图，在获取多模态MR脑部图像数据后，对获取的原始MR脑部图像数据进行预处理，预处理的方法包括：对MR脑部图像数据进行去除骨头部分和刚性配准处理。通过去除骨头处理和刚性配准处理可以提高对脑部图像区域的提取。设计三维全卷积神经网络结构并进行训练。将原始MR脑部图像进行人工标注，将标注后的MR脑部图像和原始MR脑部图像输入初始化的3D卷积神经网络进行训练，可以输出准确度较高的脑部皮下组织特征图。将预处理后的图像训练3D卷积神经网络模型，提取脑部皮下组织的特征数据，进而“学习”自动分割脑组织。将脑部皮下组织的分割任务看作基于MR图像的多特征多分类问题，提取脑部皮下组织的特征；将提取到的皮下组织特征。优化3D卷积神经网络模型的参数，优化的方法是：在训练模型时，为了克服部分脑结构过小导致更新模型参数时，梯度变化剧烈导致训练困难，采用weighted cross-entropy和dice结合定义模型的目标损失函数Overall loss，将每个脑组织对于全脑的体积比的倒数作为对应脑组织在目标损失函数的权值，来克服类别不平衡问题，提高输出的准确性。目标损失函数的计算方法为：Overall loss＝Weightedcross-entropy+Dice，

其中，f

其中，将预处理后的图像训练3D卷积神经网络模型，提取脑部皮下组织的特征数据具体方法包括：采用残差网络模块对预处理后的图像进行原始特征提取，得到原始特征图；

将原始特征图输入到空洞空间卷积池化金字塔模块进行高层特征提取，得到高层特征图；

将原始特征图和高层特征图进行多尺度特征图的融合，得到融合特征图；

采用1×1×1的卷积核和3×3×3卷积核对融合特征图进行上采样，得到与输入图像尺寸相同的脑部皮下组织的特征数据。

本实施例中，3D卷积神经网络模型为结合残差网络模块和空洞空间卷积池化金字塔(atrous spatial pyramid pooling(ASPP))模块搭建“编码-解码”的卷积神经网络3DU-net。空洞空间卷积池化金字塔对所给定的输入以不同采样率的空洞卷积并行采样，相当于以多个比例捕捉图像的上下文。其中残差网络模块的构造如图3所示，在OlafRonneberger的U-net深度图像分割(2015)基础上搭建3D CNN，并且在3D U-net的每一个block中引入残差学习(Residual module)。3D U-net的网络结构可视化的结果很像一个字母U，输入原始脑部MR图像，通过网络结构后得到的是分割后的图像，该网络结构没有全连接层，只采用了卷积层，每个标准的卷积层后面都紧跟着一个Relu激活函数层。在模型的前半部分，使用池化层对数据上采样，在后半部分进行下采样。3D ResNet提取到的原始特征特征通过空洞空间卷积池化金字塔模块得到高层特征，将原始特征和高层特征进行融合，得到融合特征图，然后通过1×1×1的卷积核和3×3×3卷积核进行上采样，实现输出与出让图像尺寸相同的脑部皮下组织的特征数据，输出最终的脑区分割结果。

本实施例提供的一种基于3D卷积神经网络分割多模态MR脑部图像的方法，用于分割不同模态的MRI脑部39个颅内组织，结合了ResNet和ASPP的优点，提高了分割准确性。将残差网络模块引入卷积神经网络，解决了模型退化的问题，相比传统的卷积神经网络，其复杂度降低，加深网络的同时，也不会出现梯度弥散的问题，弥补了信息传递中信息丢失的不足；并且使用空洞卷积代替原始的卷积层，增加卷积核的感受野，减少网络训练时的参数量、降低运算复杂度；同时使用ASPP模块在不同的特征图上实现多尺度预测，提升模型的性能。

在上述的第一实施例中，提供了一种基于3D卷积神经网络分割多模态MR脑部图像的方法，与之相对应的，本申请还提供一种基于3D卷积神经网络分割多模态MR脑部图像的相同。请参考图4，其为本发明第二实施例提供的一种基于3D卷积神经网络分割多模态MR脑部图像的相同的结构示意图。由于装置实施例基本相似于方法实施例，所以描述得比较简单，相关之处参见方法实施例的部分说明即可。下述描述的装置实施例仅仅是示意性的。

如图4所示，示出了本发明第二实施例提供的一种基于3D卷积神经网络分割多模态MR脑部图像的系统的结构框图，该系统包括：图像获取模块、图像预处理模块、图像分割模块和输出模块，其中，

所述图像获取模块用于获取多模态MR脑部图像数据；

所述图像预处理模块用于对获取的原始MR脑部图像数据进行预处理，得到预处理后的图像；

将预处理后的图像训练3D卷积神经网络模型，提取脑部皮下组织的特征数据，所述3D卷积神经网络模型包括残差网络模块和空洞空间卷积池化金字塔模块；

优化3D卷积神经网络模型的参数；

使用训练好的3D卷积神经网络模型对测试集数据进行测试，得到MR脑部图像数据的分割结果；

所述输出模块用于将所述分割结果进行分析和可视化，得到三维脑皮下组织图。

其中，图像预处理模块对获取的原始MR脑部图像数据进行预处理的具体方法包括：对原始的MR脑部图像数据进行去除骨头处理和刚性配准。

其中，图像分割模块将将预处理后的图像训练3D卷积神经网络模型，提取脑部皮下组织的特征数据的具体方法包括：

采用残差网络模块对预处理后的图像进行原始特征提取，得到原始特征图；

将原始特征图输入到空洞空间卷积池化金字塔模块进行高层特征提取，得到高层特征图；

将原始特征图和高层特征图进行多尺度特征图的融合，得到融合特征图；

采用1×1×1的卷积核和3×3×3卷积核对融合特征图进行上采样，得到与输入图像尺寸相同的脑部皮下组织的特征数据。

以上，为本发明第二实施例提供的一种基于3D卷积神经网络分割多模态MR脑部图像的系统的实施例说明。

本发明提供的一种基于3D卷积神经网络分割多模态MR脑部图像的系统与上述基于3D卷积神经网络分割多模态MR脑部图像的方法出于相同的发明构思，具有相同的有益效果，此处不再赘述。

本发明第三实施例还提供一种智能终端，如图5所示，示出了智能终端的结构框图，该终端包括处理器、输入设备、输出设备和存储器，所述处理器、输入设备、输出设备和存储器相互连接，所述存储器用于存储计算机程序，所述计算机程序包括程序指令，所述处理器被配置用于调用所述程序指令，执行上述第一实施例描述的方法。

应当理解，在本发明实施例中，所称处理器可以是中央处理单元(CentralProcessing Unit，CPU)，该处理器还可以是其他通用处理器、图形处理器、数字信号处理器(Digital Signal Processor，DSP)、专用集成电路(Application Specific IntegratedCircuit，ASIC)、现成可编程门阵列(Field-Programmable Gate Array，FPGA)或者其他可编程逻辑器件、分立门或者晶体管逻辑器件、分立硬件组件等。通用处理器可以是微处理器或者该处理器也可以是任何常规的处理器等。

输入设备可以包括触控板、指纹采传感器(用于采集用户的指纹信息和指纹的方向信息)、麦克风等，输出设备可以包括显示器(LCD等)、扬声器等。

该存储器可以包括只读存储器和随机存取存储器，并向处理器提供指令和数据。存储器的一部分还可以包括非易失性随机存取存储器。例如，存储器还可以存储设备类型的信息。

具体实现中，本发明实施例中所描述的处理器、输入设备、输出设备可执行本发明实施例提供的方法实施例所描述的实现方式，也可执行本发明实施例所描述的系统实施例的实现方式，在此不再赘述。

在本发明还提供一种计算机可读存储介质的实施例，所述计算机存储介质存储有计算机程序，所述计算机程序包括程序指令，所述程序指令当被处理器执行时使所述处理器执行上述第一实施例描述的方法。

所述计算机可读存储介质可以是前述实施例所述的终端的内部存储单元，例如终端的硬盘或内存。所述计算机可读存储介质也可以是所述终端的外部存储设备，例如所述终端上配备的插接式硬盘，智能存储卡(Smart Media Card,SMC)，安全数字(SecureDigital,SD)卡，闪存卡(Flash Card)等。进一步地，所述计算机可读存储介质还可以既包括所述终端的内部存储单元也包括外部存储设备。所述计算机可读存储介质用于存储所述计算机程序以及所述终端所需的其他程序和数据。所述计算机可读存储介质还可以用于暂时地存储已经输出或者将要输出的数据。

本领域普通技术人员可以意识到，结合本文中所公开的实施例描述的各示例的单元及算法步骤，能够以电子硬件、计算机软件或者二者的结合来实现，为了清楚地说明硬件和软件的可互换性，在上述说明中已经按照功能一般性地描述了各示例的组成及步骤。这些功能究竟以硬件还是软件方式来执行，取决于技术方案的特定应用和设计约束条件。专业技术人员可以对每个特定的应用来使用不同方法来实现所描述的功能，但是这种实现不应认为超出本发明的范围。

所属领域的技术人员可以清楚地了解到，为了描述的方便和简洁，上述描述的终端和单元的具体工作过程，可以参考前述方法实施例中的对应过程，在此不再赘述。

在本申请所提供的几个实施例中，应该理解到，所揭露终端和方法，可以通过其它的方式实现。例如，以上所描述的装置实施例仅仅是示意性的，例如，所述单元的划分，仅仅为一种逻辑功能划分，实际实现时可以有另外的划分方式，例如多个单元或组件可以结合或者可以集成到另一个系统，或一些特征可以忽略，或不执行。另外，所显示或讨论的相互之间的耦合或直接耦合或通信连接可以是通过一些接口、装置或单元的间接耦合或通信连接，也可以是电的，机械的或其它的形式连接。

最后应说明的是：以上各实施例仅用以说明本发明的技术方案，而非对其限制；尽管参照前述各实施例对本发明进行了详细的说明，本领域的普通技术人员应当理解：其依然可以对前述各实施例所记载的技术方案进行修改，或者对其中部分或者全部技术特征进行等同替换；而这些修改或者替换，并不使相应技术方案的本质脱离本发明各实施例技术方案的范围，其均应涵盖在本发明的权利要求和说明书的范围当中。