首页> 中国专利> 慢阻肺的分级方法及装置、电子设备和存储介质

慢阻肺的分级方法及装置、电子设备和存储介质

摘要

本公开涉及一种慢阻肺的分级方法及装置、电子设备和存储介质。所述的慢阻肺的分级方法,包括:获取肺实质图像对应的影像组学特征;基于肺实质图像对应的分级标签,对所述影像组学特征进行选择,得到选择的影像组学特征;并确定所述影像组学特征的数目;利用所述影像组学特征生成影像组学特征图,对所述影像组学特征图进行卷积操作,得到所述数目的卷积特征;对所述影像组学特征及所述卷积特征进行融合操作,得到融合特征;根据所述融合特征,确定图卷积网络的风险因素特征;对所述风险因素特征及所述融合特征进行拼接操作,得到拼接特征;基于所述图卷积网络,利用所述拼接特征实现慢阻肺的分级。本公开实施例可提升慢阻肺分级的准确性。

著录项

  • 公开/公告号CN114972200A

    专利类型发明专利

  • 公开/公告日2022-08-30

    原文格式PDF

  • 申请/专利权人 深圳技术大学;东北大学;

    申请/专利号CN202210468598.1

  • 申请日2022-04-29

  • 分类号G06T7/00(2017.01);G06T7/11(2017.01);G06V10/77(2022.01);G06V10/80(2022.01);G06V10/82(2022.01);G06N3/04(2006.01);G06N3/08(2006.01);

  • 代理机构北京中强智尚知识产权代理有限公司 11448;

  • 代理人吕梦雪

  • 地址 518000 广东省深圳市坪山区石井街道兰田路3002路

  • 入库时间 2023-06-19 16:36:32

法律信息

  • 法律状态公告日

    法律状态信息

    法律状态

  • 2022-09-16

    实质审查的生效 IPC(主分类):G06T 7/00 专利申请号:2022104685981 申请日:20220429

    实质审查的生效

说明书

技术领域

本公开涉及医学图像处理技术领域,尤其涉及一种慢阻肺的分级方法及装置、电子设备和存储介质。

背景技术

作为一种常见的非感染性肺部疾病,慢性阻塞性肺病(慢阻肺,COPD)是一种可预防、可治疗和进行性进展的慢性疾病,伴有以持续气流受限为特征的使人衰弱的肺部疾病。由于这一特征,根据美国胸科学会和欧洲呼吸学会接受的全球慢性阻塞性肺疾病倡议(GOLD)标准,COPD分级为0至IV期[4]。GOLD标准中的评估参数是1秒用力呼气量/用力肺活量(FEV1/FVC)和FEV1%预测值。预测的FEV1/FVC和FEV1%可以解释COPD患者症状和生活质量的影响,但不能反映COPD患者肺组织随COPD分期演变的变化。FEV1/FVC和FEV1%预测的变化仅在肺组织破坏到一定程度时才会发生。然而,通过GOLD标准确定COPD的病因也具有挑战性。与GOLD标准和其他成像设备相比,计算机断层扫描(CT)被认为是表征和量化COPD的最有效方式。例如,胸部CT图像可以表明患者患有轻度小叶中央性肺气肿,并且吸烟者的运动耐量下降,而没有气流限制。此外,胸部CT图像还可以定量分析COPD患者的支气管、气道疾病、肺气肿和血管。然而,支气管和血管的定量分析受到CT分辨率的限制。因此,从胸部CT图像中自动、半自动或手动分割微小气管(小气道)和血管具有挑战性。特别是胸部CT图像几乎看不到小气道(直径<2mm)及相关血管。基于上述,提出了参数响应映射(PRM)来定位小气道病变区域、肺气肿区域和健康肺区域。然而,PRM需要呼气和吸气胸部CT图像的配准。然后,通过设定的阈值定位商场气道病变区域、肺气肿区域和健康肺区域。因此,配准方法的好坏直接影响到上述区域的位置。同时,设置阈值也是一个有争议的问题。COPD的影像组学特征比其他肺部疾病(如肺癌和肺结节)发展得慢。直到2020年,参考文献指出COPD的放射组学特征尚未得到广泛研究。尽管如此,影像组学特征在COPD的诊断、治疗和随访以及未来方向方面仍有潜在应用。限制COPD放射组学特征发展的一个关键原因是其在肺部的扩散分布。同时,需要从胸部CT图像的感兴趣区域(ROI)中提取放射组学特征。然而,COPD的扩散分布使得难以确定ROI。从胸部CT图像中提取的外周气道、肺实质和肺血管的肺影像组学特征适合反映COPD患者肺组织随COPD分期演变的变化。COPD的特征性病理变化存在于中央气道(气管、支气管、内径大于2-4mm的细支气管)、外周气道(内径小于2mm的细支气管和细支气管)、肺实质和肺血管。具体而言,慢性炎症导致气道壁的反复循环和修复过程,随着COPD阶段的演变,导致外周气道狭窄气道和气道阻塞。此外,COPD患者肺实质的破坏涉及呼吸细支气管的扩张和塌陷。随着COPD阶段的演变,这种呼吸性细支气管的扩张和塌陷从肺上部扩散到全肺,肺毛细血管床被破坏。在早期COPD阶段,肺血管的变化以血管壁增厚为特征。随着COPD的不断发展,平滑肌、蛋白多糖和胶原蛋白的增加进一步使肺血管壁增厚,这可能导致肺心病。因此,COPD是外周气道、肺实质和肺血管共同作用的结果。

综上,本公开旨在充分挖掘影像组学特征,进一步利用影像组学特征对COPD进行分级,进而推进影像组学特征在COPD分级的临床应用。

发明内容

本公开提出了一种慢阻肺的分级方法及装置、电子设备和存储介质技术方案。

根据本公开的一方面,提供了一种慢阻肺的分级方法,包括:

获取肺实质图像对应的影像组学特征;基于肺实质图像对应的分级标签,对所述影像组学特征进行选择,得到选择的影像组学特征;并确定所述影像组学特征的数目;

利用所述影像组学特征生成影像组学特征图,对所述影像组学特征图进行卷积操作,得到所述数目的卷积特征;

对所述影像组学特征及所述卷积特征进行融合操作,得到融合特征;根据所述融合特征,确定图卷积网络的风险因素特征;对所述风险因素特征及所述融合特征进行拼接操作,得到拼接特征;

基于所述图卷积网络,利用所述拼接特征实现慢阻肺的分级。

优选地,所述基于所述图卷积网络,利用所述拼接特征实现慢阻肺的分级的方法,包括:

获取所述图卷积网络的节点数目;

基于所述拼接特征的风险因素特征,得到所述风险因素特征的数目对应的子边缘约束矩阵;并对所述子边缘约束矩阵进行融合,得到边缘约束矩阵;

基于所述节点数目对应的拼接特征的融合特征,得到三维差值矩阵;并对所述三维差值矩阵进行卷积操作,得到边缘权重矩阵;

基于所述边缘约束矩阵及边缘权重矩阵得到邻接矩阵;利用所述邻接矩阵及所述拼接特征实现慢阻肺的分级。

优选地,所述基于所述拼接特征的风险因素特征,得到所述风险因素特征的数目对应的子边缘约束矩阵的方法,包括:

将每个所述拼接特征的风险因素特征进行列排列,得到所述风险因素特征数目个风险因素特征向量;

分别以每个风险因素特征向量的一个特征为基础特征,每个风险因素特征向量的所有特征与所述基础特征进行元素级的差值操作,得到所述风险因素特征的数目对应的子边缘约束矩阵;

以及/或,

所述对所述子边缘约束矩阵进行融合,得到边缘约束矩阵的方法,包括:对所述子边缘约束矩阵进行对应元素相加操作,得到边缘约束矩阵。

优选地,所述基于所述节点数目对应的拼接特征的融合特征,得到三维差值矩阵的方法,包括:

将每个所述拼接特征的融合特征进行列排列,得到融合特征向量;

将所述数目的融合特征向量进行复制后,并进行拼接操作,得到三维特征;并对所述三维特征进行转置操作,得到转置三维特征;将所述三维特征及所述转置三维特征进行元素级的差值操作,得到三维差值矩阵;

以及/或,所述对所述三维差值矩阵进行卷积操作,得到边缘权重矩阵的方法,包括:

利用大于1×1的卷积核,对所述三维差值矩阵进行上采样操作,得到上采样特征图;

利用大于1×1的卷积核,对上采样特征图进行下采样操作,得到边缘权重矩阵;

以及/或,所述基于所述边缘约束矩阵及边缘权重矩阵得到邻接矩阵的方法,包括:

将所述边缘约束矩阵及边缘权重矩阵进行元素级的相乘,得到邻接矩阵;

以及/或,所述基于所述图卷积网络,利用所述邻接矩阵及所述拼接特征实现慢阻肺的分级的方法,包括:

将所述邻接矩阵及所述拼接特征进行矩阵乘法操作,得到邻接特征矩阵;

所述邻接特征矩阵经过全连接层,得到邻接特征向量;并将所述邻接特征与所述拼接特征进行拼接,得到分类向量;并利用所述分类向量进行慢阻肺的分级。

优选地,所述利用所述影像组学特征生成影像组学特征图的方法,包括:

确定所述影像组学特征数目M;

对所述影像组学特征按照设定的方式进行排列,生成M×M的影像组学特征图。

优选地,对所述影像组学特征图进行卷积操作,得到所述数目的卷积特征的方法,包括:

获取迁移卷积模型;

利用所述迁移卷积模型对所述影像组学特征图进行卷积操作,得到所述数目的卷积特征。

优选地,对所述影像组学特征图进行卷积操作,得到所述数目的卷积特征的方法,包括:

构建卷积网络,并训练所述卷积网络;

基于所述训练的卷积网络对所述影像组学特征图进行卷积操作,得到所述数目的卷积特征。

根据本公开的一方面,提供了一种慢阻肺的分级装置,包括:

第一特征确定单元,用于获取肺实质图像对应的影像组学特征;基于肺实质图像对应的分级标签,对所述影像组学特征进行选择,得到选择的影像组学特征;并确定所述影像组学特征的数目;

第二特征确定单元,用于利用所述影像组学特征生成影像组学特征图,对所述影像组学特征图进行卷积操作,得到所述数目的卷积特征;

第三特征确定单元,用于对所述影像组学特征及所述卷积特征进行融合操作,得到融合特征;根据所述融合特征,确定图卷积网络的风险因素特征;对所述风险因素特征及所述融合特征进行拼接操作,得到拼接特征;

分类单元,用于基于所述图卷积网络,利用所述拼接特征实现慢阻肺的分级。

根据本公开的一方面,提供了一种电子设备,包括:

处理器;

用于存储处理器可执行指令的存储器;

其中,所述处理器被配置为:执行上述慢阻肺的分级方法。

根据本公开的一方面,提供了一种计算机可读存储介质,其上存储有计算机程序指令,所述计算机程序指令被处理器执行时实现上述慢阻肺的分级方法。

在本公开实施例中,将局部的影像组学特征(选择的影像组学特征)与影像组学特征图对应的全局影像组学特征(卷积特征)进行融合操作,得到融合特征,进而根据所述融合特征,确定图卷积网络的风险因素特征;对所述风险因素特征及所述融合特征进行拼接操作,得到拼接特征;基于所述图卷积网络,利用所述拼接特征实现慢阻肺的分级。充分地挖掘影像组学特征,进一步利用影像组学特征对COPD进行分级,进而推进影像组学特征在COPD分级的临床应用。

应当理解的是,以上的一般描述和后文的细节描述仅是示例性和解释性的,而非限制本公开。

根据下面参考附图对示例性实施例的详细说明,本公开的其它特征及方面将变得清楚。

附图说明

此处的附图被并入说明书中并构成本说明书的一部分,这些附图示出了符合本公开的实施例,并与说明书一起用于说明本公开的技术方案。

图1示出根据本公开实施例的慢阻肺的分级方法的流程图;

图2示出根据本公开实施例的构建卷积网络结构示意图;

图3示出根据本公开实施例的图卷积网络结构示意图;

图4示出根据本公开实施例提出的三维差值矩阵进行卷积操作的卷积网络结构示意图;

图5是根据一示例性实施例示出的一种电子设备800的框图;

图6是根据一示例性实施例示出的一种电子设备1900的框图。

具体实施方式

以下将参考附图详细说明本公开的各种示例性实施例、特征和方面。附图中相同的附图标记表示功能相同或相似的元件。尽管在附图中示出了实施例的各种方面,但是除非特别指出,不必按比例绘制附图。

在这里专用的词“示例性”意为“用作例子、实施例或说明性”。这里作为“示例性”所说明的任何实施例不必解释为优于或好于其它实施例。

本文中术语“和/或”,仅仅是一种描述关联对象的关联关系,表示可以存在三种关系,例如,A和/或B,可以表示:单独存在A,同时存在A和B,单独存在B这三种情况。另外,本文中术语“至少一种”表示多种中的任意一种或多种中的至少两种的任意组合,例如,包括A、B、C中的至少一种,可以表示包括从A、B和C构成的集合中选择的任意一个或多个元素。

另外,为了更好地说明本公开,在下文的具体实施方式中给出了众多的具体细节。本领域技术人员应当理解,没有某些具体细节,本公开同样可以实施。在一些实例中,对于本领域技术人员熟知的方法、手段、元件和电路未作详细描述,以便于凸显本公开的主旨。

可以理解,本公开提及的上述各个方法实施例,在不违背原理逻辑的情况下,均可以彼此相互结合形成结合后的实施例,限于篇幅,本公开不再赘述。

此外,本公开还提供了慢阻肺的分级装置、电子设备、计算机可读存储介质、程序,上述均可用来实现本公开提供的任一种慢阻肺的分级方法,相应技术方案和描述和参见方法部分的相应记载,不再赘述。

图1示出根据本公开实施例的慢阻肺的分级方法的流程图,如图1所示,所述慢阻肺的分级方法,包括:步骤S101:获取肺实质图像对应的影像组学特征;基于肺实质图像对应的分级标签,对所述影像组学特征进行选择,得到选择的影像组学特征;并确定所述影像组学特征的数目;步骤S102:利用所述影像组学特征生成影像组学特征图,对所述影像组学特征图进行卷积操作,得到所述数目的卷积特征;步骤S103:对所述影像组学特征及所述卷积特征进行融合操作,得到融合特征;根据所述融合特征,确定图卷积网络的风险因素特征;对所述风险因素特征及所述融合特征进行拼接操作,得到拼接特征;步骤S104:基于所述图卷积网络,利用所述拼接特征实现慢阻肺的分级。区别于现有技术,本公开将局部的影像组学特征(选择的影像组学特征)与影像组学特征图对应的全局影像组学特征(卷积特征)进行融合操作,得到融合特征,进而根据所述融合特征,确定图卷积网络的风险因素特征;对所述风险因素特征及所述融合特征进行拼接操作,得到拼接特征;基于所述图卷积网络,利用所述拼接特征实现慢阻肺的分级。充分地挖掘影像组学特征,进一步利用影像组学特征对COPD进行分级,进而推进影像组学特征在COPD分级的临床应用。

步骤S101:获取肺实质图像对应的影像组学特征;基于肺实质图像对应的分级标签,对所述影像组学特征进行选择,得到选择的影像组学特征;并确定所述影像组学特征的数目。

在本公开的实施例及其他可能实施例中,首先获取待处理的肺图像,此处的待处理的肺图像可以从影像设备,如CT机,得到的层扫描数据。所述待处理的肺图像可为CT图像。同时,所述待处理的肺图像还可以为MRI肺图像或CT-PET肺图像等,本领域人员可根据需要选择合适的肺图像。

在本公开的实施例中,所述对所述待处理的肺图像进行肺区域分割,得到肺区域对应的肺实质图像的方法,包括:获取预设肺区域分割模型;基于所述预设肺区域分割模型,对所述待处理的肺图像进行肺区域分割,得到肺实质图像。其中,肺实质图像包括:左肺及右肺对应的肺实质。所述预设肺区域分割模型可选择已经训练好的U-net神经网络或ResU-Net神经网络。其中,在本公开的实施例及其他可能的实施例中的肺实质,包括外周气道和肺血管。

在本公开的实施例及其他可能实施例中,在获取肺实质图像对应的影像组学特征之前,提取所述肺实质图像的组学特征,提取所述肺实质图像的组学特征可通过预设的影像组学特征提取模型实现,预设的影像组学特征提取模型为现有的影像组学计算模型,可以通过网址https://pyradiomics.readthedocs.io/en/latest/index.html得到,再此不在对预设的影像组学特征提取模型进行详细说明。

在本公开的实施例及其他可能实施例中,基于肺实质图像对应的分级标签,对所述影像组学特征进行选择,得到选择的影像组学特征的方法中,使用Lasso模型,基于肺实质图像对应的分级标签,对所述影像组学特征进行选择,得到选择的影像组学特征。所述特征选择模型还可以选择主成分分析(PCA)或其他现有的特征选择模型,本公开不对特征选择模型的类型或种类进行限制。Lasso模型的具体数学表达式,可详见我们所公开的文章的详细说明,例如Early COPD risk decision for adults aged from 40to 79years basedon lung radiomics features。其中,分级或分级标签为0至IV期,0期表示未患慢阻肺。

在本公开的实施例及其他可能实施例中,肺实质图像对应的影像组学特征的数目为1316个;基于肺实质图像对应的分级标签,对所述影像组学特征进行选择,得到选择的影像组学特征的数目为106个。

步骤S102:利用所述影像组学特征生成影像组学特征图,对所述影像组学特征图进行卷积操作,得到所述数目的卷积特征。

在本公开中,区别于现有技术,所述利用所述影像组学特征生成影像组学特征图的方法,包括:确定所述影像组学特征数目M;对所述影像组学特征按照设定的方式进行排列,生成M×M的影像组学特征图。

在本公开的实施例及其他可能实施例中,所述对所述影像组学特征按照设定的方式进行排列,生成M×M的影像组学特征图的方法,包括:将所述影像组学特征的M个特征元素作为第一行的影像组学特征向量;下一行的影像组学特征向量,均对上一行的影像组学特征向量向右进行移位,最后一个特征元素作为此行的第一位特征元素;最后,生成M×M的影像组学特征图。

例如,所述影像组学特征为[1,2,3,4],所述影像组学特征的数目为4,第一行的影像组学特征向量为[1,2,3,4],则第二行的影像组学特征向量为[4,1,2,3],第三行的影像组学特征向量为[3,4,1,2,],第三行的影像组学特征向量为[2,3,4,1];最终,生成4×4影像组学特征图,所述4×4影像组学特征图的第一行至第四行分别为[1,2,3,4]、[4,1,2,3]、[3,4,1,2,]及[2,3,4,1]。

在本公开的实施例及其他可能实施例中,通过上述方法,所述影像组学特征数目1316对应的影像组学特征图尺寸为1316×1316。

在本公开中,对所述影像组学特征图进行卷积操作,得到所述数目的卷积特征的方法,包括:获取迁移卷积模型;利用所述迁移卷积模型对所述影像组学特征图进行卷积操作,得到所述数目的卷积特征。

在本公开的实施例及其他可能实施例中,迁移卷积模型可以选择文章Med3d:Transfer learning for 3d medical image analysis.(Chen,S.,K.Ma and Y.Zheng)提出的分割模型,然而只需采用分割模型其中的编码结构3DResNet10或3D ResNet18或3DResNet34对所述影像组学特征图进行卷积操作,得到所述数目的卷积特征。

图2示出根据本公开实施例的构建卷积网络结构示意图。如图2所示,所述构建的卷积网络,包括:第一卷积层Cov1(1,64,7,3,1)、第二卷积层Cov2(64,32,5,2,0)、第三卷积层Cov3(32,16,3,1,0)、第四卷积层Cov4(16,8,3,1,0)、第五卷积层Cov5(8,1,2,1,0)、池化层Pool(3,2,0)、第一全连接层FC1(11236,106)及第二全连接层FC2(106,4)。

图2所构建的卷积网络在训练时,保留第二全连接层FC2(106,4);当基于所述训练的卷积网络对所述影像组学特征图进行卷积操作得到所述数目的卷积特征时,删除第二全连接层FC2(106,4)。

以构建的卷积网络在训练时为例,对图2进行详细说明,所述影像组学特征图为1个特征图,所述影像组学特征图利用7×7的卷积核进行卷积,步长为3,并进行补边padding处理后,得到64个特征图;64个特征图个特征图利用5×5的卷积核进行卷积,步长为2,不进行补边padding处理后,得到32个特征图;32个特征图个特征图利用3×3的卷积核进行卷积,步长为1,不进行补边padding处理后,得到16个特征图;16个特征图个特征图利用3×3的卷积核进行卷积,步长为1,不进行补边padding处理后,得到8个特征图;8个特征图个特征图利用2×2的卷积核进行卷积,步长为1,不进行补边padding处理后,得到1个特征图;1个特征图进行3×3步长为2,步长为1的池化操作后,得到特征数目为11236的池化特征向量;特征数目为11236的池化特征向量经过第一全连接层FC1后得到106个特征向量;106个特征向量经过第二全连接层FC2后,得到4个特征向量。其中,本领人员可根据实际需要选择训练过程中使用的损失函数。

步骤S103:对所述影像组学特征及所述卷积特征进行融合操作,得到融合特征;根据所述融合特征,确定图卷积网络的风险因素特征;对所述风险因素特征及所述融合特征进行拼接操作,得到拼接特征。

对所述影像组学特征及所述卷积特征进行融合操作得到融合特征,是根据所述融合特征确定图卷积网络的风险因素特征的基础,正是因为对所述影像组学特征及所述卷积特征进行融合操作得到融合特征得到了局部特征(选择的影像组学特征)及全局特征的融合(未选择的影像组学特征,或选择前的影像组学特征),融合特征更能体现影像组学特征。因此,对所述影像组学特征及所述卷积特征进行融合操作得到融合特征的方法,并不是本领域技术人员惯用的技术手段,也是需要本领域技术人员付出相应创造性劳动的。

在本公开的实施例及其他可能实施例中,区别于现有技术,所述对所述影像组学特征及所述卷积特征进行融合操作,得到融合特征的方法,包括:对所述影像组学特征及所述卷积特征进行元素级的相加,得到融合特征。

例如,所述影像组学特征为[1,1,1,3],所述卷积特征为[0,1,0,3],对所述影像组学特征及所述卷积特征进行像素级的相加,得到融合特征[1,2,1,6]。

在本公开的实施例及其他可能实施例中,区别于现有技术,本公开提出了3种根据所述融合特征,确定图卷积网络的风险因素特征的方法。如何确定图卷积网络的风险因素特征直接影响边缘约束矩阵E的生成,进而影响邻接矩阵。因此上述根据所述融合特征,确定图卷积网络的风险因素特征的方法,并不是本领域人员惯用的技术手段,是需要本领域人员付出相应的创造性的劳动。

在本公开的实施例及其他可能实施例中,第一种方法,所述根据所述融合特征,确定图卷积网络的风险因素特征的方法,包括:获取广义线性模型(GLM);利用广义线性模型(GLM),根据所述融合特征及对对应的分级标签,得到所述融合特征中每个特征元素的R^2值;利用R^2值对所述融合特征中的特征元素从大到小进行排序;截取排序后的前设定数目E个特征为图卷积网络的风险因素特征。其中,所述设定数目E的取值一般为2-6个。

在本公开的实施例及其他可能实施例中,第二种方法,所述根据所述融合特征,确定图卷积网络的风险因素特征的方法,还包括:获取Lasso模型;利用Lasso模型,根据所述融合特征及对对应的分级标签,得到所述融合特征的筛选特征;利用所述筛选特征的回归系数对所述筛选特征从大到小进行排序,截取排序后的前设定数目E个筛选特征为图卷积网络的风险因素特征。其中,所述设定数目E的取值一般为2-6个,所述筛选特征的数目小于所述融合特征的数目。

在本公开的实施例及其他可能实施例中,第三种方法,所述根据所述融合特征,确定图卷积网络的风险因素特征的方法,包括:获取独立成分分析(PCA)模型;利用立成分分析模型,根据所述融合特征及对对应的分级标签,得到所述融合特征的设定数目E个降维特征;将所述设定数目E个降维特征作为图卷积网络的风险因素特征。其中,所述设定数目E的取值一般为2-6个,所述降维特征的数目小于所述融合特征的数目。

在本公开的实施例及其他可能实施例中,所述对所述风险因素特征及所述融合特征进行拼接操作,得到拼接特征的方法具体的实施例如下。若E的取值为4,则4个风险因素特征与106个融合特征进行拼接,得到维度为110的拼接特征(向量)。

步骤S104:基于所述图卷积网络,利用所述拼接特征实现慢阻肺的分级。

图3示出根据本公开实施例的图卷积网络结构示意图。如图3所示,风险因素特征的数目为K,融合特征的数目为d,所述图卷积网络的节点数目为N。

在本公开的实施例及其他可能实施例中,将所述拼接特征输入到所述图卷积网络(Graph Convolutional Network,GCN),以实现慢阻肺的分级。其中,所述图卷积网络是一种能对图数据进行深度学习的方法。图卷积神经网络,实际上跟卷积神经网络CNN的作用一样,就是一个特征提取器,只不过它的对象是图数据。所述图卷积网络精妙地设计了一种从图数据中提取特征的方法,从而让我们可以使用这些特征去对图数据进行节点分类(nodeclassification)、图分类(graph classification)、边预测(link prediction),还可以顺便得到图的嵌入表示(graph embedding),可见用途广泛。

在本公开中,所述基于所述图卷积网络,利用所述拼接特征实现慢阻肺的分级的方法,包括:获取所述图卷积网络的节点数目N;基于所述拼接特征V

在本公开的实施例及其他可能实施例中,所述拼接特征V

在本公开中,所述基于所述拼接特征的风险因素特征,得到所述风险因素特征的数目对应的子边缘约束矩阵的方法,包括:将每个所述拼接特征的风险因素特征进行列排列,得到所述风险因素特征数目个风险因素特征向量;分别以每个风险因素特征向量的一个特征为基础特征,每个风险因素特征向量的所有特征与所述基础特征进行元素级的差值操作,得到所述风险因素特征的数目对应的子边缘约束矩阵。

在本公开的实施例及其他可能实施例中,例如,K=4,所述数目为4,因此将每个所述拼接特征的风险因素特征进行列排列,得到4个风险因素特征向量(尺度N×1);将所述风险因素特征向量中的1个特征作为基础特征,所述风险因素特征向量中的其余特征分别与所述基础特征做差,得到N×1的风险因素特征向量,其中,所述风险因素特征向量内的第一个元素为0(基础特征减去本身);同理,分别将所述风险因素特征向量中的N-1个特征作为基础特征,得到N×(N-1)的风险因素特征向量;将所述风险因素特征向量进行拼接,得到1个尺寸为N×N的子边缘约束矩阵。因此,4个所述拼接特征的风险因素特征,进行上述操作,得到K=4个尺寸为N×N的子边缘约束矩阵。

在本公开中,所述对所述子边缘约束矩阵进行融合,得到边缘约束矩阵的方法,包括:对所述子边缘约束矩阵进行对应元素相加操作,得到边缘约束矩阵。

在本公开的实施例及其他可能实施例中,例如,K=4,得到的4个尺寸为N×N的子边缘约束矩阵进行对应元素相加操作后,并进行标准化,得到边缘约束矩阵。

在本公开中,所述基于所述节点数目对应的拼接特征的融合特征,得到三维差值矩阵的方法,包括:将每个所述拼接特征的融合特征进行列排列,得到融合特征向量;将所述数目的融合特征向量进行复制后,并进行拼接操作,得到三维特征;并对所述三维特征进行转置操作,得到转置三维特征;将所述三维特征及所述转置三维特征进行元素级的差值操作,得到三维差值矩阵将所述数目的融合特征向量进行复制后,并进行拼接操作,得到三维特征;并对所述三维特征进行转置操作,得到转置三维特征;将所述三维特征及所述转置三维特征进行元素级的差值操作,得到三维差值矩阵。

在本公开的实施例及其他可能实施例中,将每个所述拼接特征的融合特征进行列排列,得到尺度为N×106融合特征向量;将所述数目的融合特征向量进行N-1次复制后,得到N个N×106融合特征向量;N个N×106融合特征向量进行拼接操作,得到尺度为N×N×106的三维特征;尺度为N×N×106的三维特征进行转置操作,得到转置三维特征;将所述三维特征及所述转置三维特征进行元素级的差值操作后,并进行绝对值操作,得到尺度为N×N×106的三维差值矩阵。

将所述数目的融合特征向量进行复制后,并进行拼接操作,得到三维特征;

并对所述三维特征进行转置操作,得到转置三维特征;将所述三维特征及所述转置三维特征进行元素级的差值操作,得到三维差值矩阵

具体地说,将这106个融合特征复制N-1次,与原来的N×106的融合特征组成一个N×N×106的三维矩阵,然后Z轴不变,在X,Y轴方向上进行矩阵转置,得到的矩阵仍然是N×N×106的三维矩阵,这两个矩阵相减得到一个N×N×106的三维差值矩阵,相减的操作是为了使得不同节点的106个特征逐个相减,得到一个三维的邻接矩阵。

在本公开中,提出了一种新的对所述三维差值矩阵进行卷积操作,得到边缘权重矩阵的方法。具体地说,所述对所述三维差值矩阵进行卷积操作,得到边缘权重矩阵的方法,包括:利用大于1×1的卷积核,对所述三维差值矩阵进行上采样操作,得到上采样特征图;利用大于1×1的卷积核,对上采样特征图进行下采样操作,得到边缘权重矩阵。

图4示出根据本公开实施例提出的三维差值矩阵进行卷积操作的卷积网络结构示意图。如图4所示,提出的三维差值矩阵进行卷积操作的卷积网络为∩结构,因此可定义为∩Net。通过∩Net来把N×N×106的三维差值矩阵转变成N×N的边缘权重矩阵。利用3×3的卷积核,对N×N×106的三维差值矩阵进行上采样操作,得到上采样特征图;利用3×3的卷积核,对上采样特征图进行下采样操作,最后利用1×1的卷积核进行卷积,得到N×N×1的边缘权重矩阵。

具体地说,如果直接采用1×1的卷积核来对不同频道叠加,元素互相之间不影响,这就使得输出的矩阵没有差值与差值之间的联系,这使得一部分有效信息没有被利用,不同节点的差值与差值也是存在联系的,而在训练时没有利用这些联系会降低模型的效果,所以引入了3×3的卷积核来提取这一信息,这一流程相当于重塑一个邻接矩阵。采用了先上采样后下采样的操作,经过网络之后的矩阵就不只是包含节点与节点的关系,同时还包含了不同组节点与节点之间差值之间的联系。同时,在网络中还引入了残差连接,残差连接在加深网络时有很好的效果,使得数量较少的数据能够在更深的网络中使用而得到更好的结构,∩Net的网络更深,加入残差连接能够增强网络的有效性。

在本公开中,所述基于所述边缘约束矩阵及边缘权重矩阵得到邻接矩阵的方法,包括:将所述边缘约束矩阵及边缘权重矩阵进行元素级的相乘,得到邻接矩阵。

在本公开中,所述基于所述图卷积网络,利用所述邻接矩阵及所述拼接特征实现慢阻肺的分级的方法,包括:将所述邻接矩阵及所述拼接特征进行矩阵乘法操作,得到邻接特征矩阵;所述邻接特征矩阵经过全连接层(FC),得到邻接特征向量Gn(V

具体地说,边缘权重矩阵W与边缘约束矩阵E逐元素相乘(Element-wisemultiplication),得到的矩阵就是用于图网络的邻接矩阵;邻接矩阵与输入节点的拼接特征V

慢阻肺的分级方法的执行主体可以是慢阻肺的分级装置,例如,慢阻肺的分级方法可以由终端设备或服务器或其它处理设备执行,其中,终端设备可以为用户设备(UserEquipment,UE)、移动设备、用户终端、终端、蜂窝电话、无绳电话、个人数字处理(PersonalDigital Assistant,PDA)、手持设备、计算设备、车载设备、可穿戴设备等。在一些可能的实现方式中,该慢阻肺的分级方法可以通过处理器调用存储器中存储的计算机可读指令的方式来实现。

本领域技术人员可以理解,在具体实施方式的上述方法中,各步骤的撰写顺序并不意味着严格的执行顺序而对实施过程构成任何限定,各步骤的具体执行顺序应当以其功能和可能的内在逻辑确定。

本公开还提出了一种慢阻肺的分级装置,所述慢阻肺的分级装置,包括:第一特征确定单元,用于获取肺实质图像对应的影像组学特征;基于肺实质图像对应的分级标签,对所述影像组学特征进行选择,得到选择的影像组学特征;并确定所述影像组学特征的数目;第二特征确定单元,用于利用所述影像组学特征生成影像组学特征图,对所述影像组学特征图进行卷积操作,得到所述数目的卷积特征;第三特征确定单元,用于对所述影像组学特征及所述卷积特征进行融合操作,得到融合特征;根据所述融合特征,确定图卷积网络的风险因素特征;对所述风险因素特征及所述融合特征进行拼接操作,得到拼接特征;分类单元,用于基于所述图卷积网络,利用所述拼接特征实现慢阻肺的分级。

在一些实施例中,本公开实施例提供的装置具有的功能或包含的模块可以用于执行上文方法实施例描述的方法,其具体实现可以参照上文方法实施例的描述,为了简洁,这里不再赘述。

本公开实施例还提出一种计算机可读存储介质,其上存储有计算机程序指令,所述计算机程序指令被处理器执行时实现上述方法。计算机可读存储介质可以是非易失性计算机可读存储介质。

本公开实施例还提出一种电子设备,包括:处理器;用于存储处理器可执行指令的存储器;其中,所述处理器被配置为上述方法。电子设备可以被提供为终端、服务器或其它形态的设备。

图5是根据一示例性实施例示出的一种电子设备800的框图。例如,电子设备800可以是移动电话,计算机,数字广播终端,消息收发设备,游戏控制台,平板设备,医疗设备,健身设备,个人数字助理等终端。

参照图5,电子设备800可以包括以下一个或多个组件:处理组件802,存储器804,电源组件806,多媒体组件808,音频组件810,输入/输出(I/O)的接口812,传感器组件814,以及通信组件816。

处理组件802通常控制电子设备800的整体操作,诸如与显示,电话呼叫,数据通信,相机操作和记录操作相关联的操作。处理组件802可以包括一个或多个处理器820来执行指令,以完成上述的方法的全部或部分步骤。此外,处理组件802可以包括一个或多个模块,便于处理组件802和其他组件之间的交互。例如,处理组件802可以包括多媒体模块,以方便多媒体组件808和处理组件802之间的交互。

存储器804被配置为存储各种类型的数据以支持在电子设备800的操作。这些数据的示例包括用于在电子设备800上操作的任何应用程序或方法的指令,联系人数据,电话簿数据,消息,图片,视频等。存储器804可以由任何类型的易失性或非易失性存储设备或者它们的组合实现,如静态随机存取存储器(SRAM),电可擦除可编程只读存储器(EEPROM),可擦除可编程只读存储器(EPROM),可编程只读存储器(PROM),只读存储器(ROM),磁存储器,快闪存储器,磁盘或光盘。

电源组件806为电子设备800的各种组件提供电力。电源组件806可以包括电源管理系统,一个或多个电源,及其他与为电子设备800生成、管理和分配电力相关联的组件。

多媒体组件808包括在所述电子设备800和用户之间的提供一个输出接口的屏幕。在一些实施例中,屏幕可以包括液晶显示器(LCD)和触摸面板(TP)。如果屏幕包括触摸面板,屏幕可以被实现为触摸屏,以接收来自用户的输入信号。触摸面板包括一个或多个触摸传感器以感测触摸、滑动和触摸面板上的手势。所述触摸传感器可以不仅感测触摸或滑动动作的边界,而且还检测与所述触摸或滑动操作相关的持续时间和压力。在一些实施例中,多媒体组件808包括一个前置摄像头和/或后置摄像头。当电子设备800处于操作模式,如拍摄模式或视频模式时,前置摄像头和/或后置摄像头可以接收外部的多媒体数据。每个前置摄像头和后置摄像头可以是一个固定的光学透镜系统或具有焦距和光学变焦能力。

音频组件810被配置为输出和/或输入音频信号。例如,音频组件810包括一个麦克风(MIC),当电子设备800处于操作模式,如呼叫模式、记录模式和语音识别模式时,麦克风被配置为接收外部音频信号。所接收的音频信号可以被进一步存储在存储器804或经由通信组件816发送。在一些实施例中,音频组件810还包括一个扬声器,用于输出音频信号。

I/O接口812为处理组件802和外围接口模块之间提供接口,上述外围接口模块可以是键盘,点击轮,按钮等。这些按钮可包括但不限于:主页按钮、音量按钮、启动按钮和锁定按钮。

传感器组件814包括一个或多个传感器,用于为电子设备800提供各个方面的状态评估。例如,传感器组件814可以检测到电子设备800的打开/关闭状态,组件的相对定位,例如所述组件为电子设备800的显示器和小键盘,传感器组件814还可以检测电子设备800或电子设备800一个组件的位置改变,用户与电子设备800接触的存在或不存在,电子设备800方位或加速/减速和电子设备800的温度变化。传感器组件814可以包括接近传感器,被配置用来在没有任何的物理接触时检测附近物体的存在。传感器组件814还可以包括光传感器,如CMOS或CCD图像传感器,用于在成像应用中使用。在一些实施例中,该传感器组件814还可以包括加速度传感器,陀螺仪传感器,磁传感器,压力传感器或温度传感器。

通信组件816被配置为便于电子设备800和其他设备之间有线或无线方式的通信。电子设备800可以接入基于通信标准的无线网络,如WiFi,2G或3G,或它们的组合。在一个示例性实施例中,通信组件816经由广播信道接收来自外部广播管理系统的广播信号或广播相关信息。在一个示例性实施例中,所述通信组件816还包括近场通信(NFC)模块,以促进短程通信。例如,在NFC模块可基于射频识别(RFID)技术,红外数据协会(IrDA)技术,超宽带(UWB)技术,蓝牙(BT)技术和其他技术来实现。

在示例性实施例中,电子设备800可以被一个或多个应用专用集成电路(ASIC)、数字信号处理器(DSP)、数字信号处理设备(DSPD)、可编程逻辑器件(PLD)、现场可编程门阵列(FPGA)、控制器、微控制器、微处理器或其他电子元件实现,用于执行上述方法。

在示例性实施例中,还提供了一种非易失性计算机可读存储介质,例如包括计算机程序指令的存储器804,上述计算机程序指令可由电子设备800的处理器820执行以完成上述方法。

图6是根据一示例性实施例示出的一种电子设备1900的框图。例如,电子设备1900可以被提供为一服务器。参照图6,电子设备1900包括处理组件1922,其进一步包括一个或多个处理器,以及由存储器1932所代表的存储器资源,用于存储可由处理组件1922的执行的指令,例如应用程序。存储器1932中存储的应用程序可以包括一个或一个以上的每一个对应于一组指令的模块。此外,处理组件1922被配置为执行指令,以执行上述方法。

电子设备1900还可以包括一个电源组件1926被配置为执行电子设备1900的电源管理,一个有线或无线网络接口1950被配置为将电子设备1900连接到网络,和一个输入输出(I/O)接口1958。电子设备1900可以操作基于存储在存储器1932的操作系统,例如Windows ServerTM,Mac OS XTM,UnixTM,LinuxTM,FreeBSDTM或类似。

在示例性实施例中,还提供了一种非易失性计算机可读存储介质,例如包括计算机程序指令的存储器1932,上述计算机程序指令可由电子设备1900的处理组件1922执行以完成上述方法。

本公开可以是系统、方法和/或计算机程序产品。计算机程序产品可以包括计算机可读存储介质,其上载有用于使处理器实现本公开的各个方面的计算机可读程序指令。

计算机可读存储介质可以是可以保持和存储由指令执行设备使用的指令的有形设备。计算机可读存储介质例如可以是――但不限于――电存储设备、磁存储设备、光存储设备、电磁存储设备、半导体存储设备或者上述的任意合适的组合。计算机可读存储介质的更具体的例子(非穷举的列表)包括:便携式计算机盘、硬盘、随机存取存储器(RAM)、只读存储器(ROM)、可擦式可编程只读存储器(EPROM或闪存)、静态随机存取存储器(SRAM)、便携式压缩盘只读存储器(CD-ROM)、数字多功能盘(DVD)、记忆棒、软盘、机械编码设备、例如其上存储有指令的打孔卡或凹槽内凸起结构、以及上述的任意合适的组合。这里所使用的计算机可读存储介质不被解释为瞬时信号本身,诸如无线电波或者其他自由传播的电磁波、通过波导或其他传输媒介传播的电磁波(例如,通过光纤电缆的光脉冲)、或者通过电线传输的电信号。

这里所描述的计算机可读程序指令可以从计算机可读存储介质下载到各个计算/处理设备,或者通过网络、例如因特网、局域网、广域网和/或无线网下载到外部计算机或外部存储设备。网络可以包括铜传输电缆、光纤传输、无线传输、路由器、防火墙、交换机、网关计算机和/或边缘服务器。每个计算/处理设备中的网络适配卡或者网络接口从网络接收计算机可读程序指令,并转发该计算机可读程序指令,以供存储在各个计算/处理设备中的计算机可读存储介质中。

用于执行本公开操作的计算机程序指令可以是汇编指令、指令集架构(ISA)指令、机器指令、机器相关指令、微代码、固件指令、状态设置数据、或者以一种或多种编程语言的任意组合编写的源代码或目标代码,所述编程语言包括面向对象的编程语言—诸如Smalltalk、C++等,以及常规的过程式编程语言—诸如“C”语言或类似的编程语言。计算机可读程序指令可以完全地在用户计算机上执行、部分地在用户计算机上执行、作为一个独立的软件包执行、部分在用户计算机上部分在远程计算机上执行、或者完全在远程计算机或服务器上执行。在涉及远程计算机的情形中,远程计算机可以通过任意种类的网络—包括局域网(LAN)或广域网(WAN)—连接到用户计算机,或者,可以连接到外部计算机(例如利用因特网服务提供商来通过因特网连接)。在一些实施例中,通过利用计算机可读程序指令的状态信息来个性化定制电子电路,例如可编程逻辑电路、现场可编程门阵列(FPGA)或可编程逻辑阵列(PLA),该电子电路可以执行计算机可读程序指令,从而实现本公开的各个方面。

这里参照根据本公开实施例的方法、装置(系统)和计算机程序产品的流程图和/或框图描述了本公开的各个方面。应当理解,流程图和/或框图的每个方框以及流程图和/或框图中各方框的组合,都可以由计算机可读程序指令实现。

这些计算机可读程序指令可以提供给通用计算机、专用计算机或其它可编程数据处理装置的处理器,从而生产出一种机器,使得这些指令在通过计算机或其它可编程数据处理装置的处理器执行时,产生了实现流程图和/或框图中的一个或多个方框中规定的功能/动作的装置。也可以把这些计算机可读程序指令存储在计算机可读存储介质中,这些指令使得计算机、可编程数据处理装置和/或其他设备以特定方式工作,从而,存储有指令的计算机可读介质则包括一个制造品,其包括实现流程图和/或框图中的一个或多个方框中规定的功能/动作的各个方面的指令。

也可以把计算机可读程序指令加载到计算机、其它可编程数据处理装置、或其它设备上,使得在计算机、其它可编程数据处理装置或其它设备上执行一系列操作步骤,以产生计算机实现的过程,从而使得在计算机、其它可编程数据处理装置、或其它设备上执行的指令实现流程图和/或框图中的一个或多个方框中规定的功能/动作。

附图中的流程图和框图显示了根据本公开的多个实施例的系统、方法和计算机程序产品的可能实现的体系架构、功能和操作。在这点上,流程图或框图中的每个方框可以代表一个模块、程序段或指令的一部分,所述模块、程序段或指令的一部分包含一个或多个用于实现规定的逻辑功能的可执行指令。在有些作为替换的实现中,方框中所标注的功能也可以以不同于附图中所标注的顺序发生。例如,两个连续的方框实际上可以基本并行地执行,它们有时也可以按相反的顺序执行,这依所涉及的功能而定。也要注意的是,框图和/或流程图中的每个方框、以及框图和/或流程图中的方框的组合,可以用执行规定的功能或动作的专用的基于硬件的系统来实现,或者可以用专用硬件与计算机指令的组合来实现。

以上已经描述了本公开的各实施例,上述说明是示例性的,并非穷尽性的,并且也不限于所披露的各实施例。在不偏离所说明的各实施例的范围和精神的情况下,对于本技术领域的普通技术人员来说许多修改和变更都是显而易见的。本文中所用术语的选择,旨在最好地解释各实施例的原理、实际应用或对市场中技术的技术改进,或者使本技术领域的其它普通技术人员能理解本文披露的各实施例。

去获取专利,查看全文>

相似文献

  • 专利
  • 中文文献
  • 外文文献
获取专利

客服邮箱:kefu@zhangqiaokeyan.com

京公网安备:11010802029741号 ICP备案号:京ICP备15016152号-6 六维联合信息科技 (北京) 有限公司©版权所有
  • 客服微信

  • 服务号