首页> 中国专利> 用于自动表征患者的肝脏组织的方法、系统、程序和介质

用于自动表征患者的肝脏组织的方法、系统、程序和介质

摘要

本公开涉及用于自动表征患者的肝脏组织的方法、系统、程序和介质。特别地,一种用于自动表征患者的肝脏组织的计算机实现的方法,包括:‑经由第一接口(54)接收至少部分地包括患者的肝脏的成像区域的至少一个形态学磁共振图像数据集(34)和至少一个磁共振参数图(35),每个形态学磁共振图像数据集(34)和磁共振参数图(35)通过磁共振成像设备(59)来获取;‑在计算单元(55)中,将包括神经网络(42)的受训练函数(57)应用于输入数据(43),输入数据(43)至少包括图像数据集(34)和参数图(35),其中,生成描述肝脏组织的至少一个组织评分(39)作为输出数据(38);‑使用第二接口(56)提供输出数据(38)。

著录项

说明书

技术领域

本发明涉及用于自动表征患者的肝脏组织的计算机实现方法和表征系统、计算机程序和电子可读存储介质。

背景技术

磁共振成像(MRI)允许许多不同的成像技术收集关于成像对象的不同的形态学、结构、功能和参数相关信息。随着定量MRI的建立,甚至可以确定对象的感兴趣区域的定量参数图。这使得MRI成为医学诊断中的重要工具。

然而,为了处理从磁共振检查产生的大量信息,医务人员通常采用计算机实现的分析工具。这样的计算机程序自动评估磁共振数据并且提供可用于改善医师的诊断的评估结果。这样的实践因此可以被称为计算机辅助诊断或计算机协助诊断(CAD)。通常,患者中某些组织类型的表征是令人感兴趣的,例如关于炎症过程、损伤等。计算机辅助分析工具例如可以估计组织表征评分,其然后可以由临床医生用于诊断和指导治疗。

例如,在患有非酒精性脂肪肝疾病(NAFLD)的患者中,脂肪在肝脏中累积。这可以导致更严重形式的NAFLD,被称为非酒精性脂肪性肝炎(NASH),其中肝脏中发生炎症和细胞损伤。一些患者进展成肝纤维化、肝硬化和癌症,并且该过程在某一点变得不可逆。通常,确诊NASH的唯一方法是利用肝活检,这是侵入性的并且通常是痛苦的程序。因此,开发可以准确表征和分期NASH以及预测进展和指导治疗的非侵入性测试是有价值的。

存在多种可以检测与NASH和肝脏疾病相关联的生物标志物的MR成像技术。这些技术包括用于确定脂肪分数、与肝脏疾病相关联的铁累积、弛豫时间的磁共振序列,以及可以检测与肝脏损伤相关联的肝脏变硬(例如纤维化)的磁共振弹性成像(MRE)。

在现有技术中,已经提出了关于肝脏组织并且特别是NASH的一些方法,其中评估多参数定量磁共振数据。在US 2014/0330106 A1和WO 2015/144916 A1中,分别公开了用于肝脏疾病的多参数磁共振诊断和分期以及内脏器官炎症的非侵入性检测的方法和系统。获得并且通过阈值处理来评估例如胞外液、铁含量、脂质含量和弛豫测量数据的定量参数。US2017/0350952 A1公开了用于患者肝脏的感兴趣区域中的肝脏组织的自动表征(分类)的方法和设备,其中,获取肝脏的感兴趣区域的至少一个值元组,该值元组包括根据感兴趣区域的磁共振图像确定的至少一个T1值或其倒数值,以及T2或T2*值或其倒数值。将值元组转移至多维参数空间中,并且然后基于值元组在参数空间中的位置执行肝脏组织的表征,使得相应的多参数空间中的某些区域与某些评估结果相关联。

这些方法使用利用磁共振设备测量的或从磁共振图像得到的少量定量值。然而,在这些方法中难以提高参数的数量,特别是由于这些参数的相关性和相互影响并不总是明显和清楚的。另外,磁共振数据及其信息的较大部分被丢弃并且不用于评估。

发明内容

本发明的目的是提供在非介入性方法中(特别是关于NASH的评估)确定肝脏组织特征(特别是至少一个评分)的更鲁棒且准确的方法。

该目的通过提供根据独立权利要求的方法、表征系统、计算机程序和电子可读存储介质来实现。有利的实施方式由从属权利要求描述。

在下文中,相对于所要求保护的表征系统以及所要求保护的方法、计算机程序和电子可读存储介质来描述根据本发明的解决方案。本文中的特征、优点或替选实施方式可以被指定给其他要求保护的对象并且反之亦然。换言之,用于提供系统、计算机程序和电子可读存储介质的权利要求可以利用在方法的上下文中描述或要求保护的特征来改进。在该系统的情况下,该方法的功能特征由表征系统的目标单元来体现。

根据本发明的一种用于自动表征患者的肝脏组织的方法包括:

-经由第一接口接收至少部分地包括患者的肝脏的成像区域的至少一个形态学磁共振图像数据集和至少一个磁共振参数图,每个形态学磁共振图像数据集和磁共振参数图均通过磁共振成像设备来获取,

-在计算单元中,将包括神经网络的受训练函数应用于输入数据,输入数据至少包括图像数据集和参数图,其中,生成描述肝脏组织(特别是关于炎症和/或纤维化和/或NASH的存在来描述肝脏组织)的至少一个组织评分作为输出数据,

-使用第二接口提供输出数据。

类似地,根据本发明的一种用于自动表征患者的肝脏组织的表征系统包括:

-第一接口,用于接收至少部分地包括患者的肝脏的成像区域的至少一个形态学磁共振图像数据集和至少一个磁共振参数图,每个形态学磁共振图像数据集和磁共振参数图均通过磁共振成像设备来获取,

-计算单元,用于将包括神经网络的受训练函数应用于输入数据,输入数据至少包括图像数据集和参数图,其中,生成描述肝脏组织的至少一个组织评分作为输出数据,

-第二接口,用于提供输出数据。

认识到的是,不仅描述肝脏的相关组织(即,实质组织)的定量参数与其表征(特别是关于NASH)有关,而且由磁共振图像数据集描述的形态(特别是解剖形态)也与其表征有关。因此,形态学图像数据集是解剖磁共振图像数据集,示出了解剖的形态和/或结构,特别是图案和/或纹理。已经发现人工智能是进行以下操作的理想的工具:不仅从参数图和图像数据集整体上提取相关特征,而且优选地还描述这些特征(特别是关于定量参数特征和结构解剖特征)的相关性和/或相互影响。如将在下面详细描述的,因此采用的神经网络优选地包括至少一个卷积层(用于特征提取)和至少一个密集层(即,全连接层),以从这些特征得出的至少一个组织评分,特别是来自文献的已知的、定义明确的评分。

通常,受训练函数(其也可以被称为通过机器学习算法或经训练的代理训练的函数)模仿人类与其他人类心智相关联的认知功能。特别地,通过基于训练数据的训练,受训练函数能够适于新环境并且能够检测并外推模式。

通常,可以借助于训练来调整受训练函数的参数。特别地,可以使用监督训练、半监督训练、无监督训练、强化学习和/或主动学习。此外,可以使用表示学习(替选术语为“特征学习”)。特别地,受训练函数的参数可以通过若干训练步骤来迭代地调整。

根据本发明的受训练函数包括神经网络,但可以另外地包括支持向量机、决策树和/或贝叶斯网络。受训练函数可以基于k均值聚类、Q学习、遗传算法和/或关联规则。优选地,神经网络是通过深度学习方法训练的深度神经网络。进一步优选地,它可以是或包括卷积神经网络或卷积深度神经网络。此外,神经网络可以是或包括对抗网络、深度对抗网络和/或生成式对抗网络。

可以使用相同或不同的磁共振成像设备来获取图像数据集和参数图。至少一个图像数据集和至少一个参数图的成像区域可以相同或不同。特别地,图像数据集的至少一个第一成像区域可以与参数图的至少一个第二成像区域不同,而多个第一成像区域和第二成像区域也可以不同。然而,所有成像区域至少部分地包含要被表征的肝脏组织,特别是实质组织。在优选实施方式中,如现有技术中已知的,优选自动地,将要通过受训练函数分析的感兴趣区域(ROI)在所有图像数据集和所有参数图中进行分割。特别地,可以通过分割要被表征的组织来确定感兴趣区域。然后,受训练函数仅对感兴趣区域内的输入数据进行评估。可以在预处理步骤中确定感兴趣区域。

总之,本发明允许对肝脏组织的磁共振数据进行更准确的分析,从而形成医务人员(特别是医师)在稍后时间使用受训练函数的输出数据执行的诊断的改进基础。该方法可推广到更广泛的患者人群。可以有利地省略或至少在数目上减少肝脏活检或其他介入。

在文献中,可以获得若干定义明确的(特别是关于活检的)组织评分,其可以用作关于本发明的输出数据。例如,由David E.Kleiner等人在《肝病学》(Hepatology)1(2005),第1313-1321页的题为“Design and Validation of a Histological Scoring Systemfor Nonalcoholic Fatty Liver Disease”的文章中定义了若干评分,包括著名的NAS(NAFLD活动性评分)。优选地,输出数据的至少一个组织评分选自NAFLD活动性评分、脂肪变性评分、小叶炎症评分、肝细胞膨胀(ballooning)评分和纤维化评分(特别是纤维化分期)。特别地,至少确定炎症评分(优选是NAS)以及纤维化评分(特别是纤维化分期),原因是纤维化分期向NAS添加最多的信息。这些类型的信息也可以被认为是正交的。

这里应当注意的是,来自对形态学、解剖学磁共振图像数据集的人工(在该情况下是视觉)分析的许多观察结果指示纤维化信息可以从非常精细的结构/纹理中得出,而临床医师可能仅在有大量经验的情况下才能够可靠地检测到这些非常精细的结构/纹理。然而,这些特征可以由人工智能(在这种情况下是受训练函数)鲁棒地检测到。对于与纤维化或NAS有关的其他形态学特征也是如此。

预期的磁共振技术优选地包括主要被设计用于评估肝脏疾病的那些技术,但是本发明能够被扩展到这里没有描述的其他技术。至少一个图像数据集可能已经使用T1加权获取(可能具有脂肪抑制或分离)或另一加权获取来获得。优选地,该至少一个图像数据集包括通过使用脂水分离技术(特别是Dixon技术)获得的至少一个图像数据集。进一步优选地,至少一个参数图的至少一个参数选自弛豫时间、弛豫时间倒数(特别是R2*)、细胞外液量度和脂肪分数的组。

因此,磁共振技术可以包括解剖扫描、T1和T2图获取、基于R2*(或其他倒数弛豫时间)弛豫测量的铁过载测量、以及质子密度脂肪分数成像。然而,也可以采用功能成像,并且通过受训练函数来评估结果。例如,输入数据可以另外包括至少部分地包括患者肝脏的成像区域的磁共振扩散加权数据集和/或磁共振弹性成像数据集。扩散加权数据集可以是例如表观扩散系数(ADC)图。为了考虑可能例如受纤维化影响的肝脏硬度,还可以获取肝脏硬度的弹性成像图并且将其用作输入数据。这样的弹性成像图使用磁共振弹性成像(MRE)来获取,并且有时较不优选,因为需要附加的测量设备。

在特别优选的实施方式中,输入数据还包括与患者和/或患者的肝脏有关的至少一个附加的标量信息和/或向量信息。这样的附加信息可以例如选自人口统计信息、医疗历史信息和实验室结果的组。最优选地,可以从患者的电子健康记录接收附加的标量信息和/或向量信息。以这种方式,人口统计信息、医疗历史、实验室值和可能与肝脏疾病相关的类似变量也可以被受训练函数考虑在内。

在特别有利的实施方式中,神经网络包括:至少一个卷积部分神经网络中的至少一个卷积层,卷积部分神经网络特别用于从图像数据集和/或参数图提取特征;以及/或密集部分神经网络中的至少一个全连接层,特别地密集部分神经网络用以从至少所提取的特征得出输出数据。神经网络的这种结构允许处理输入数据中的多维图像数据集和参数图,并且在密集部分神经网络中考虑提取的特征的互相关。它还允许方便地使用如上所述的附加标量信息和/或向量信息。优选地,如果输入数据包括附加标量信息和/或向量信息,则将附加标量信息和/或向量信息或从其得出的中间数据添加至由至少一个卷积部分神经网络生成的特征向量。换言之,至少一个卷积层的结果通常被展平(flatten)以形成可以由至少一个全连接层进一步评估的特征向量。可以将附加数据方便地添加至这样的特征向量的末端,使得产生针对密集部分神经网络的较长的输入向量。

在实施方式中,中间数据由具有至少一个全连接层的附加的密集部分神经网络生成。在其中可获得附加信息(特别是临床数据)作为输入的变型中,可以通过添加与至少一个卷积层平行的附加的系列全连接层来修改由神经网络定义的模型。然后在连结步骤中将所得到的包含相关提取特征的中间数据附加地添加至特征向量。这允许受训练函数首先对仅与附加标量信息和/或向量信息相关的相关性进行建模,并提取相应的相关特征,优选地将附加标量信息和/或向量信息压缩为较少的相关中间数据。

在使用至少一个卷积部分神经网络从至少一个图像数据集和至少一个参数图(在下文中称为输入数据集)提取特征时,可以设想本发明的一些变型。在一个变型中,各个磁共振输入数据集可以各自经受独立的单个卷积部分网络。也就是说,它们形成神经网络的多个输入,每个输入经历一系列卷积层以在每个磁共振技术中从肝脏的外观提取抽象特征。然后,将这些抽象特征连结在一起以形成特征向量并且(可选地在附加信息/中间数据被添加之后)被向前馈送至密集部分神经网络中,从而经历一系列全连接层并且到达输出层,然后该输出层给出至少一个组织评分。在另一变型中,还可以至少部分地将输入数据集进行堆叠,其中,将每个堆叠输入到共同的卷积部分神经网络中。

通常注意到,特别是考虑到输入数据的高维数,卷积部分网络以及(如果使用的话)附加的密集部分神经网络可以被理解为特征提取器,从而降低待分析数据的维数以聚焦于与肝脏组织的表征相关的特征。在实施方式中,可以采用自动编码器或自动编码器构思。对于可选的附加的密集部分神经网络也是如此。换言之,在如上所说明的第一变型中,卷积部分神经网络和可选地附加的密集部分神经网络从高维数据提取表达特征。这些表达特征作为特征向量形成密集部分网络的输入,从而产生输出数据。

在本发明的有利扩展中,输出数据可以被确定为另外包括至少一个预测结果信息,特别是与肝脏组织相关的事件的风险评分。在这样的实施方式中,受训练函数(特别是其人工神经网络)受到(优选地是经审查的(匿名的)结果数据的训练,以提供治疗效应和疾病进展的风险评估。在这种情况下,输入数据(特别是磁共振实质形态学和定量特征以及可选地附加标量信息和/或向量信息(特别是临床数据)的组合),被识别为包含可以预测患者的治疗功效和总体状态的潜在信息。使用作为或用于得出输出训练数据的结果数据来训练神经网络以预测非线性风险函数,该非线性风险函数用于分配患者经历各种未来事件(例如,肝硬化的发展、肝衰竭等)的概率。特别地,在还确定预测结果信息(例如风险评分)时,通过卷积部分神经网络以及可选地附加的密集部分神经网络进行的特征提取对于降低要由至少一个密集部分神经网络解决的问题的维数变得重要。注意,关于风险评分,可以采用第二密集部分神经网络(除了给出至少一个组织评分的第一密集部分神经网络之外),其特别地可以使用修改的特征向量和/或另外包含组织评分的特征向量。

进一步优选地,受训练函数另外包括不确定性估计子函数,该不确定性估计子函数确定关于输出数据的至少一个不确定性信息,该不确定性信息是使用第二接口与输出数据相关联地提供的。在解释输出数据(特别是关于诊断)时,这样的不确定性信息通常对于临床医师或医务人员是有用的。因此,受训练函数可以包括估计其确定的不确定性的模块,即不确定性估计子函数。由于本发明旨在减少对弥漫性肝病进行分期所需的活检的需要,因此对于用户而言,知道受训练函数的预测的不确定程度也是重要的。例如,如果超过了不确定性信息的不确定性值的某个阈值,或者如果研究输出数据的人员判定超过了阈值,则可以触发传统的组织病理学分期活检。

在具体实施方式中,不确定性估计子函数可以包括贝叶斯深度学习模型。例如,第31届神经信息系统会议(NIPS 2017),第5574-5584页,Alex Kendall和Yarin Gal的文章“What Uncertainties Do We Need in Bayesian Deep Learning for ComputerVision?”中提出了这样的方法。当然,也可以使用用于估计神经网络预测不确定性的其他标准方法。

根据本发明的方法还可以包括至少一个预处理步骤。预处理可以包括关于输入数据集的标准图像处理措施,例如强度归一化、平滑、降噪等。如上面已经解释的,可以将要由受训练函数分析的感兴趣区域确定为预处理步骤,例如通过分割和/或检测。

在优选的实施方式中,在计算单元上的预处理步骤中,将所有图像数据集和所有参数图彼此配准。这考虑了以下事实:本发明所需的磁共振成像通常在获取不同图像对比度与参数图之间使用一定量时间来执行。另外,通常还存在可能使成对图像数据集/参数图之间空间不对准的患者运动。另一方面,不同输入数据集(即,磁共振技术)中的特征的空间相关性,可能与肝脏组织(特别是与NASH状态)的表征有关。因此,根据本发明的方法可以包括将每个输入数据集配准到其他输入数据集的预处理步骤。该预处理步骤可以采用任意数量的周知图像配准算法,例如基于界标的仿射配准或基于强度的可变形配准。

根据本发明,为了对函数进行训练,可以使用已知的方法。特别地,根据本发明的方法或训练方法可以包括以下操作以提供受训练函数:

-使用第一训练接口接收包括用于训练患者群组的每个训练患者的训练数据集的训练数据,每个训练数据集包括:输入训练数据,其具有至少部分地包括相应训练患者的肝脏的成像区域的至少一个形态学磁共振图像数据集和至少一个磁共振参数图,每个形态学磁共振图像数据集和磁共振参数图均通过磁共振成像设备获取;以及输出训练数据,输出训练数据包括相应训练患者的至少一个组织评分,

-利用训练计算单元基于输入训练数据和输出训练数据来训练函数,

-使用第二训练接口提供受训练函数。

在优选的实施方式中,使用相应患者的肝脏组织的组织病理学活检的结果来确定输出训练数据。进一步优选地,提供匿名的训练数据。在预测结果信息(特别是风险评分)也将被确定为输出数据的情况下,可以使用结果数据(特别是经审查的即匿名的结果数据)来确定训练输出数据的预测结果信息。

该训练方法可以由相应的训练系统来执行,该训练系统具有该第一训练接口和第二训练接口以及训练计算单元,并且该训练方法可以被实现为可以被存储在电子可读训练存储介质上的训练计算机程序。

根据本发明的计算机程序可以例如直接加载到表征系统的存储装置中,并且包括如果计算机程序在表征系统上被执行则执行根据本发明的表征方法的步骤的程序装置。注意,还可以包括表征系统作为磁共振成像设备的控制设备的一部分,使得可以在现场关于肝脏组织(特别是关于NASH)评估使用磁共振成像设备获取的患者的图像数据集和参数图。

根据本发明的计算机程序可以存储在根据本发明的电子可读存储介质上,因此,该电子可读存储介质包括存储在其上的电子可读控制信息,该控制信息至少包括根据本发明的计算机程序并且被配置成使得在电子可读存储介质用于表征系统中时,表征系统执行根据本发明的表征方法。存储介质可以优选地是非暂态存储介质,例如CD-ROM。

注意,原则上还可以设想使用来自其他成像形态(例如CT或超声)的数据集作为附加输入数据,尽管这是次优选的。本发明的目的在于从仅仅使用多种磁共振技术的磁共振检查提供关于肝脏组织的可靠结果,使得优选地一个非介入性检查过程(可选地使用来自电子健康记录的附加信息)足以相对于NASH来表征肝脏组织。

附图说明

根据以下结合附图考虑的详细描述,本发明的其他目的和特征将变得明显。然而,附图仅仅是为了说明的目的而设计的原理示意图,并且不限制本发明。附图示出:

图1是一般神经网络的原理图,

图2是一般卷积神经网络的原理图,

图3是根据本发明的表征方法的实施方式的流程图,

图4是根据本发明的实施方式的训练函数的神经网络的示例性结构,

图5是本发明的表征系统的实施方式,以及

图6是磁共振成像设备的示意图。

具体实施方式

图1示出了人工神经网络1的实施方式。“人工神经网络”的替选术语是“神经网络”、“人工神经网络”或“神经网络”。

人工神经网络1包括节点6至节点18和边19至边21,其中每个边19至边21是从第一节点6至18到第二节点6至18的有向连接。通常,第一节点6至18和第二节点6至18是不同的节点6至18,第一节点6至18和第二节点6至18也可以是相同的。例如,在图1中,边19是从节点6到节点9的有向连接,并且边20是从节点7到节点9的有向连接。从第一节点6至18到第二节点6至18的边19至21也被表示为第二节点6至18的“传入边”以及第一节点6至18的“传出边”。

在该实施方式中,人工神经网络1的节点6至节点18可以被布置在层2至层5中,其中层2至层5可以包括由节点6至节点18之间的边19至边21引入的固有顺序。特别地,边19至边21可以仅存在于节点6至节点18的相邻层之间。在示出的实施方式中,存在仅包括节点6至节点8而没有传入边的输入层2,仅包括节点17、节点18而没有传出边的输出层5,以及在输入层2和输出层5之间的隐藏层3、隐藏层4。通常,可以任意地选择隐藏层3、隐藏层4的数量。输入层2内的节点6至节点8的数量通常与神经网络的输入值的数量有关,并且输出层5内的节点17、节点18的数量通常与神经网络的输出值的数量有关。

特别地,可以将(实)数作为值分配为神经网络1的每个节点6至节点18。这里,x

特别地,为了计算神经网络1的输出值,使输入值传播通过神经网络1。特别地,可以基于第n层2至5的节点6至18的值通过以下来计算第n+1层2至5的节点6至18的值

这里,函数f是传递函数(另一术语是“激活函数”)。已知的传递函数是阶跃函数、S型函数(例如逻辑函数、广义逻辑函数、双曲正切、反正切函数、误差函数、平滑阶跃函数)或整流器函数。传递函数主要用于归一化目的。

特别地,值逐层传播通过神经网络1,其中输入层2的值由神经网络1的输入给出,其中第一隐藏层3的值可以基于神经网络1的输入层2的值来计算,其中,第二隐藏层4的值可以基于第一隐藏层3的值来计算,等等。

为了设置边19至边21的值w

特别地,使用计算的输出数据与训练数据之间的比较来递归地调整神经网络1内的权重(反向传播算法)。特别地,根据下式来改变权重:

其中,γ是学习速率,并且数字δ

基于δ

如果第(n+1)层是输出层5,其中f`是激活函数的一阶导数,并且y

下面,关于图2,将描述卷积神经网络(CNN)22的示例。注意以下事实,在文献中对于经典神经网络和卷积神经网络以稍微不同的方式使用术语“层”。对于经典神经网络,术语“层”仅指形成层的节点集合(节点的某“代”)。对于卷积神经网络,术语“层”通常(并且在本说明书中)用作主动变换数据的对象,换言之,用作同“代”的节点集合以及传入节点集合或传出节点集合。

图2示出了卷积神经网络22的实施方式。在示出的实施方式中,卷积神经网络22包括输入层23、卷积层24、池化层25、全连接层26(也称为密集层)和输出层27。替选地,卷积神经网络22可以包括若干卷积层24、若干池化层25和若干全连接层26以及其他类型的层。层的顺序可以任意选择。通常,全连接层26用作输出层27之前的最后层。

特别地,在卷积神经网络22内,可以将一个层23至27的节点28至32认为被布置为d维矩阵或d维图像。特别地,在二维情况下,可以将第n层23至27中的编索引为i和j的节点28至32的值表示为x

特别地,卷积层24通过基于一定数量的核形成卷积运算的传入边的结构和权重表征。特别地,选择传入边的结构和权重,使得基于先前层23的节点28的值x

这里,第k个核K

如果先前层23的节点28被布置为d维矩阵,则使用多个核可以被解释为添加另外的维(表示为“深度”维),使得卷积层24的节点29被布置为(d+1)维矩阵。如果先前层23的节点28已经被布置为包括深度维的(d+1)维矩阵,则使用多个核可以被解释为沿深度维扩展,使得卷积层24的节点29也被布置为(d+1)维矩阵,其中,该(d+1)维矩阵相对于深度维的大小是先前层23中的大小的核的数量倍大。

使用卷积层24的优点在于,可以通过在相邻层的节点之间实施局部连接模式,特别是通过每个节点仅连接至先前层的节点的小区域,来利用输入数据的空间局部相关。

在示出的实施方式中,输入层23包括36个节点28,其被布置为二维6x6矩阵。卷积层24包括72个节点29,其被布置为两个二维6x6矩阵,这两个矩阵中的每一个是输入层23的值与核卷积的结果。等效地,卷积层24的节点29可以被解释为被布置在三维6x6x2矩阵中,其中,最后的维度是深度维。

池化层25可以由传入边的结构和权重以及基于非线性池化函数f形成池化运算的池化层25的节点30的激活函数来表征。例如,在二维情况下,可以基于先前层24的节点29的值x

x

换言之,通过使用池化层25,可以通过用单个节点30替换先前层24中的数量d

使用池化层25的优点是减少了节点29、节点30的数量和参数的数量。这使网络22中的计算量减少并且对过拟合进行控制。

在示出的实施方式中,池化层25是最大池化层,用仅一个节点30替换四个相邻节点29,值是四个相邻节点29的值中的最大值。将最大池化层应用于先前层24的每个d维矩阵;在该实施方式中,将最大池化层应用于两个二维矩阵中的每一个,从而将节点29、节点30的数量从72减少至18。

全连接层26可以由以下事实表征:存在先前层25的节点30与全连接层36的节点31之间的大多数(特别地,所有)边,并且其中,可以单独地调整每个边的权重。

在该实施方式中,全连接层26的先前层25的节点30既被示为二维矩阵,又被示为非相关节点30(指示为成行的节点30,其中,为了更好的呈现,减少了节点30的数量)。在该实施方式中,全连接层26中的节点31的数量与先前层25中的节点30的数量相等。替选地,节点30、节31的数量可以不同。

此外,在该实施方式中,通过将归一化指数(Softmax)函数应用于先前层26的节点31的值来确定输出层27的节点32的值。通过应用Softmax函数,输出层27的所有节点32的值之和为1,并且输出层27的所有节点32的所有值均为0与1之间的实数。特别地,如果使用卷积神经网络22对输入数据进行分类,则输出层27的值可以被解释为输入数据落入不同类别之一的概率。

卷积神经网络22还可以包括ReLU(“修正线性单元”(“rectified linear unit”)的缩写)层。特别地,RelU层中包含的节点的数量和节点的结构与先前层中包含的节点的数量和节点的结构等同。特别地,通过将修正函数应用于先前层的相应节点的值来计算ReLU层中每个节点的值。修正函数的示例有f(x)=max(0,x)、正切双曲函数或S型函数。

特别地,可以基于反向传播算法来训练卷积神经网络22。为了防止过拟合,可以使用正则化方法,例如,节点28至节点32的退出、随机池化、人工数据的使用、基于L1范数或L2范数的权重衰减,或最大范数约束。

图3是根据本发明的方法的流程图。该计算机实现的方法使用患者肝脏的磁共振数据来确定表征组织的至少一个组织评分,该组织评分可以在稍后阶段由例如医师用于诊断和/或治疗。

使用两种输入数据集33作为输入数据,即至少一个磁共振图像数据集34(其为示出解剖形态的解剖图像数据集34)和至少一个磁共振参数图35(其包含特定参数(特别是来自定量MRI)的空间解析定量值)。至少一个图像数据集34可以优选地使用用于水脂分离的Dixon技术来获取和/或可以是质子密度或弛豫时间加权的。注意,在实施方式中,至少一个图像数据集34中的至少一个可以用于确定至少一个参数图35中的至少一个。至少一个参数图35可以优选地是或者包括T1图、T2图、弛豫时间的倒数值图(特别是作为铁过载的量度的R2*)、描述脂肪分数的质子密度图等。可选的另外输入数据集33(图3中未示出)可以包括功能磁共振数据集,例如表观扩散系数图(ADC图)和/或肝脏硬度的弹性成像图。

在至少一个预处理步骤S1中,可以将输入数据集33彼此配准,以考虑不同成像区域和/或患者的移动和/或在应用不同磁共振成像技术之间的停顿。配准可以基于界标和/或基于强度和/或仿射和/或弹性来执行。在另外的预处理步骤S1中,对感兴趣区域(特别是包含感兴趣的实质肝脏组织的感兴趣区域)进行分割和/或检测。可以采用已知的(特别是计算机实现的)分割和/或检测算法。

预处理还可以包括标准图像处理,如强度归一化、降噪和/或平滑。

在步骤S2中,将输入数据集33用作包括神经网络(特别是深度卷积神经网络)的受训练函数的输入数据。另外的输入数据可以包括附加的标量信息和/或向量信息36,在该实施方式中,附加的标量信息和/或向量信息36设置于患者的电子健康记录37中,其能够由执行预处理和执行受训练函数的计算单元访问。附加信息36可以例如包括人口统计信息、医学历史信息和实验室结果。

受训练函数使用关于约束到感兴趣区域的输入数据集33的输入数据来确定输出数据38,在这种情况下输出数据38包括至少一个组织评分39以及可选地预测结果信息40和不确定性信息41。在该优选的实施方式中,组织评分39至少包括NAS和纤维化分期,但也可以包括另外的评分。预测结果信息40可以包括至少一个风险评分,例如特定治疗的成功或特定事件的概率。通过不确定性估计子函数使用用于不确定性估计的标准方法(例如贝叶斯深度学习模型)来确定不确定性信息41。

通过使用来自训练患者群组的训练数据集来对受训练函数的神经网络进行训练,每个训练数据集包括输入训练数据(特别是输入数据集33和附加信息36),以及用于相应训练患者的输出训练数据,其中,输出训练数据的组织评分39优选地从相应训练患者的组织病理学肝脏活检结果中取得,并且(可选的)预测结果信息40从匿名的结果数据中得出。

图4示出了受训练函数的神经网络42的示例性拓扑。这里应注意,示出的拓扑仅是示例性的;也可以使用各种其他拓扑。

在图4的左边,指示包括输入数据集33(特别是图像数据集34和参数图35)和附加信息36的输入数据43。在该实施方式中每个输入数据集33被输入至专用的卷积部分神经网络44中,每个卷积部分神经网络44包括至少一个卷积层45。卷积部分神经网络44从相应的输入数据集33中独立地提取相关特征46。这些特征例如在展平层(flattening layer)中被连结至特征向量47。当然,卷积部分神经网络44还可以包括另外的层,例如池化层。

对于附加的标量信息和/或向量信息36,还使用具有至少一个全连接层49的密集部分神经网络48来分析这些附加的标量信息和/或向量信息36以提取相关特征。结果为中间数据50,其也通过连结被添加至特征向量47。注意,密集部分神经网络48是可选的;还可以设想将附加信息36直接添加至特征向量47。

卷积部分神经网络44和密集部分神经网络48可以被理解为特征提取器。

然后,将特征向量47馈送通过另外的密集部分神经网络52的多个全连接层51,该另外的密集部分神经网络52然后给出输出数据38。注意,如果要确定至少一个组织评分和预测结果信息,则可以为至少一个组织评分和预测结果信息提供分开的密集部分神经网络52。

图5示出了根据本发明实施方式的表征系统53的原理图。该表征系统53被配置成执行根据本发明的表征方法,并且因此包括用于接收输入数据43的第一接口54、用于分析输入数据43的计算单元55、以及用于提供输出数据38的第二接口56。计算单元55可以包括至少一个处理器和/或至少一个存储装置,计算单元55包括如上所述的用于执行步骤S2的受训练函数57,并且可以另外包括用于执行步骤S1的预处理子单元58。

图6是磁共振成像设备59的示意图。如已知的,该磁共振成像设备59包括主磁体单元60,该主磁体单元容纳主要场磁体并且具有孔60,可以例如使用患者台将患者放置在该孔中以进行获取。为了简单起见,未示出患者台以及磁共振成像设备59的其他典型部件,如梯度线圈和高频线圈。

使用控制设备61来控制磁共振成像设备59。在该实施方式中,根据本发明的表征系统53被集成到控制设备61中,使得可以在现场关于肝脏组织的表征来分析磁共振输入数据集33。为了从电子健康记录37检索附加信息36,控制设备61可以例如经由本地网络或因特网连接而连接至数据库62。

虽然已经参考优选的实施方式详细地描述了本发明,但本发明不限于所公开的示例,本领域技术人员能够在不脱离本发明的范围的情况下从所公开的示例得出其他变型。

去获取专利,查看全文>

相似文献

  • 专利
  • 中文文献
  • 外文文献
获取专利

客服邮箱:kefu@zhangqiaokeyan.com

京公网安备:11010802029741号 ICP备案号:京ICP备15016152号-6 六维联合信息科技 (北京) 有限公司©版权所有
  • 客服微信

  • 服务号