发明内容
针对现有技术中的上述技术问题,本申请实施例提出了一种三维模型的组织漂移校正方法、装置、电子设备及计算机可读存储介质,以解决术中脑组织形变快速可靠配准三维数字模型的问题。
本申请实施例的第一方面提供了一种三维模型的组织漂移校正方法,包括:
基于采集的医学影像数据建立三维模型;
在追踪系统辅助下使用第一数据采集单元采集至少三个体表特征点的空间位置信息,与所述三维模型进行刚性配准,建立真实空间到所述三维模型的转换矩阵;所述体表特征点可以是眼角,鼻尖等,也可以是骨钉或者粘贴在皮肤表面的标志物;
选取所述三维模型中颅骨内组织结构的至少四个标志点,记录所述标志点在三维模型中的空间位置信息作为第一空间位置信息,在脑组织发生形变后,在追踪系统辅助下使用第二数据采集单元再次获取至少三个所述标志点的空间位置信息,并通过所述转换矩阵转换为所述标志点在三维模型中空间位置信息作为第二空间位置信息,将所述标志点的第二空间位置信息与所述第一位置信息进行配对,获得非刚性匹配关系;
使用所述非刚性匹配关系对所述三维模型进行校准,得到经校准的三维模型。
在一些实施例中,获取记录所述第一空间位置信息的过程可在所述三维模型的转换矩阵建立完成后与所述第二数据采集单元获取至少三个所述标志点的空间位置信息之前进行。
在一些实施例中,所述医学影像数据包括以下一种或更多种:电子计算机断层扫描(CT,Computed Tomography)、磁共振成像(MRI,Magnetic Resonance Imaging)、X光、C臂、以及正电子发射计算机断层显像(PET,Positron Emission Tomography)。
在一些实施例中,所述方法中,所述三维模型为脑部三维模型,所述体表特征点包括面部的特征点,例如鼻尖、眼角等,粘贴在表面的标志物,以及与颅骨固定连接的结构,例如骨钉等,所述内部组织结构为脑组织结构,包括血管结构。
在一些实施例中,所述提取所述三维模型中内部组织结构的标志点包括:
根据深度学习算法对所述三维模型进行处理,分割并提取特征,获得血管组织结构及多个血管标志点。
在一些实施例中,所述方法还包括:
使用探针和校准三维模型过程中未使用过的至少一个标志点,对所述经过校准的的三维模型进行校验。
在一些实施例中,所述方法中,所述第二数据采集单元使用探针、激光点云、以及无接触式激光超声波中的至少一项获取所述多个标志点的空间位置信息。
在一些实施例中,所述血管结构包括脑组织深部血管结构,使用无接触式超声波获取脑组织深部血管的空间位置信息,然后通过所述体表特征点注册得到的转换矩阵转换为深部血管的第二空间位置信息。
本申请实施例的第二方面提供了一种三维模型的组织漂移校正装置,包括:
三维建模模块,用于基于采集的医学影像数据建立三维模型;
追踪模块,用于采集追踪系统坐标系下的空间位置信息;
配准模块,使用所述追踪模块辅助下第一数据采集单元采集的至少三个体表特征点的空间位置信息与所述三维模型进行刚性配准,建立实际空间到三维模型的配准关系;
模型修正模块,选取所述三维模型中颅骨内组织结构的至少四个标志点,记录所述标志点在三维模型中空间位置信息作为第一空间位置信息,使用第二数据采集单元在脑组织形变后再次获取至少三个所述标志点的空间位置信息,并通过所述转换矩阵转换为所述标志点在所述三维模型中空间位置信息作为第二空间位置信息,将所述标志点的第二空间位置信息与所述第一位置信息进行匹配,获得非刚性匹配关系,然后使用所述非刚性匹配关系对所述三维模型进行修正。
在一些实施例中,所述装置中,所述三维模型为脑部三维模型,所述体表特征点为颅骨和/或面部处的固定结构和/或器件,所述内部组织结构为血管结构。
在一些实施例中,所述三维建模模块包括:
标志点提取模块,用于根据深度学习算法对所述三维模型进行处理,分割并提取特征,获得血管组织结构及多个血管标志点。
在一些实施例中,所述装置还包括:
校验模块,用于使用探针和/或所述多个标志点之外的至少一个标志点,对所述校正矩阵和/或修正后的三维模型进行校验。
在一些实施例中,所述装置中,使用探针、激光点云、以及无接触式激光超声波中的至少一项获取所述多个标志点的空间位置信息。
本申请实施例的第三方面提供了一种电子设备,包括:
存储器以及一个或多个处理器;
其中,所述存储器与所述一个或多个处理器通信连接,所述存储器中存储有可被所述一个或多个处理器执行的指令,所述指令被所述一个或多个处理器执行时,所述电子设备用于实现如前述各实施例所述的方法。
本申请实施例的第四方面提供了一种计算机可读存储介质,其上存储有计算机可执行指令,当所述计算机可执行指令被计算装置执行时,可用来实现如前述各实施例所述的方法。
本申请实施例的第五方面提供了一种计算机程序产品,所述计算机程序产品包括存储在计算机可读存储介质上的计算机程序,所述计算机程序包括程序指令,当所述程序指令被计算机执行时,可用来实现如前述各实施例所述的方法。
本申请实施例的第六方面提供了一种手术导航系统,所述手术导航系统包括如上所述的三维模型的组织漂移校正装置以及数据采集单元、图像处理单元和显示单元。
在一些实施例中,所述数据采集单元包括X光、CT、MRI、常规超声、探针、激光点云、以及无接触式激光超声波中的至少一项。
本申请实施例的技术方案,通过内外部双重组织标志点的两次配准和校正来提升三维数字模型的一致性,从而有效解决术中脑组织形变造成三维数字模型漂移的问题。
具体实施方式
在下面的详细描述中,通过示例阐述了本申请的许多具体细节,以便提供对相关披露的透彻理解。然而,对于本领域的普通技术人员来讲,本申请显而易见的可以在没有这些细节的情况下实施。应当理解的是,本申请中使用“系统”、“装置”、“单元”和/或“模块”术语,是用于区分在顺序排列中不同级别的不同部件、元件、部分或组件的一种方法。然而,如果其他表达式可以实现相同的目的,这些术语可以被其他表达式替换。
应当理解的是,当设备、单元或模块被称为“在……上”、“连接到”或“耦合到”另一设备、单元或模块时,其可以直接在另一设备、单元或模块上,连接或耦合到或与其他设备、单元或模块通信,或者可以存在中间设备、单元或模块,除非上下文明确提示例外情形。例如,本申请所使用的术语“和/或”包括一个或多个相关所列条目的任何一个和所有组合。
本申请所用术语仅为了描述特定实施例,而非限制本申请范围。如本申请说明书和权利要求书中所示,除非上下文明确提示例外情形,“一”、“一个”、“一种”和/或“该”等词并非特指单数,也可包括复数。一般说来,术语“包括”与“包含”仅提示包括已明确标识的特征、整体、步骤、操作、元素和/或组件,而该类表述并不构成一个排它性的罗列,其他特征、整体、步骤、操作、元素和/或组件也可以包含在内。
参看下面的说明以及附图,本申请的这些或其他特征和特点、操作方法、结构的相关元素的功能、部分的结合以及制造的经济性可以被更好地理解,其中说明和附图形成了说明书的一部分。然而,可以清楚地理解,附图仅用作说明和描述的目的,并不意在限定本申请的保护范围。可以理解的是,附图并非按比例绘制。
本申请中使用了多种结构图用来说明根据本申请的实施例的各种变形。应当理解的是,前面或下面的结构并不是用来限定本申请。本申请的保护范围以权利要求为准。
现有的手术导航系统并不能有效解决术中组织形变影响预建三维数字模型精度的问题,尤其是脑组织因体积较大和结构不均一,现有的沟回特征标志点方式并不能达到很好的校正效果。有鉴于此,本申请实施例提供了一种三维模型的组织漂移校正方法,通过内外部双重组织标志点的两次配准和校正来提升三维数字模型的一致性,从而有效解决术中脑组织形变造成三维数字模型漂移的问题。在本申请的一个实施例中,如图1所示,三维模型的组织漂移校正方法包括步骤:
S101,基于包含脑部信息的医学影像数据(CT、MRI、PET等)建立三维模型;
S102,使用追踪系统(探针、激光点云)采集至少三个体表特征点的空间位置信息,与所述三维模型进行配准,建立真实空间到所述三维模型的转换矩阵;
S103,选取所述三维模型中颅骨内组织结构的至少四个标志点;选取的也可以是颅骨内组织结构的点云,记录所述标志点在所述追踪系统或所述三维模型中的第一空间位置信息,在脑组织发生形变后,使用追踪系统(探针、激光点云)再次获取至少三个所述标志点三维空间位置信息,并通过所述转换矩阵转换为所述标志点在所述三维模型中空间位置信息作为第二空间位置信息,将所述标志点的第二空间位置信息与所述追踪系统或三维模型中的第一位置信息进行配对,获得非刚性匹配关系;
S104,使用所述非刚性匹配关系对所述三维模型进行校准,得到经校准的三维模型。其中,在本申请的实施例中,所述三维模型优选为脑部三维模型,所述体表特征点优选为颅骨和/或面部等处的特征结构和/或器件,比如眼角、鼻子或(植入的)骨钉等,所述内部组织结构优选为血管结构。因而本申请的技术方案优选应用于脑部外科手术的手术导航上,通过使用外部组织和内部组织的两次配准和校正来提升三维数字模型与实际组织结构的一致性,解决了术中脑组织的立体结构形变大影响三维数字模型精度降低手术导航性能的问题。
可选地,非刚性配准采用基于三维模型的位置信息方式进行配准,用以使所述三维模型相应的血管结构对应的信息,同脑漂移之后血管结构对应的信息保持一致,
可选地,所述非刚性配准过程包括:
提取脑部血管结构的特征点,得到特征点的第一空间位置信息,将这些特征点作为源点,和边组成源曲面,
然后获得这些特征点的第二空间位置信息作为采样点,构成目标曲面;
对源曲面使用局部仿射变换,使其与脑漂移之后的血管对齐。
可选地,所述非刚性配准的结果表达模式为变形图,具体包括:每个顶点对应的仿射矩阵。
可选地,所述变形图的仿射变换过程,需要考量的因素包括:对准误差、所述血管结构整体的转换正则化以及变换矩阵和旋转矩阵之间的偏差,
所述对准误差对应的所述仿射变换过程的影响结果为配准有效性;
所述血管结构整体的转换正则化对应的所述仿射变换过程的影响结果为局部一致性;
所述变换矩阵和旋转矩阵之间的偏差对应的所述仿射变换过程的影响结果为局部刚性。
可选地,所述变形图的仿射变换结果得到方式包括:根据实际需求对除对准误差外的所述考量因素进行加权处理,将全部加权处理后的考量因素同对准误差进行加和,结果最小值作为所述变换图形的仿射变换结果,
所述除对准误差外地所述考量因素包括:所述源曲面整体的转换正则化以及变换矩阵和旋转矩阵之间的偏差。
可选地,所述源曲面支持局部仿射变换过程,具体操作过程如上所述。
进一步地,在本申请的一个优选实施例中,在上述步骤S101中,根据深度学习算法对所述三维模型进行处理,分割并提取特征,获得血管组织结构及多个血管标志点。在本申请的优选实施例中,主要使用脑部血管标志点作为校正基础,由于血管具有分布范围广及与周围组织区分度大等特点,因而本申请实施例中的方法鲁棒性高。
可选地,上述步骤S101中,对于所述获得血管组织结构及多个血管标志点过程还可在上述步骤S103中进行,
对于所述获得血管组织结构及多个血管标志点过程的执行顺序根据实际情况进行选取。
可选地,所述分割并提取特征过程,使用基于3D Attention U-Net的深度学习模型进行血管分割;
3D Attention U-Net在结构上使用了跳跃式传递(skip-connection),以使最终所述预测图中更多细节特征(low-level)得到保留并融合,图像细节保留的品质;
并且通过注意力机制,可以更好的关注血管而非背景(空气或其它组织等),以使所述预测图结果更精确。
可选地,选取Models Genesis模型进行预训练,所述Models Genesis提升所述血管结构的空间特征学习效果,使模型适应血管分割任务效果提升。
可选地,所述预训练过程包括:
所述Models Genesis对输入的3D图像进行图像变换,并输入所述3DAttention U-Net模型;
所述3D Attention U-Net对变换后的所述3D图像还原并以此进行训练。
可选地,所述3D图像内容包括脑组织解剖结构、灰度分布以及血管的空间结构。
可选地,所述3D图像的图像变换内容包括:非线性变换、局部像素重组以及图像边缘模糊。
可选地,所述3D Attention U-Net训练内容包括:脑组织解剖结构、灰度分布以及血管的空间结构。
优选地,在本申请的实施例中,使用探针、激光点云中的至少一项获取所述多个标志点的空间位置信息。对于体表特征点,其空间位置信息比较容易采集,使用探针、激光点云在表面实时探测即可获得;而对于内部组织结构的标志点,如果仅位于表面,也可以使用激光点云在表面探测,进而获得标志点及其空间位置信息(因人体组织本身有弧度,这些表面标志点的空间位置信息也可以包括多个方向的信息)。
可选地,通过扫描影响实现对血管的特征识别,血管的识别特征包括:血管颜色、血管连续性以及血管边界。
可选地,通过图像处理获取血管的mask,从而获得血管的点云。
但在本申请的优选实施例中,标志点也可以是组织深部的,这些表面探测手段无法获得比较理想的组织深部的空间位置信息,如果要借助大型设备(比如X光机、CT机、MRI等)来采集,在术中是非常昂贵的;为避免对手术造成不良影响,甚至连接触式的探测手段(比如B超、彩超等)都不应使用。为了解决这一问题,在本申请的优选实施例中,使用无接触式激光超声波来对组织深部标志点的空间位置信息进行采集。其中,激光超声波方式原理如下,其向人体发送特定波长的激光脉冲,穿透皮肤让血管组织吸收;血管组织被激光加热快速扩张放松,又很快被体温冷却复原,在下一次脉冲到来时又重复这个过程,因而产生的机械振动形成声波。在此基础上,进一步设计另一个相同波长的激光波,在一定距离接收从人体返回的声波信号,完成成像。通过这种方式,激光超声波技术可以从距离人体半米以内的地方进行扫描,获得人体内部的肌肉、脂肪和骨骼等组织的信息,该方式至少可以穿透皮肤以下6厘米的深度,能够以无接触的方式有效探测内部深度组织的构造,从而使深部脑组织的形变校正成为可能。
此外,为进一步提升手术导航系统的精度,在本申请的一个优选实施例中,使用探针和/或所述多个标志点之外的至少一个标志点,对所述校正矩阵和/或修正后的三维模型进行校验。其中,使用探针校验包括:使用探针对内部组织结构表面或浅表的至少一个校验点(除已用于注册的所述标志点外的任一点)进行探测,根据所述校验点的空间位置信息及其在修正后的三维模型中位置信息的一致性校验所述校正矩阵和/或修正后的三维模型的可靠性。使用所述多个标志点之外的至少一个标志点校验包括:提取尚未使用的至少一个标志点,对其空间位置信息进行探测,根据其空间位置信息在修正后的三维模型中位置信息与真实位置的一致性校验所述校正矩阵和/或修正后的三维模型的可靠性。
在本申请的实施例中,体表特征点的初次配准为刚性配准,其在术前和术中形变较小,比较容易识别和处理,初次配准主要用于确定术前的注册关系。而血管等内部组织结构标志点在术前和术中形变较大,且具有不确定性,计算其位移关系的二次配准为非刚性配准,用于确定真实形变的组织漂移程度。三维模型使用校正矩阵T2进行转换,得到新的三维模型,从而继续使用转换关系T1进行导航。
图2是根据本申请的一些实施例所示的三维模型的组织漂移校正装置示意图。如图2所示,该装置200包括:
三维建模模块210,用于基于采集的医学影像数据建立三维模型;
追踪模块220,用于采集追踪系统坐标系下的空间位置信息;配准模块230,使用所述追踪模块辅助下第一数据采集单元采集的至少三个体表特征点的空间位置信息与所述三维模型进行刚性配准,建立实际空间到三维模型的配准关系;
模型修正模块240,选取所述三维模型中颅骨内组织结构的至少四个标志点,记录所述标志点在三维模型中空间位置信息作为第一空间位置信息,使用第二数据采集单元在脑组织形变后再次获取至少三个所述标志点的第二空间位置信息,将所述标志点的第二空间位置信息与所述第一位置信息进行匹配,获得非刚性匹配关系,然后使用所述非刚性匹配关系对所述三维模型进行修正。其中,本申请实施例中的三维模型的组织漂移校正方法及装置主要应用于手术导航系统中,在手术导航系统中显然还包括一些医学影像数据的采集、处理、投影和成像模块等硬件单元,这些硬件单元一般采用现有技术中已有的硬件单元实现即可,因本申请的技术方案主要对三维模型的校正处理过程进行改进,此处不再对这些现有的硬件单元逐一展开说明。
在一些实施例中,所述装置中,所述三维模型为脑部三维模型,所述体表特征点为颅骨和/或面部处的固定结构和/或器件,所述内部组织结构为血管结构。
在一些实施例中,所述三维建模模块包括:
标志点提取模块,用于根据深度学习算法对所述三维模型进行处理,分割并提取特征,获得血管组织结构及多个血管标志点。
在一些实施例中,所述装置还包括:
校验模块,用于使用探针和/或所述多个标志点之外的至少一个标志点,对所述校正矩阵和/或修正后的三维模型进行校验。
在一些实施例中,所述装置中,使用探针、激光点云以及无接触式激光超声波中的至少一项获取所述多个标志点的空间位置信息。
参见图3,为本申请一个实施例提供的电子设备示意图。如图3所示,该电子设备500包括:
存储器530以及一个或多个处理器510;
其中,所述存储器530与所述一个或多个处理器510通信连接,通信总线540,所述存储器530中存储有可被所述一个或多个处理器执行的程序指令532,所述程序指令532被所述一个或多个处理器510执行,以使所述一个或多个处理器510执行上述方法实施例中的各个步骤。进一步地,该电子设备500还可通过通信接口520与外部设备进行交互。
在一些实施例中,定位导航系统可以是光学手术导航系统、电磁导航系统等;
所述光学手术导航系统主要包括:红外光手术导航系统和可见光手术导航系统;
所述红外光学手术导航系统包括:主机,红外追踪相机系统,带有定位标志物的探针。
在一些实施例中,可使用所述红外光学手术导航系统进行三维模型矫正,具体包括:
主机接收所述医学影像并建立三维模型;
使用探针采集与颅骨表面固定连接的至少三个体表特征点,获取所述体表特征点在所述红外追踪相机系统坐标系下的空间位置;
所述红外光学手术导航系统将所述骨钉的空间位置与所述三维模型进行配准,建立实际空间与所述三维模型一一对应的转换矩阵;
挑选至少四个脑组织血管分叉处作为标志点,在所述三维模型中显示其位置作为第一空间位置信息;
当所述脑组织形变后,所述探针采集脑组织形变后的至少三个所述标志点的空间位置,并根据所述转换矩阵转换到所述三维模型中,所述脑组织变形后的标志点转换到所述三维模型中的坐标位置作为第二空间位置信息;
所述主机根据所述标志点的所述第一空间位置信息和所述第二空间位置信息建立非刚性匹配关系;
所述主机然后通过建立的所述非刚性匹配关系对所述三维模型进行校准,使所述三维模型与变形后的所述脑组织结构一致。
可选地,所述体表特征点包括:眼角、鼻尖、骨钉以及粘贴在皮肤表面的标志物。
可选地,还可以使用建立所述非刚性匹配关系中未使用的其他所述标志点进行验证,记录所述标志点在三维模型中的理论坐标位置,然后使用探针在所述红外追踪相机系统的追踪下采集所述标志点的空间位置,使用所述转换矩阵计算出在所述三维模型坐标系中的位置作为实际坐标位置,然后计算理论位置坐标位置与实际坐标位置的差值,作为评估所述非刚性匹配关系的参数。
本申请的一个实施例提供一种计算机可读存储介质,所述计算机可读存储介质中存储有计算机可执行指令,所述计算机可执行指令被执行后执行上述方法实施例中的各个步骤。
所属领域的技术人员可以清楚地了解到,为描述的方便和简洁,上述描述的设备和模块的具体工作过程,可以参考前述方法和/或装置实施例中的对应描述,在此不再赘述。
尽管此处所述的主题是在结合操作系统和应用程序在计算机系统上的执行而执行的一般上下文中提供的,但本领域技术人员可以认识到,还可结合其他类型的程序模块来执行其他实现。一般而言,程序模块包括执行特定任务或实现特定抽象数据类型的例程、程序、组件、数据结构和其他类型的结构。本领域技术人员可以理解,此处所述的本主题可以使用其他计算机系统配置来实践,包括手持式设备、多处理器系统、基于微处理器或可编程消费电子产品、小型计算机、大型计算机等,也可使用在其中任务由通过通信网络连接的远程处理设备执行的分布式计算环境中。在分布式计算环境中,程序模块可位于本地和远程存储器存储设备的两者中。
本领域普通技术人员可以意识到,结合本文中所公开的实施例描述的各示例的单元及方法步骤,能够以电子硬件、或者计算机软件和电子硬件的结合来实现。这些功能究竟以硬件还是软件方式来执行,取决于技术方案的特定应用和设计约束条件。专业技术人员可以对每个特定的应用来使用不同方法来实现所描述的功能,但是这种实现不应认为超出本申请的范围。
所述功能如果以软件功能单元的形式实现并作为独立的产品销售或使用时,可以存储在一个计算机可读取存储介质中。基于这样的理解,本申请的技术方案本质上或者说对原有技术做出贡献的部分或者该技术方案的部分可以以软件产品的形式体现出来,该计算机软件产品存储在一个存储介质中,包括若干指令用以使得一台计算机设备(可以是个人计算机,服务器,或者网络设备等)执行本申请各个实施例所述方法的全部或部分步骤。而前述的计算机可读取存储介质包括以存储如计算机可读指令、数据结构、程序模块或其他数据等信息的任何方式或技术来实现的物理易失性和非易失性、可移动和不可因东介质。计算机可读取存储介质具体包括,但不限于,U盘、移动硬盘、只读存储器(ROM,Read-Only Memory)、随机存取存储器(RAM,Random Access Memory)、可擦除可编程只读存储器(EPROM)、电可擦可编程只读存储器(EEPROM)、闪存或其他固态存储器技术、CD-ROM、数字多功能盘(DVD)、HD-DVD、蓝光(Blue-Ray)或其他光存储设备、磁带、磁盘存储或其他磁性存储设备、或能用于存储所需信息且可以由计算机访问的任何其他介质。
综上所述,本公开提出了一种三维模型的组织漂移校正方法、装置、电子设备及其计算机可读存储介质。通过本申请实施例的技术方案,通过内外部双重组织标志点的两次配准和校正来提升三维数字模型的一致性,从而有效解决术中脑组织形变造成三维数字模型漂移的问题。
应当理解的是,本申请的上述具体实施方式仅仅用于示例性说明或解释本申请的原理,而不构成对本申请的限制。因此,在不偏离本申请的精神和范围的情况下所做的任何修改、等同替换、改进等,均应包含在本申请的保护范围之内。此外,本申请所附权利要求旨在涵盖落入所附权利要求范围和边界、或者这种范围和边界的等同形式内的全部变化和修改例。