基于变焦内窥镜成像的曝光参数控制方法和装置与流程

未命名 09-19 阅读:70 评论:0


1.本技术涉及医学影像技术,特别涉及一种基于变焦内窥镜成像的曝光参数控制方法、一种基于变焦内窥镜成像的曝光参数控制装置、以及一种内窥成像系统。


背景技术:

2.内窥镜可以经人体的天然孔道或者微创切口进入人体的体内,并且,通过内窥镜成像得到的图像可以呈现体内的器官或组织。其中,通过内窥镜成像得到的图像可以包括对可见光成像的可见光图像,并且,在某些手术场景中,还需要通过内窥镜对荧光信号成像得到荧光图像,以借助器官或组织在荧光图像中的荧光显影区域的图像局部亮度辨识荧光信号的荧光强度,该荧光信号的荧光强度可以反应出器官或组织是否发生病变。
3.无论是可见光图像还是荧光图像,都需要将曝光参数控制在合理的范围内。通常情况下,可以基于表征全局亮度的图像平均亮度控制可见光图像和荧光图像成像时的曝光参数,以促使图像平均亮度趋近于具有固定亮度值的目标亮度。
4.然而,若内窥镜选用变焦内窥镜,则,针对荧光图像成像时的曝光参数的上述控制方式,会在变焦内窥镜的焦距变化过程中引发荧光图像中的荧光显影区域发生亮度突变,这样的亮度突变会干扰对器官或组织是否发生病变的判断。
5.因此,如何抑制荧光图像中的荧光显影区域在变焦内窥镜的焦距变化过程中发生亮度突变,成为现有技术中有待解决的技术问题。


技术实现要素:

6.本技术的实施例提供了一种基于变焦内窥镜成像的曝光参数控制方法、一种基于变焦内窥镜成像的曝光参数控制装置、以及一种内窥成像系统,有助于抑制荧光图像中的荧光显影区域在变焦内窥镜的焦距变化过程中发生亮度突变。
7.在本技术的一个实施例中,一种基于变焦内窥镜成像的曝光参数控制方法包括:
8.在第一成像时刻通过变焦内窥镜对荧光信号成像得到的荧光图像中,检测所述变焦内窥镜的有效视野区域内的荧光显影区域,其中,所述荧光信号的波段范围不同于可见光波段,所述有效视野区域的区域尺寸与所述变焦内窥镜的焦距关联,并且,所述荧光信号在所述荧光显影区域的信号强度高于或等于预设的荧光强度阈值;
9.响应于对所述荧光显影区域的成功检测,确定所述荧光显影区域在所述有效视野区域中的区域面积占比在第二成像时刻的比例预判值,其中,所述第二成像时刻为跟随于所述第一成像时刻的相邻成像时刻,所述比例预判值与所述变焦内窥镜在所述第二成像时刻的焦距相比于所述第一成像时刻的焦距变化量关联;
10.基于所述比例预判值,确定目标亮度在所述第二成像时刻的亮度值,其中,所述目标亮度用于控制对所述荧光信号成像的曝光参数。
11.在一些示例中,可选地,还包括:基于在所述第一成像时刻通过所述变焦内窥镜对可见光成像得到的可见光图像,确定所述有效视野区域的视野区域位置信息,其中,所述视
野区域位置信息与所述变焦内窥镜在所述第一成像时刻的焦距关联,并且,所述视野区域位置信息用于确定在所述荧光图像中检测所述荧光显影区域时的目标检测区域。
12.在一些示例中,可选地,所述基于在所述第一成像时刻通过所述变焦内窥镜曝光成像得到的可见光图像,确定所述有效视野区域的视野区域位置信息,包括:基于在所述可见光图像中识别出的所述有效视野区域、以及在所述可见光图像之前通过所述变焦内窥镜成像得到的历史可见光图像中识别出的历史有效视野区域,确定所述视野区域位置信息。
13.在一些示例中,可选地,所述在第一成像时刻通过变焦内窥镜对荧光信号成像得到的荧光图像中,检测所述变焦内窥镜的有效视野区域内的荧光显影区域,包括:提取所述荧光图像中与所述有效视野区域位置匹配的目标图像区域;对所述目标图像区域进行以所述荧光强度阈值为亮度分界的二值化处理,其中,所述二值化处理得到的二值化图像中包括用于表征信号强度高于或等于所述荧光强度阈值的第一像素值区域、以及用于表征信号强度低于所述荧光强度阈值的第二像素值区域;对所述第一像素值区域进行形态学处理;基于所述第一像素值区域经所述形态学处理后的区域轮廓,确定所述荧光显影区域。
14.在一些示例中,可选地,所述确定所述荧光显影区域在所述有效视野区域中的区域面积占比在第二成像时刻的比例预判值,包括:基于视野区域位置信息和显影区域位置信息,确定所述荧光显影区域和所述有效视野区域在所述第一成像时刻的相对位置关系,其中,所述视野区域位置信息用于确定在所述荧光图像中检测所述荧光显影区域时的目标检测区域,并且,所述显影区域位置信息用于表征所述荧光显影区域在所述荧光图像中的检测命中区域;基于所述相对位置关系,确定所述第二成像时刻的所述荧光显影区域在所述有效视野区域内的区域面积变化量;基于所述区域面积变化量,确定所述比例预判值。
15.在一些示例中,可选地,所述相对位置关系包括所述荧光显影区域是否与所述有效视野区域的边界相交;所述基于所述相对位置关系、以及所述焦距变化量,确定所述第二成像时刻的所述荧光显影区域在所述有效视野区域内的区域面积变化量,包括:响应于表示所述荧光显影区域与所述有效视野区域的边界相交的第一类位置关系,基于所述焦距变化量确定所述区域面积变化量;响应于表示所述荧光显影区域与所述有效视野区域的边界不相交的第二类位置关系,确定所述区域面积变化量为零。
16.在一些示例中,可选地,所述基于所述焦距变化量确定所述区域面积变化量,包括:响应于所述焦距变化量为增量的焦距增大趋势,基于所述荧光显影区域与所述有效视野区域的视野边界相交的交线长度、以及所述有效视野区域的径向尺寸在所述第二成像时刻由于所述焦距变化量引发的径向尺寸变化量,预测所述荧光显影区域在所述第二成像时刻移入所述有效视野区域的边界之内的增长区域面积,所述增长区域面积用于表征所述区域面积变化量;响应于所述焦距变化量为减量的焦距减小趋势,基于所述有效视野区域的径向尺寸在所述第二成像时刻由于所述焦距变化量引发的径向尺寸变化量,确定所述荧光显影区域在所述第二成像时刻移出所述有效视野区域的边界之外的割除区域面积,所述割除区域面积用于表征所述区域面积变化量。
17.在一些示例中,可选地,所述基于所述区域面积变化量,确定所述比例预判值,包括:基于所述区域面积变化量、所述荧光显影区域在所述第一成像时刻的当前区域面积、以及所述有效视野区域在所述第二成像时刻的视野区域面积,确定所述比例预判值;其中,所述有效视野区域在所述第二成像时刻的视野区域面积与所述有效视野区域在所述第二成
像时刻的径向尺寸关联,并且,所述有效视野区域在所述第二成像时刻的径向尺寸与所述变焦内窥镜在所述第二成像时刻的焦距关联。
18.在一些示例中,可选地,所述基于所述比例预判值,确定目标亮度在所述第二成像时刻的亮度值,包括:基于所述比例预判值、以及预先设定的所述比例预判值与所述目标亮度之间的反单调性关系,确定所述目标亮度在所述第二成像时刻的亮度值。
19.在本技术的另一个实施例中,一种基于变焦内窥镜成像的曝光参数控制装置包括:
20.显影检测模块,用于在第一成像时刻通过变焦内窥镜对荧光信号成像得到的荧光图像中,检测所述变焦内窥镜的有效视野区域内的荧光显影区域,其中,所述荧光信号的波段范围不同于可见光波段,所述有效视野区域的区域尺寸与所述变焦内窥镜的焦距关联,并且,所述荧光信号在所述荧光显影区域的信号强度高于或等于预设的荧光强度阈值;
21.比例预判模块,用于响应于对所述荧光显影区域的成功检测,确定所述荧光显影区域在所述有效视野区域中的区域面积占比在第二成像时刻的比例预判值,其中,所述第二成像时刻为跟随于所述第一成像时刻的相邻成像时刻,所述比例预判值与所述变焦内窥镜在所述第二成像时刻的焦距相比于所述第一成像时刻的焦距变化量关联;
22.目标确定模块,用于基于所述比例预判值,确定目标亮度在所述第二成像时刻的亮度值,其中,所述目标亮度用于控制对所述荧光信号成像的曝光参数。
23.在一些示例中,可选地,还包括:视野确定模块,用于基于在所述第一成像时刻通过所述变焦内窥镜曝对可见光成像得到的可见光图像,确定所述有效视野区域的视野区域位置信息,其中,所述视野区域位置信息与所述变焦内窥镜在所述第一成像时刻的焦距关联,并且,所述视野区域位置信息用于确定在所述荧光图像中检测所述荧光显影区域时的目标检测区域。
24.在一些示例中,可选地,所述视野确定模块被具体配置为:基于在所述可见光图像中识别出的所述有效视野区域、以及在所述可见光图像之前通过所述变焦内窥镜成像得到的历史可见光图像中识别出的历史有效视野区域,确定所述视野区域位置信息。
25.在一些示例中,可选地,所述显影检测模块被具体配置为:提取所述荧光图像中与所述有效视野区域位置匹配的目标图像区域;对所述目标图像区域进行以所述荧光强度阈值为亮度分界的二值化处理,其中,所述二值化处理得到的二值化图像中包括用于表征信号强度高于或等于所述荧光强度阈值的第一像素值区域、以及用于表征信号强度低于所述荧光强度阈值的第二像素值区域;对所述第一像素值区域进行形态学处理;基于所述第一像素值区域经所述形态学处理后的区域轮廓,确定所述荧光显影区域。
26.在一些示例中,可选地,所述比例预判模块被具体配置为:基于视野区域位置信息和显影区域位置信息,确定所述荧光显影区域和所述有效视野区域在所述第一成像时刻的相对位置关系,其中,所述视野区域位置信息用于确定在所述荧光图像中检测所述荧光显影区域时的目标检测区域,并且,所述显影区域位置信息用于表征所述荧光显影区域在所述荧光图像中的检测命中区域;基于所述相对位置关系,确定所述第二成像时刻的所述荧光显影区域在所述有效视野区域内的区域面积变化量;基于所述区域面积变化量,确定所述比例预判值。
27.在一些示例中,可选地,所述相对位置关系包括所述荧光显影区域是否与所述有
效视野区域的边界相交;所述比例预判模块被具体配置为:响应于表示所述荧光显影区域与所述有效视野区域的边界相交的第一类位置关系,基于所述焦距变化量确定所述区域面积变化量;响应于表示所述荧光显影区域与所述有效视野区域的边界不相交的第二类位置关系,确定所述区域面积变化量为零。
28.在一些示例中,可选地,所述比例预判模块被具体配置为:响应于所述焦距变化量为增量的焦距增大趋势,基于所述荧光显影区域与所述有效视野区域的视野边界相交的交线长度、以及所述有效视野区域的径向尺寸在所述第二成像时刻由于所述焦距变化量引发的径向尺寸变化量,预测所述荧光显影区域在所述第二成像时刻移入所述有效视野区域的边界之内的增长区域面积,所述增长区域面积用于表征所述区域面积变化量;响应于所述焦距变化量为减量的焦距减小趋势,基于所述有效视野区域的径向尺寸在所述第二成像时刻由于所述焦距变化量引发的径向尺寸变化量,确定所述荧光显影区域在所述第二成像时刻移出所述有效视野区域的边界之外的割除区域面积,所述割除区域面积用于表征所述区域面积变化量。
29.在一些示例中,可选地,所述比例预判模块被具体配置为:基于所述区域面积变化量、所述荧光显影区域在所述第一成像时刻的当前区域面积、以及所述有效视野区域在所述第二成像时刻的视野区域面积,确定所述比例预判值;其中,所述有效视野区域在所述第二成像时刻的视野区域面积与所述有效视野区域在所述第二成像时刻的径向尺寸关联,并且,所述有效视野区域在所述第二成像时刻的径向尺寸与所述变焦内窥镜在所述第二成像时刻的焦距关联。
30.在一些示例中,可选地,所述目标确定模块被具体配置为:基于所述比例预判值、以及预先设定的所述比例预判值与所述目标亮度之间的反单调性关系,确定所述目标亮度在所述第二成像时刻的亮度值。
31.在本技术的另一个实施例中,一种内窥成像系统包括:
32.变焦内窥镜,包括变焦镜组、以及第一图像传感器和第二图像传感器,其中,所述第一图像传感器用于基于所述变焦内窥镜的有效视野区域内的荧光光信号成像得到荧光图像,并且,所述第二图像传感器用于基于所述有效视野区域内的所述可见光信号成像得到可见光图像;
33.激励光光源,用于产生在所述有效视野区域内激发所述荧光信号的激励光;
34.可见光光源,用于产生覆盖所述有效视野区域的可见光;
35.处理器组件,用于执行前述实施例中的曝光参数控制方法。
36.在本技术的另一个实施例中,一种非瞬时计算机可读存储介质,其存储指令,所述指令在由处理器执行时使得所述处理器执行前述实施例中的曝光参数控制方法。
37.基于上述实施例,在变焦内窥镜的焦距变化过程中,可以利用包括荧光显影区域的每一帧荧光图像,预判荧光显影区域在下一帧荧光图像成像时的区域面积占比,并且,根据对该区域面积占比的预判结果确定目标亮度在下一帧荧光图像成像时的亮度值,以促使目标亮度的亮度值随荧光显影区域的区域面积占比在焦距变化过程中的变化而自适应变化。由于荧光图像的图像平均亮度和荧光图像在荧光显影区域的图像局部亮度之间的关联程度,与荧光显影区域在变焦内窥镜的有效视野区域内的呈现面积有关,因此,在变焦内窥镜的焦距变化过程中基于自适应变化的目标亮度调节曝光参数,可以通过调节荧光图像的
图像平均亮度而稳定荧光显影区域的图像局部亮度,从而,有助于抑制荧光图像中的荧光显影区域在变焦内窥镜的焦距变化过程中发生亮度突变。
附图说明
38.以下附图仅对本技术做示意性说明和解释,并不限定本技术的范围:
39.图1为本技术的一个实施例中的内窥成像系统的示例性结构示意图;
40.图2为如图1所示的内窥成像系统确定的有效视野区域的视野区域位置信息的第一实例示意图;
41.图3为如图1所示的内窥成像系统确定的有效视野区域的视野区域位置信息的第二实例示意图;
42.图4为如图1所示的内窥成像系统确定的有效视野区域的视野区域位置信息的第三实例示意图;
43.图5为如图1所示的内窥成像系统检测荧光显影区域的实例示意图;
44.图6为如图1所示的内窥成像系统预判区域面积占比的第一实例示意图;
45.图7为如图1所示的内窥成像系统预判区域面积占比的第二实例示意图;
46.图8为本技术的另一个实施例中基于变焦内窥镜成像的曝光参数控制方法的示例性流程图;
47.图9为如图8所示的曝光参数控制方法的扩展流程示意图;
48.图10为本技术的另一个实施例中基于变焦内窥镜成像的曝光参数控制装置的示例性结构图;
49.图11为如图10所示的曝光参数控制装置的扩展结构示意图。
具体实施方式
50.为使本技术的目的、技术方案及优点更加清楚明白,以下参照附图并举实施例,对本技术进一步详细说明。
51.图1为本技术的一个实施例中的内窥成像系统的示例性结构示意图。请参见图1,在本技术的实施例中,内窥成像系统可以包括变焦内窥镜10、光源组件20和设备主机30。
52.变焦内窥镜10可以包括镜管100,该镜管100可以为硬质镜管、或软质镜管、或半硬镜管,本技术的实施例对此不作限制。
53.而且,变焦内窥镜10还可以包括设置在镜管100前端的目镜110、设置在镜管100中的变焦镜组120、以及集成在镜管100末端的握持部内的传感器组件130,其中,变焦镜组120的移动(例如受电机驱动的移动)可以改变变焦内窥镜10的焦距,并且,镜管100末端的握持部还可以集成有用于控制变焦镜组120移动(例如控制前述电机)的操作部件(未在图1中示出),即,该操作部件可以响应于施术者的操作而调节变焦内窥镜10的焦距。
54.光源组件20可以产生覆盖变焦内窥镜10的有效视野区域的光信号,其中,变焦内窥镜10的有效视野区域是指从目镜110进入到变焦内窥镜10中的光信号通过变焦镜组120的成像区域,并且,变焦内窥镜10的有效视野区域的区域尺寸与变焦内窥镜10的焦距关联。
55.具体地,光源组件20可以包括激励光光源和可见光光源。
56.激励光光源用于产生在变焦内窥镜10的有效视野区域内激发荧光信号的激励光,
该荧光信号的波段范围不同于可见光波段,例如,该荧光信号的波段范围可以覆盖近红外波段、红外波段、或紫外波段等至少一种。而且,该荧光信号的波段范围、以及激励光的特性都可以由该荧光信号的发生源的特性确定,例如,该荧光信号可以是借助诸如人体器官或体内组织等体内特征固有的荧光光谱特性而被激励光激发产生的,即,该荧光信号的信号发生源可以是体内特征本身,或者,该荧光信号也可以是由诸如icg(indocyanine green,吲哚菁绿)等注射在体内特征的荧光介质在激励光的激发下产生的,即,该荧光信号的信号发生源可以是荧光介质。对于荧光信号的波段范围、荧光信号的信号发生源、以及激励光的特性,本技术的实施例不作限制。
57.可见光光源用于产生覆盖变焦内窥镜10的有效视野区域的可见光,例如,可见光光源产生的可见光可以包括冷光。
58.在本技术的实施例中,光源组件20可以输出由激励光和可见光混光得到的混光信号,并且,光源组件20产生的混光信号可以通过导光介质传导至镜管100。
59.对于变焦内窥镜10可以存在激励光和可见光的情况,传感器组件130可以包括第一图像传感器131和第二图像传感器132,第一图像传感器131用于基于变焦内窥镜10的有效视野区域内的荧光光信号成像得到荧光图像,并且,第二图像传感器132用于基于变焦内窥镜10的有效视野区域内的可见光信号成像得到可见光图像。进一步地,变焦内窥镜10还可以包括在镜管100中设置在变焦镜组120和传感器130组件之间的分光镜140,该分光镜140用于使第一图像传感器131接收从目镜110进入到变焦内窥镜10的光信号中的荧光信号、并且使第二图像传感器132接收从目镜110进入到变焦内窥镜10的光信号中的可见光信号,即,用于第一图像传感器131成像产生荧光图像的荧光信号、以及用于第二图像传感器132成像产生可见光图像的可见光信号可以来自于同一路光信号。
60.设备主机30可以包括处理器组件310、存储介质320以及人机交互组件330。
61.处理器组件310可以用于获取第一图像传感器131产生的荧光图像、以及第二图像传感器132产生的可见光图像,并且,处理器组件310还可以用于控制第一图像传感器131产生荧光图像时的曝光参数、以及第二图像传感器132产生可见光图像的曝光参数,荧光图像和可见光图像、或者对荧光图像和可见光图像处理之后的图像(例如荧光图像和可见光图像的融合图像)可以在显示设备40可视化呈现。另外,处理器组件310可以用于对第一图像传感器131产生的荧光图像、以及第二图像传感器132产生的可见光图像进行图像处理和目标识别。
62.例如,处理器组件310可以包括诸如微控制单元(microcontroller unit,mcu)、复杂可编程逻辑器件(complex programmable logic device,cpld)、现场可编程门阵列(field programmable gate array,fpga)等电气控制元件,并且,还可以包括诸如中央处理单元(central processing unit,cpu)、图像信号处理器(image signal processor,isp)、图形处理单元(graphic processing unit,gpu)等具有数据处理功能的数据处理元件。
63.存储介质320可以包括诸如闪存(flash)等非易失性存储介质,以及,诸如(随机访问存储器random access memory,ram)及其衍生存储介质等易失性存储介质,其中,非易失性存储介质中可以存储用于处理器组件310实现各种功能的指令,并且,易失性存储介质可以被配置为用于暂存中间数据的内存。
64.人机交互组件330可以包括诸如键盘、开关、档把、触摸屏等至少一种可用于主机设备30与操作者(例如施术者或其助手)进行接触式人机交互的可操作部件,和/或,人机交互组件330也可以包括诸如蓝牙接口等支持主机设备30与操作者(例如施术者或其助手)基于以终端设备为媒介的无线通信连接进行非接触式人机交互的接口部件。无论人机交互组件330包括何种部件,其都可以用于获取操作者输入的人机交互指令,并且,处理器组件310实现的各种功能可以参考人机交互组件330获取到的人机交互指令。另外,在图1中,以光源组件20被集成在设备主机30中进行图示表达,在此情况下,人机交互组件330还可以用于控制光源组件20。
65.在本技术的实施例中,为了解决背景技术部分提及的技术问题,对处理器组件310针对荧光图像成像时的曝光参数(即用于第一图像传感器131成像的曝光参数)的控制策略实施改进,并且,可以不限制处理器组件310针对可见光图像成像时的曝光参数(即用于第二图像传感器132成像的曝光参数)的控制方式。
66.具体地,可见光图像包括位于变焦内窥镜10的有效视野区域内的所有体内特征(诸如器官和组织等)的特征信息,这些特征信息在可见光图像中的清晰度与变焦内窥镜10的有效视野区域内的环境亮度有关,因此,若依据环境亮度的亮度标准设定的固定目标亮度,则,基于图像平均亮度和固定目标亮度控制可见光图像成像时的曝光参数,可以对可见光图像实施针对环境亮度的全局亮度补偿,以促使可见光图像中的所有体内特征(诸如器官和组织等)的特征信息被清晰呈现。在本技术的实施例中,用于可见光图像的曝光参数控制的该固定目标亮度可以被称作可见光目标亮度。
67.但不同于可见光图像的是,荧光图像中的有效信息主要是用于反应荧光信号的荧光强度的荧光显影区域,并且,荧光显影区域的图像局部亮度通常明显高于荧光图像的其他区域的亮度,例如,荧光图像可以是灰度图像,即,接收到荧光信号的荧光显影区域内的像素灰度值大于0、未接收到荧光信号的其他区域的灰度值为0。因此,荧光图像的图像平均亮度与荧光显影区域的图像局部亮度、以及荧光显影区域在变焦内窥镜10的有效视野区域内的区域面积占比强相关。
68.经本技术实施例的测试实验发现,荧光信号的荧光强度在手术过程中是基本恒定的,但是,荧光显影区域的上述区域面积占比在变焦内窥镜10的焦距变化过程中会发生变化,因此,若采用促使荧光图像的图像平均亮度趋近于固定目标亮度的方式控制曝光参数,则将导致:荧光显影区域的图像局部亮度为了补偿荧光显影区域的上述区域面积占比的变化,而发生偏离于荧光信号的荧光强度的亮度突变。
69.假设:
70.在任意一帧荧光图像成像时,变焦内窥镜10的焦距被调节至小视野圈的f18,荧光显影区域的图像局部亮度能够准确反应出荧光信号的真实荧光强度,并且,基于荧光显影区域此时的区域面积占比,当前的曝光参数满足该帧荧光图像的图像平局亮度趋近于预先设定的固定目标亮度的曝光要求;
71.在之后的另外一帧荧光图像成像时,变焦内窥镜10的焦距被调节至大视野圈的f28,因此,荧光显影区域此时的区域面积占比相比于焦距为小视野圈的f18时减小,从而,若要避免该帧荧光图像的图像平局亮度由于荧光显影区域此时的区域面积减小而下降,只能通过调节曝光参数来提升该帧荧光图像的图像平局亮度,进而引发荧光显影区域的图像
局部亮度产生超过荧光信号的真实荧光强度的亮度突变。
72.基于上述测试实验的结果,本技术的实施例为了抑制荧光图像中的荧光显影区域在变焦内窥镜的焦距变化过程中发生上述的亮度突变,将用于控制针对荧光图像成像时的曝光参数(即用于第一图像传感器131成像的曝光参数)的目标亮度配置为动态目标亮度,并且,该动态目标亮度可以在变焦内窥镜10的焦距变化过程中,与荧光显影区域在变焦内窥镜10的有效视野区域内的区域面积占比关联变化,该关联变化用于避免:荧光显影区域的图像局部亮度为了补偿荧光显影区域的上述区域面积占比的变化而发生偏离于荧光信号的荧光强度的亮度突变。
73.具体地,在本技术的实施例中,处理器组件310可以用于:
74.在第一成像时刻t1通过变焦内窥镜10对荧光信号成像得到的荧光图像(即第一图像传感器131在第一成像时刻t1产生的荧光图像)中,检测变焦内窥镜10的有效视野区域内的荧光显影区域,其中,如前文所述,该荧光信号的波段范围不同于可见光波段,变焦内窥镜10的有效视野区域的区域尺寸与该变焦内窥镜10的焦距关联,并且,荧光信号在荧光显影区域的信号强度高于或等于预设的荧光强度阈值;
75.响应于对荧光显影区域的成功检测,确定荧光显影区域在变焦内窥镜10的有效视野区域中的区域面积占比在第二成像时刻t2的比例预判值,其中,第二成像时刻t2为跟随于第一成像时刻t1的相邻成像时刻,并且,该比例预判值与变焦内窥镜10在第二成像时刻t2的焦距相比于第一成像时刻t1的焦距变化量关联;
76.基于荧光显影区域在变焦内窥镜10的有效视野区域中的区域面积占比在第二成像时刻t2的比例预判值,确定目标亮度在第二成像时刻t2的亮度值,其中,该目标亮度用于控制对荧光信号成像的曝光参数,例如,受控的曝光参数可以包括曝光时间(或称为快门值)和增益中的至少之一。
77.在本技术的实施例中,处理器组件310执行的上述处理过程可以是发生在变焦内窥镜10的焦距变化过程中,例如,处理器组件310执行的上述处理过程可以由焦距调节事件触发。在此情况下,上述的第一成像时刻t1可以是变焦内窥镜10的焦距变化过程的起始时刻或中间时刻,并且,上述的第二成像时刻t2可以是变焦内窥镜10的焦距变化过程的中间时刻或结束时刻。
78.基于处理器组件310执行的上述处理过程,在变焦内窥镜10的焦距变化过程中,可以利用包括荧光显影区域的每一帧荧光图像,预判荧光显影区域在下一帧荧光图像成像时的区域面积占比,并且,根据对该区域面积占比的预判结果确定目标亮度在下一帧荧光图像成像时的亮度值,以促使目标亮度的亮度值随荧光显影区域的区域面积占比在焦距变化过程中的变化而自适应变化。由于荧光图像的图像平均亮度和荧光图像在荧光显影区域的图像局部亮度之间的关联程度,与荧光显影区域在变焦内窥镜的有效视野区域内的呈现面积有关,因此,在变焦内窥镜10的焦距变化过程中基于自适应变化的目标亮度调节曝光参数,可以通过调节荧光图像的图像平均亮度而稳定荧光显影区域的图像局部亮度,从而,有助于抑制荧光图像中的荧光显影区域在变焦内窥镜10的焦距变化过程中发生亮度突变。
79.在本技术的实施例中,可以预先标定用于指示变焦内窥镜10的有效视野区域的视野区域位置信息,即,处理器组件310可以依据用于表征有效视野区域的视野区域位置信息,确定在荧光图像中检测荧光显影区域时的目标检测区域。
80.但考虑到在实际的手术过程中,可能会存在某些环境因素对变焦内窥镜10的视野产生影响,因此,作为一种优选的方案,处理器组件310可以利用图像信息更丰富的可见光图像来确定变焦内窥镜10的有效视野区域,即,处理器组件310还可以用于:
81.基于在第一成像时刻t1通过变焦内窥镜10对可见光成像得到的可见光图像(即第二图像传感器132在第一成像时刻t1产生的可见光图像),确定变焦内窥镜10的有效视野区域的视野区域位置信息,其中,基于可见光图像确定的视野区域位置信息与变焦内窥镜10在第一成像时刻t1的焦距关联,并且,该视野区域位置信息用于确定在荧光图像中检测荧光显影区域时的目标检测区域。
82.基于上述优选方案,每次预判荧光显影区域在下一帧荧光图像成像时的区域面积占比时,都能够基于当前帧的可见光图像确定变焦内窥镜10的有效视野区域的视野区域位置信息,因而可以提升变焦内窥镜10的有效视野区域的准确性,从而提升有效视野区域的区域面积的准确性,进而提升区域面积占比的准确性。相应地,区域面积占比的准确性提升,可以优化自适应变化的目标亮度对荧光显影区域在变焦内窥镜10的焦距变化过程中发生亮度突变的抑制效果。
83.在本技术的实施例中,处理器组件310可以通过诸如调用神经网络或采用图像处理等任意一种手段,在可见光图像中以预先标定的区域轮廓位置为参考,识别像素值非零的连通区域,并且,基于识别出的该连通区域确定变焦内窥镜10的有效视野区域。在成功识别出有效视野区域的基础上,处理器组件310可以产生变焦内窥镜10的有效视野区域的视野区域位置信息。
84.图2为如图1所示的内窥成像系统确定的有效视野区域的视野区域位置信息的第一实例示意图。图3为如图1所示的内窥成像系统确定的有效视野区域的视野区域位置信息的第二实例示意图。图4为如图1所示的内窥成像系统确定的有效视野区域的视野区域位置信息的第三实例示意图。在图2至图4中均以阴影块表示变焦内窥镜10的有效视野区域、空白块表示非视野区域为例,无论是阴影块还是空白块,每个块可以认为是可见光图像中的一个图像分块、或者也可以认为是一个像素,并且,可以理解的是,图2至图4中的块数仅仅是一种示意性的表达,而不构成实际的数量限定。
85.请参见图2,基于可见光图像确定的视野区域位置信息,可以由基于可见光图像生成的掩膜数据d_mask表征,该掩膜数据d_mask可以通过在各图像位置处置0或置1的二值化信息,限定与变焦内窥镜10的有效视野区域具有匹配位置和匹配形状的掩膜图形,也就是,荧光图像中与掩膜图形重叠的图像区域可以被认定为变焦内窥镜10的有效视野区域、并且用作检测荧光显影区域时的目标检测区域。
86.请参见图3,基于可见光图像确定的视野区域位置信息,可以包括变焦内窥镜10的有效视野区域的最小外接矩形fr_o的坐标信息p_mtr,荧光图像中位于该最小外接矩形fr_o内的图像区域可以被认定为变焦内窥镜10的有效视野区域、并且用作检测荧光显影区域时的目标检测区域。
87.请参见图4,基于可见光图像确定的视野区域位置信息,可以包括变焦内窥镜10的有效视野区域的最大内接矩形fr_i的坐标信息p_mtr,荧光图像中位于该最大内接矩形fr_i内的图像区域可以被认定为变焦内窥镜10的有效视野区域、并且用作检测荧光显影区域时的目标检测区域。
88.上述如图2至图4所示的有效视野区域的视野区域位置信息的确定方式,仅仅是为了泛化表达有效视野区域的位置表达不限于固定形式,而非试图对其进行不必要的限定。
89.在本技术的实施例中,无论以何种方式确定有效视野区域的视野区域位置信息,都可以通过多帧整合来提高有效视野区域的鲁棒性。
90.具体地,处理器组件310可以具体用于:
91.基于在第一成像时刻t1的可见光图像中识别出的有效视野区域、以及在可见光图像之前通过变焦内窥镜10成像得到的历史可见光图像中识别出的历史有效视野区域,确定变焦内窥镜10的有效视野区域在第一成像时刻t1的视野区域位置信息。
92.其中,如图2至图4中的阴影块所在区域可以表示在第一成像时刻t1的可见光图像中识别出的有效视野区域,也可以表示在历史可见光图像中识别出的历史有效视野区域,但不同之处在于,在第一成像时刻t1的可见光图像中识别出的有效视野区域的阴影块位置和数量,可能不同于在历史可见光图像中识别出的历史有效视野区域的阴影块位置和数量,因此,通过结合在第一成像时刻t1的可见光图像中识别出的有效视野区域、以及在历史可见光图像中识别出的历史有效视野区域,可以参考有效视野区域在连续多帧中的位置和形态,确定得到鲁棒性更高的视野区域位置信息。
93.例如,在将第一成像时刻t1的可见光图像中识别出的有效视野区域与历史有效视野区域结合时,可以认为第一成像时刻t1的可见光图像中识别出的有效视野区域具有更高的置信度,此时,可以在确保第一成像时刻t1的可见光图像中识别出的有效视野区域占据高权重的基础上,利用历史有效视野区域对其进行位置矫正,该位置矫正可以采用诸如seq(sequence,序列)-nms(non-maximum suppression,非极大值抑制)等有助于抑制区域位置抖动的算法,从而,可以基于历史有效视野区域对第一成像时刻t1的可见光图像中识别出的有效视野区域的位置矫正,确定变焦内窥镜10的有效视野区域在第一成像时刻t1的视野区域位置信息。
94.再例如,在将第一成像时刻t1的可见光图像中识别出的有效视野区域与历史有效视野区域结合时,可以认为第一成像时刻t1的可见光图像中识别出的有效视野区域与历史有效视野区域具有基本等同的置信度,此时,可以以基本相同的权重对第一成像时刻t1的可见光图像中识别出的有效视野区域与历史有效视野区域进行区域融合,从而,可以基于第一成像时刻t1的可见光图像中识别出的有效视野区域、以及历史有效视野区域的区域融合,确定变焦内窥镜10的有效视野区域在第一成像时刻t1的视野区域位置信息。
95.在本技术的实施例中,除了提升变焦内窥镜10的有效视野区域的准确性之外,还可以通过优化对荧光显影区域的检测过程,提升荧光显影区域的准确性。
96.图5为如图1所示的内窥成像系统检测荧光显影区域的实例示意图。请参见图5,在本技术的实施例中,处理器组件310可以具体用于:
97.提取第一成像时刻t1成像得到的荧光图像500中与变焦内窥镜10的有效视野区域位置匹配的目标图像区域510,例如,基于变焦内窥镜10的有效视野区域在第一成像时刻t1的视野区域位置信息,提取荧光图像中的目标图像区域510;
98.对目标图像区域510进行以荧光强度阈值为亮度分界的二值化处理,其中,该二值化处理得到的二值化图像520中包括用于表征信号强度高于或等于荧光强度阈值的第一像素值区域(图5中表示为阴影形态)、以及用于表征信号强度低于荧光强度阈值的第二像素
值区域(图5中表示为空白形态);
99.对二值化图像520中的第一像素值区域进行形态学处理,例如,使用滤波窗口对二值化图像520中的第一像素值区域进行滤波处理,该滤波处理用于平滑第一像素值区域的区域边缘、并消除第一像素值区域中的孤岛噪声i_ns;
100.基于二值化图像520中的第一像素值区域经形态学处理后的区域轮廓pf_dv,确定在第一成像时刻t1成像得到的荧光图像500中的荧光显影区域,并且,可以确定荧光显影区域的显影区域位置信息,即,显影区域位置信息用于表征荧光显影区域在第一成像时刻t1的荧光图像中的检测命中区域。
101.基于上述优选方案,每次预判荧光显影区域在下一帧荧光图像成像时的区域面积占比时,都能够确定边缘平滑、且不包括孤岛噪声的荧光显影区域,因而可以提升荧光显影区域的准确性,从而提升荧光显影区域的区域面积的准确性,进而提升区域面积占比的准确性。相应地,如前文所述,区域面积占比的准确性提升,可以优化自适应变化的目标亮度对荧光显影区域在变焦内窥镜10的焦距变化过程中发生亮度突变的抑制效果。
102.另外,在本技术的实施例中,处理器组件310可以基于变焦内窥镜10的有效视野区域的视野区域位置信息、以及第一成像时刻t1的荧光图像中的荧光显影区域的显影区域位置信息,确定荧光显影区域在变焦内窥镜10的有效视野区域中的区域面积占比在第二成像时刻t2的比例预判值。
103.具体地,处理器组件310可以具体用于:
104.基于视野区域位置信息和显影区域位置信息,确定荧光显影区域和变焦内窥镜10的有效视野区域在第一成像时刻t1的相对位置关系;
105.基于该相对位置关系,确定第二成像时刻t2的荧光显影区域在变焦内窥镜10的有效视野区域内的区域面积变化量;
106.基于荧光显影区域在第二成像时刻t2的区域面积变化量,确定荧光显影区域在变焦内窥镜10的有效视野区域中的区域面积占比在第二成像时刻t2的比例预判值。
107.例如,荧光显影区域和变焦内窥镜10的有效视野区域在第一成像时刻t1的相对位置关系,可以包括荧光显影区域是否与变焦内窥镜10的有效视野区域的边界相交。在此情况下,处理器组件310可以通过如下方式确定区域面积变化量:
108.响应于表示荧光显影区域与变焦内窥镜10的有效视野区域的边界相交的第一类位置关系,基于变焦内窥镜10在第二成像时刻t2的焦距相比于第一成像时刻t1的焦距变化量,确定第二成像时刻t2的荧光显影区域在变焦内窥镜10的有效视野区域内的区域面积变化量;
109.响应于表示荧光显影区域与变焦内窥镜10的有效视野区域的边界不相交的第二类位置关系,确定第二成像时刻t2的荧光显影区域在变焦内窥镜10的有效视野区域内的区域面积变化量为零。
110.图6为如图1所示的内窥成像系统预判区域面积占比的第一实例示意图。图7为如图1所示的内窥成像系统预判区域面积占比的第二实例示意图。图6和图7分别示出了荧光显影区域与变焦内窥镜10的有效视野区域的边界相交的第一类位置关系的两种情况,即,如图6所示的变焦内窥镜10在第二成像时刻t2的焦距相比于第一成像时刻t1的焦距变化量为增量的情况,以及,如图7所示的变焦内窥镜10在第二成像时刻t2的焦距相比于第一成像
时刻t1的焦距变化量为减量的情况。
111.如图6所示,响应于上述焦距变化量为增量的焦距增大趋势,处理器组件310可以具体用于:
112.基于荧光显影区域与变焦内窥镜10的有效视野区域的视野边界相交的交线长度、以及变焦内窥镜10的有效视野区域的径向尺寸在第二成像时刻t2由于焦距变化量引发的径向尺寸变化量δr,预测荧光显影区域将在第二成像时刻t2移入变焦内窥镜10的有效视野区域的边界之内的增长区域面积δs_icr,该增长区域面积δs_icr用于表征第二成像时刻t2的荧光显影区域在变焦内窥镜10的有效视野区域内的区域面积变化量。
113.如图7所示,响应于上述焦距变化量为减量的焦距减小趋势,处理器组件310可以具体用于:
114.基于变焦内窥镜10的有效视野区域的径向尺寸在第二成像时刻t2由于焦距变化量引发的径向尺寸变化量δr,确定荧光显影区域将在第二成像时刻t2移出变焦内窥镜10的有效视野区域的边界之外的割除区域面积δs_dcr,该割除区域面积δs_dcr用于表征第二成像时刻t2的荧光显影区域在变焦内窥镜10的有效视野区域内的区域面积变化量。不同于如图6所示的情况中对增长区域面积δs_icr的预测,图7中的割除区域面积δs_dcr可以直接基于第一成像时刻t1的荧光图像计算得到,因为,荧光显影区域将在第二成像时刻t2移出变焦内窥镜10的有效视野区域的边界之外的割除区域已经存在于第一成像时刻t1的荧光图像中。
115.无论是图6还是图7所示出的情况,上述的δr可以表示为ⅰr_cur-r_adjⅰ,其中,r_cur表示变焦内窥镜10的有效视野区域在第一成像时刻t1的径向尺寸,并且,r_adj表示变焦内窥镜10的有效视野区域将在第二成像时刻t2达到的径向尺寸。
116.在本技术的实施例中,变焦内窥镜10的有效视野区域在第一成像时刻t1的径向尺寸r_cur、以及在第二成像时刻t2达到的径向尺寸r_adj,可以通过对变焦镜组120的位置追随结果(例如对电机的转数计数结果)确定,该位置追随的精度由变焦镜组120的移动步长(例如电机的驱动步长)来确定。并且,径向尺寸变化量δr可以基于预先设定的变焦镜组120的行程距离(例如该行程距离可以由电机的转数表征)与有效视野区域的径向尺寸之间的对应关系,由变焦镜组120在第一成像时刻t1和第二成像时刻t2之间的移动行程(例如电机的转数)转换得到,并且,径向尺寸变化量δr的精度也由变焦镜组120的移动步长(例如电机的驱动步长)来确定。
117.在基于荧光显影区域的区域面积变化量确定比例预判值时,处理器组件310具体可以采用如下的方式:
118.基于第二成像时刻t2的荧光显影区域在变焦内窥镜10的有效视野区域内的区域面积变化量(例如增长区域面积δs_icr或割除区域面积δs_dcr)、荧光显影区域在第一成像时刻t1的当前区域面积s_cur、以及变焦内窥镜10的有效视野区域在第二成像时刻t2的视野区域面积t_prd,确定荧光显影区域在变焦内窥镜10的有效视野区域中的区域面积占比在第二成像时刻t2的比例预判值v_prd。
119.其中,变焦内窥镜10的有效视野区域在第二成像时刻t2的视野区域面积t_prd,与变焦内窥镜10的有效视野区域在第二成像时刻t2的径向尺寸r_adj关联,例如,视野区域面积t_prd可以取π
×
r_adj2;并且,该径向尺寸r_adj与变焦内窥镜10在第二成像时刻t2的焦
距关联。
120.例如,对于如图6所示的情况,确定比例预判值v_prd的方式可以表示为如下的表达式(1)和表达式(2):
121.v_prd=s_prd/t_prd表达式(1)
122.s_prd=s_cur+δs_icr表达式(2)
123.再例如,对于如图7所示的情况,确定比例预判值v_prd的方式可以表示为上述的表达式(1)、以及如下的表达式(3):
124.s_prd=s_cur-δs_dcr表达式(3)
125.上述表达式(1)~表达式(3)中的s_prd表示荧光显影区域在第二成像时刻t2的预判区域面积。
126.在本技术的实施例中,处理器组件310在基于比例预判值v_prd确定目标亮度在第二成像时刻t2的亮度值时,可以具体采用如下的处理方式:
127.基于荧光显影区域在变焦内窥镜10的有效视野区域中的区域面积占比在第二成像时刻t2的比例预判值v_prd、以及预先设定的比例预判值v_prd与目标亮度之间的反单调性关系,确定目标亮度在第二成像时刻t2的亮度值b_target(t2)。
128.例如,预先设定的比例预判值v_prd与目标亮度之间的反单调性关系,可以为比例预判值v_prd与目标亮度之间的反比例关系,基于反比例关系确定的目标亮度在第二成像时刻t2的亮度值b_target(t2)可以表示为如下的表达式(4):
129.b_target(t2)=α/v_prd+β表达式(4)
130.上述表达式(4)中的α和β表示预设的调制参数。
131.从而,当获取到第二成像时刻t2的荧光图像时,可以基于第二成像时刻t2的荧光图像的图像平均亮度b_img(t2)与目标亮度在第二成像时刻t2的亮度值b_target(t2)之间的亮度差值的绝对值δb=ⅰb_img(t2)-b_target(t2)ⅰ,确定是否需要调节对荧光信号成像的曝光参数。例如,若δb≥b_thre,则触发对荧光信号成像的曝光参数的调节,b_thre表示预先设定的亮度差阈值。
132.图8为本技术的另一个实施例中基于变焦内窥镜成像的曝光参数控制方法的示例性流程图。请参见图8,在本技术的实施例中,基于变焦内窥镜成像的曝光参数控制方法可以包括:
133.s810:在第一成像时刻t1通过变焦内窥镜对荧光信号成像得到的荧光图像中,检测变焦内窥镜的有效视野区域内的荧光显影区域,其中,该荧光信号的波段范围不同于可见光波段,变焦内窥镜的有效视野区域的区域尺寸与该变焦内窥镜的焦距关联,并且,荧光信号在荧光显影区域的信号强度高于或等于预设的荧光强度阈值。
134.优选地,s810可以采用前文描述的与图5有关的优化处理方式,此处不再赘述。
135.s820:响应于对荧光显影区域的成功检测,确定荧光显影区域在变焦内窥镜的有效视野区域中的区域面积占比在第二成像时刻t2的比例预判值,其中,第二成像时刻t2为跟随于第一成像时刻t1的相邻成像时刻,并且,该比例预判值与变焦内窥镜在第二成像时刻t2的焦距相比于第一成像时刻t1的焦距变化量关联。
136.s830:基于荧光显影区域在变焦内窥镜的有效视野区域中的区域面积占比在第二成像时刻t2的比例预判值,确定目标亮度在第二成像时刻t2的亮度值,其中,该目标亮度用
于控制对荧光信号成像的曝光参数。
137.例如,如前文所述,受控的曝光参数可以包括曝光时间(或称为快门值)和增益中的至少之一,并且,利用该目标亮度控制对荧光信号成像的曝光参数的可选方式可以参见前文与表达式(4)有关的描述,此处不再赘述。
138.在本技术的实施例中,如图8所示的流程可以是发生在变焦内窥镜的焦距变化过程中,例如,如图8所示的流程可以由焦距调节事件触发。在此情况下,上述的第一成像时刻t1可以是变焦内窥镜10的焦距变化过程的起始时刻或中间时刻,并且,上述的第二成像时刻t2可以是变焦内窥镜10的焦距变化过程的中间时刻或结束时刻。
139.基于上述流程,在变焦内窥镜的焦距变化过程中,可以利用包括荧光显影区域的每一帧荧光图像,预判荧光显影区域在下一帧荧光图像成像时的区域面积占比,并且,根据对该区域面积占比的预判结果确定目标亮度在下一帧荧光图像成像时的亮度值,以促使目标亮度的亮度值随荧光显影区域的区域面积占比在焦距变化过程中的变化而自适应变化。由于荧光图像的图像平均亮度和荧光图像在荧光显影区域的图像局部亮度之间的关联程度,与荧光显影区域在变焦内窥镜的有效视野区域内的呈现面积有关,因此,在变焦内窥镜的焦距变化过程中基于自适应变化的目标亮度调节曝光参数,可以通过调节荧光图像的图像平均亮度而稳定荧光显影区域的图像局部亮度,从而,有助于抑制荧光图像中的荧光显影区域在变焦内窥镜的焦距变化过程中发生亮度突变。
140.在本技术的实施例中,s810可以依据用于表征有效视野区域的视野区域位置信息,确定在荧光图像中检测荧光显影区域时的目标检测区域。但为了弱化实际的手术过程中可能存在的某些环境因素对变焦内窥镜的视野产生影响,也可以在s810之前,利用图像信息更丰富的可见光图像来确定变焦内窥镜的有效视野区域。
141.图9为如图8所示的曝光参数控制方法的扩展流程示意图。请参见图9,在本技术的实施例中,基于变焦内窥镜成像的曝光参数控制方法可以进一步包括在s810之前的如下步骤:
142.s800:基于在第一成像时刻t1通过变焦内窥镜对可见光成像得到的可见光图像,确定变焦内窥镜的有效视野区域的视野区域位置信息,其中,基于可见光图像确定的视野区域位置信息与变焦内窥镜在第一成像时刻t1的焦距关联,并且,该视野区域位置信息用于确定在荧光图像中检测荧光显影区域时的目标检测区域。
143.基于如图9所示的扩展流程,每次预判荧光显影区域在下一帧荧光图像成像时的区域面积占比时,都能够基于当前帧的可见光图像确定变焦内窥镜的有效视野区域的视野区域位置信息,因而可以提升变焦内窥镜的有效视野区域的准确性,从而提升有效视野区域的区域面积的准确性,进而提升区域面积占比的准确性。相应地,区域面积占比的准确性提升,可以优化自适应变化的目标亮度对荧光显影区域在变焦内窥镜的焦距变化过程中发生亮度突变的抑制效果。
144.对于有效视野区域的识别、及其视野区域位置信息的确定,可以参见前文与图2至图4有关的文字说明,此处不再赘述。
145.而且,如前文所述,在本技术的实施例中,为了通过多帧整合来提高有效视野区域的鲁棒性,s800可以具体包括:
146.基于在第一成像时刻t1的可见光图像中识别出的有效视野区域、以及在可见光图
像之前通过变焦内窥镜成像得到的历史可见光图像中识别出的历史有效视野区域,确定变焦内窥镜的有效视野区域在第一成像时刻t1的视野区域位置信息。
147.在此情况下,s800可以是在无论变焦内窥镜是否发生焦距变化都持续执行的步骤。
148.在结合第一成像时刻t1的可见光图像中识别出的有效视野区域、以及在历史可见光图像中识别出的历史有效视野区域时,可以认为第一成像时刻t1的可见光图像中识别出的有效视野区域具有更高的置信度,或者,也可以认为第一成像时刻t1的可见光图像中识别出的有效视野区域与历史有效视野区域具有基本等同的置信度,对于这两种情况的不同处理方式,可以参见前文的相关描述,此处不再赘述。
149.另外,在本技术的实施例中,作为一种优选方案,s820可以具体包括:
150.基于变焦内窥镜的有效视野区域的视野区域位置信息、以及第一成像时刻t1的荧光图像中的荧光显影区域的显影区域位置信息,确定荧光显影区域和变焦内窥镜的有效视野区域在第一成像时刻t1的相对位置关系,例如,荧光显影区域是否与变焦内窥镜的有效视野区域的边界相交;
151.基于该相对位置关系,确定第二成像时刻t2的荧光显影区域在变焦内窥镜的有效视野区域内的区域面积变化量,例如,前文描述的与图6和图7有关的确定方式;
152.基于荧光显影区域在第二成像时刻t2的区域面积变化量,确定荧光显影区域在变焦内窥镜的有效视野区域中的区域面积占比在第二成像时刻t2的比例预判值,例如,前文与表达式(1)~(3)有关的具体处理方式。
153.图10为本技术的另一个实施例中基于变焦内窥镜成像的曝光参数控制装置的示例性结构图。请参见图10,在本技术的实施例中,基于变焦内窥镜成像的曝光参数控制装置可以包括:
154.显影检测模块1010,用于在第一成像时刻t1通过变焦内窥镜对荧光信号成像得到的荧光图像中,检测变焦内窥镜的有效视野区域内的荧光显影区域,其中,该荧光信号的波段范围不同于可见光波段,变焦内窥镜的有效视野区域的区域尺寸与该变焦内窥镜的焦距关联,并且,荧光信号在荧光显影区域的信号强度高于或等于预设的荧光强度阈值。
155.优选地,显影检测模块1010的工作原理可以采用前文描述的与图5有关的优化处理方式,此处不再赘述。
156.比例预判模块1020,用于响应于对荧光显影区域的成功检测,确定荧光显影区域在变焦内窥镜的有效视野区域中的区域面积占比在第二成像时刻t2的比例预判值,其中,第二成像时刻t2为跟随于第一成像时刻t1的相邻成像时刻,并且,该比例预判值与变焦内窥镜在第二成像时刻t2的焦距相比于第一成像时刻t1的焦距变化量关联。
157.目标确定模块1030,用于基于荧光显影区域在变焦内窥镜的有效视野区域中的区域面积占比在第二成像时刻t2的比例预判值,确定目标亮度在第二成像时刻t2的亮度值,其中,该目标亮度用于控制对荧光信号成像的曝光参数。
158.例如,如前文所述,受控的曝光参数可以包括曝光时间(或称为快门值)和增益中的至少之一,并且,利用该目标亮度控制对荧光信号成像的曝光参数的可选方式可以参见前文与表达式(4)有关的描述,此处不再赘述。
159.在本技术的实施例中,如图10所示的显影检测模块1010、比例预判模块1020以及
目标确定模块1030可以是在变焦内窥镜的焦距变化过程中工作运行的,例如,如图10所示的显影检测模块1010、比例预判模块1020以及目标确定模块1030可以由焦距调节事件触发。在此情况下,上述的第一成像时刻t1可以是变焦内窥镜10的焦距变化过程的起始时刻或中间时刻,并且,上述的第二成像时刻t2可以是变焦内窥镜10的焦距变化过程的中间时刻或结束时刻。
160.基于上述的功能模块,在变焦内窥镜的焦距变化过程中,可以利用包括荧光显影区域的每一帧荧光图像,预判荧光显影区域在下一帧荧光图像成像时的区域面积占比,并且,根据对该区域面积占比的预判结果确定目标亮度在下一帧荧光图像成像时的亮度值,以促使目标亮度的亮度值随荧光显影区域的区域面积占比在焦距变化过程中的变化而自适应变化。由于荧光图像的图像平均亮度和荧光图像在荧光显影区域的图像局部亮度之间的关联程度,与荧光显影区域在变焦内窥镜的有效视野区域内的呈现面积有关,因此,在变焦内窥镜的焦距变化过程中基于自适应变化的目标亮度调节曝光参数,可以通过调节荧光图像的图像平均亮度而稳定荧光显影区域的图像局部亮度,从而,有助于抑制荧光图像中的荧光显影区域在变焦内窥镜的焦距变化过程中发生亮度突变。
161.在本技术的实施例中,显影检测模块1010可以依据用于表征有效视野区域的视野区域位置信息,确定在荧光图像中检测荧光显影区域时的目标检测区域。但为了弱化实际的手术过程中可能存在的某些环境因素对变焦内窥镜的视野产生影响,也可以利用图像信息更丰富的可见光图像为显影检测模块1010提供变焦内窥镜的有效视野区域。
162.图11为如图10所示的曝光参数控制装置的扩展结构示意图。请参见图11,在本技术的实施例中,基于变焦内窥镜成像的曝光参数控制装置可以进一步包括:
163.视野确定模块1000,用于基于在第一成像时刻t1通过变焦内窥镜对可见光成像得到的可见光图像,确定变焦内窥镜的有效视野区域的视野区域位置信息,其中,基于可见光图像确定的视野区域位置信息与变焦内窥镜在第一成像时刻t1的焦距关联,并且,该视野区域位置信息用于确定在荧光图像中检测荧光显影区域时的目标检测区域。
164.基于视野确定模块1000,每次预判荧光显影区域在下一帧荧光图像成像时的区域面积占比时,都能够基于当前帧的可见光图像确定变焦内窥镜的有效视野区域的视野区域位置信息,因而可以提升变焦内窥镜的有效视野区域的准确性,从而提升有效视野区域的区域面积的准确性,进而提升区域面积占比的准确性。相应地,区域面积占比的准确性提升,可以优化自适应变化的目标亮度对荧光显影区域在变焦内窥镜的焦距变化过程中发生亮度突变的抑制效果。
165.具体地,视野确定模块1000的工作原理可以采用与前文描述的s800基本相同的优化方案,此处不再赘述。
166.在本技术的另一个实施例中,还提供了一种非瞬时计算机可读存储介质,该非瞬时计算机可读存储介质存储指令,这些指令在由处理器执行时使得所述处理器执行如前文描述的曝光参数控制方法。
167.以上所述仅为本技术的较佳实施例而已,并不用以限制本技术,凡在本技术的精神和原则之内,所做的任何修改、等同替换、改进等,均应包含在本技术保护的范围之内。

技术特征:
1.一种基于变焦内窥镜成像的曝光参数控制方法,其特征在于,包括:在第一成像时刻通过变焦内窥镜对荧光信号成像得到的荧光图像中,检测所述变焦内窥镜的有效视野区域内的荧光显影区域,其中,所述荧光信号的波段范围不同于可见光波段,所述有效视野区域的区域尺寸与所述变焦内窥镜的焦距关联,并且,所述荧光信号在所述荧光显影区域的信号强度高于或等于预设的荧光强度阈值;响应于对所述荧光显影区域的成功检测,确定所述荧光显影区域在所述有效视野区域中的区域面积占比在第二成像时刻的比例预判值,其中,所述第二成像时刻为跟随于所述第一成像时刻的相邻成像时刻,所述比例预判值与所述变焦内窥镜在所述第二成像时刻的焦距相比于所述第一成像时刻的焦距变化量关联;基于所述比例预判值,确定目标亮度在所述第二成像时刻的亮度值,其中,所述目标亮度用于控制对所述荧光信号成像的曝光参数。2.根据权利要求1所述的曝光参数控制方法,其特征在于,还包括:基于在所述第一成像时刻通过所述变焦内窥镜对可见光成像得到的可见光图像,确定所述有效视野区域的视野区域位置信息,其中,所述视野区域位置信息与所述变焦内窥镜在所述第一成像时刻的焦距关联,并且,所述视野区域位置信息用于确定在所述荧光图像中检测所述荧光显影区域时的目标检测区域。3.根据权利要求2所述的曝光参数控制方法,其特征在于,所述基于在所述第一成像时刻通过所述变焦内窥镜曝光成像得到的可见光图像,确定所述有效视野区域的视野区域位置信息,包括:基于在所述可见光图像中识别出的所述有效视野区域、以及在所述可见光图像之前通过所述变焦内窥镜成像得到的历史可见光图像中识别出的历史有效视野区域,确定所述视野区域位置信息。4.根据权利要求1所述的曝光参数控制方法,其特征在于,所述在第一成像时刻通过变焦内窥镜对荧光信号成像得到的荧光图像中,检测所述变焦内窥镜的有效视野区域内的荧光显影区域,包括:提取所述荧光图像中与所述有效视野区域位置匹配的目标图像区域;对所述目标图像区域进行以所述荧光强度阈值为亮度分界的二值化处理,其中,所述二值化处理得到的二值化图像中包括用于表征信号强度高于或等于所述荧光强度阈值的第一像素值区域、以及用于表征信号强度低于所述荧光强度阈值的第二像素值区域;对所述第一像素值区域进行形态学处理;基于所述第一像素值区域经所述形态学处理后的区域轮廓,确定所述荧光显影区域。5.根据权利要求1所述的曝光参数控制方法,其特征在于,所述确定所述荧光显影区域在所述有效视野区域中的区域面积占比在第二成像时刻的比例预判值,包括:基于视野区域位置信息和显影区域位置信息,确定所述荧光显影区域和所述有效视野区域在所述第一成像时刻的相对位置关系,其中,所述视野区域位置信息用于确定在所述荧光图像中检测所述荧光显影区域时的目标检测区域,并且,所述显影区域位置信息用于表征所述荧光显影区域在所述荧光图像中的检测命中区域;基于所述相对位置关系,确定所述第二成像时刻的所述荧光显影区域在所述有效视野
区域内的区域面积变化量;基于所述区域面积变化量,确定所述比例预判值。6.根据权利要求5所述的曝光参数控制方法,其特征在于,所述相对位置关系包括所述荧光显影区域是否与所述有效视野区域的边界相交;所述基于所述相对位置关系、以及所述焦距变化量,确定所述第二成像时刻的所述荧光显影区域在所述有效视野区域内的区域面积变化量,包括:响应于表示所述荧光显影区域与所述有效视野区域的边界相交的第一类位置关系,基于所述焦距变化量确定所述区域面积变化量;响应于表示所述荧光显影区域与所述有效视野区域的边界不相交的第二类位置关系,确定所述区域面积变化量为零。7.根据权利要求6所述的曝光参数控制方法,其特征在于,所述基于所述焦距变化量确定所述区域面积变化量,包括:响应于所述焦距变化量为增量的焦距增大趋势,基于所述荧光显影区域与所述有效视野区域的视野边界相交的交线长度、以及所述有效视野区域的径向尺寸在所述第二成像时刻由于所述焦距变化量引发的径向尺寸变化量,预测所述荧光显影区域在所述第二成像时刻移入所述有效视野区域的边界之内的增长区域面积,所述增长区域面积用于表征所述区域面积变化量;响应于所述焦距变化量为减量的焦距减小趋势,基于所述有效视野区域的径向尺寸在所述第二成像时刻由于所述焦距变化量引发的径向尺寸变化量,确定所述荧光显影区域在所述第二成像时刻移出所述有效视野区域的边界之外的割除区域面积,所述割除区域面积用于表征所述区域面积变化量。8.根据权利要求5所述的曝光参数控制方法,其特征在于,所述基于所述区域面积变化量,确定所述比例预判值,包括:基于所述区域面积变化量、所述荧光显影区域在所述第一成像时刻的当前区域面积、以及所述有效视野区域在所述第二成像时刻的视野区域面积,确定所述比例预判值;其中,所述有效视野区域在所述第二成像时刻的视野区域面积与所述有效视野区域在所述第二成像时刻的径向尺寸关联,并且,所述有效视野区域在所述第二成像时刻的径向尺寸与所述变焦内窥镜在所述第二成像时刻的焦距关联。9.根据权利要求1所述的曝光参数控制方法,其特征在于,所述基于所述比例预判值,确定目标亮度在所述第二成像时刻的亮度值,包括:基于所述比例预判值、以及预先设定的所述比例预判值与所述目标亮度之间的反单调性关系,确定所述目标亮度在所述第二成像时刻的亮度值。10.一种基于变焦内窥镜成像的曝光参数控制装置,其特征在于,包括:显影检测模块,用于在第一成像时刻通过变焦内窥镜对荧光信号成像得到的荧光图像中,检测所述变焦内窥镜的有效视野区域内的荧光显影区域,其中,所述荧光信号的波段范围不同于可见光波段,所述有效视野区域的区域尺寸与所述变焦内窥镜的焦距关联,并且,所述荧光信号在所述荧光显影区域的信号强度高于或等于预设的荧光强度阈值;比例预判模块,用于响应于对所述荧光显影区域的成功检测,确定所述荧光显影区域在所述有效视野区域中的区域面积占比在第二成像时刻的比例预判值,其中,所述第二成
像时刻为跟随于所述第一成像时刻的相邻成像时刻,所述比例预判值与所述变焦内窥镜在所述第二成像时刻的焦距相比于所述第一成像时刻的焦距变化量关联;目标确定模块,用于基于所述比例预判值,确定目标亮度在所述第二成像时刻的亮度值,其中,所述目标亮度用于控制对所述荧光信号成像的曝光参数。11.根据权利要求10所述的曝光参数控制装置,其特征在于,还包括:视野确定模块,用于基于在所述第一成像时刻通过所述变焦内窥镜曝对可见光成像得到的可见光图像,确定所述有效视野区域的视野区域位置信息,其中,所述视野区域位置信息与所述变焦内窥镜在所述第一成像时刻的焦距关联,并且,所述视野区域位置信息用于确定在所述荧光图像中检测所述荧光显影区域时的目标检测区域。12.一种内窥成像系统,其特征在于,包括:变焦内窥镜,包括变焦镜组、以及第一图像传感器和第二图像传感器,其中,所述第一图像传感器用于基于所述变焦内窥镜的有效视野区域内的荧光光信号成像得到荧光图像,并且,所述第二图像传感器用于基于所述有效视野区域内的所述可见光信号成像得到可见光图像;激励光光源,用于产生在所述有效视野区域内激发所述荧光信号的激励光;可见光光源,用于产生覆盖所述有效视野区域的可见光;处理器组件,用于执行如权利要求1至9中任一项所述的曝光参数控制方法。13.一种非瞬时计算机可读存储介质,其特征在于,所述非瞬时计算机可读存储介质存储指令,所述指令在由处理器执行时使得所述处理器执行如权利要求1至9中任一项所述的曝光参数控制方法。

技术总结
本申请涉及基于变焦内窥镜成像的曝光参数控制方法和装置。基于本申请,在变焦内窥镜的焦距变化过程中,可以利用包括荧光显影区域的每一帧荧光图像,预判荧光显影区域在下一帧荧光图像成像时的区域面积占比,并且,根据对该区域面积占比的预判结果确定目标亮度在下一帧荧光图像成像时的亮度值,以促使目标亮度的亮度值随荧光显影区域的区域面积占比在焦距变化过程中的变化而自适应变化,从而有助于抑制荧光图像中的荧光显影区域在变焦内窥镜的焦距变化过程中发生亮度突变。的焦距变化过程中发生亮度突变。的焦距变化过程中发生亮度突变。


技术研发人员:刘恩毅 孙剑秋 蔺玥菡
受保护的技术使用者:杭州海康慧影科技有限公司
技术研发日:2023.07.20
技术公布日:2023/9/14
版权声明

本文仅代表作者观点,不代表航家之家立场。
本文系作者授权航家号发表,未经原创作者书面授权,任何单位或个人不得引用、复制、转载、摘编、链接或以其他任何方式复制发表。任何单位或个人在获得书面授权使用航空之家内容时,须注明作者及来源 “航空之家”。如非法使用航空之家的部分或全部内容的,航空之家将依法追究其法律责任。(航空之家官方QQ:2926969996)

航空之家 https://www.aerohome.com.cn/

飞机超市 https://mall.aerohome.com.cn/

航空资讯 https://news.aerohome.com.cn/

分享:

扫一扫在手机阅读、分享本文

相关推荐