图像处理方法、装置、电子设备和可读存储介质与流程

专利2023-07-11  119



1.本技术属于图像处理技术领域,具体涉及一种图像处理方法、装置、电子设备和可读存储介质。


背景技术:

2.随着电子设备的更新换代,越来越多的电子设备搭载多个摄像头,以满足人们日益增长的拍摄需求。为了提升拍摄画面的稳定性、提升低亮度环境下的成像效果等,在使用摄像头拍摄过程中,配合例如云台防抖、光学图像稳定器(optical image stabilizer,ois)防抖等方案进行拍摄。
3.在配合防抖方案进行拍摄的过程中,摄像头的镜头或者摄像头的位姿会发生改变。目前,基于现有的图像防抖的处理方案,难以克服摄像头位姿的改变对拍摄图像的影响,因此,防抖处理后的图像,存在对准精度差的技术问题。


技术实现要素:

4.本技术实施例的目的是提供一种图像处理方法、装置、电子设备和可读存储介质,对于不同摄像头拍摄的图像,能够提高图像对准处理的精准度。
5.第一方面,本技术实施例提供了一种图像处理方法,该方法包括:
6.在第一摄像头拍摄目标对象得到第一图像和第二摄像头拍摄目标对象得到第二图像的情况下,根据第一摄像头与第二摄像头的标定信息,对第一图像和第二图像进行校正处理,得到第一目标图像和第二目标图像;
7.根据第一图像中目标对象所在的第一区域和第二图像中目标对象所在的第二区域,确定第一图像和第二图像的视差偏移量;
8.根据视差偏移量,对第一目标图像和第二目标图像进行对准处理。
9.第二方面,本技术实施例提供了一种图像处理装置,该装置包括:
10.校正模块,用于在第一摄像头拍摄目标对象得到第一图像和第二摄像头拍摄目标对象得到第二图像的情况下,根据第一摄像头与第二摄像头的标定信息,对第一图像和第二图像进行校正处理,得到第一目标图像和第二目标图像;
11.处理模块,用于根据第一图像中目标对象所在的第一区域和第二图像中目标对象所在的第二区域,确定第一图像和第二图像的视差偏移量;
12.处理模块,还用于根据视差偏移量,对第一目标图像和第二目标图像进行对准处理。
13.第三方面,本技术实施例提供了一种电子设备,该电子设备包括处理器和存储器,所述存储器存储可在所述处理器上运行的程序或指令,所述程序或指令被所述处理器执行时实现如第一方面所述的方法的步骤。
14.第四方面,本技术实施例提供了一种可读存储介质,所述可读存储介质上存储程序或指令,所述程序或指令被处理器执行时实现如第一方面所述的方法的步骤。
15.第五方面,本技术实施例提供了一种芯片,所述芯片包括处理器和通信接口,所述通信接口和所述处理器耦合,所述处理器用于运行程序或指令,实现如第一方面所述的方法。
16.第六方面,本技术实施例提供一种计算机程序产品,该程序产品被存储在存储介质中,该程序产品被至少一个处理器执行以实现如第一方面所述的方法。
17.在本技术实施例中,在第一摄像头拍摄目标对象得到第一图像和第二摄像头拍摄目标对象得到第二图像的情况下,可以根据第一摄像头和第二摄像头的标定信息,对第一图像和第二图像进行校正处理,由此可以实现对第一图像和第二图像的初步在线校正。接下来,根据第一图像中目标对象所在的第一区域和第二图像中目标对象所在的第二区域,确定第一图像和第二图像的视差偏移量,并根据视差偏移量,对第一目标图像和第二目标图像进行对准处理,有效减少摄像头在防抖过程中对图像对准效果的影响,得到对准误差小且视差准确的校正图像对。
附图说明
18.图1是本技术实施例提供的一种图像处理方法的流程示意图;
19.图2是本技术实施例提供的一种视差偏移示意图;
20.图3是本技术实施例提供的一种对极几何约束的示意图;
21.图4是本技术实施例提供的一种图像处理装置的结构示意图;
22.图5是本技术实施例提供的一种电子设备的结构示意图;
23.图6是本技术实施例提供的另一种电子设备的硬件结构示意图。
具体实施方式
24.下面将结合本技术实施例中的附图,对本技术实施例中的技术方案进行清楚地描述,显然,所描述的实施例是本技术一部分实施例,而不是全部的实施例。基于本技术中的实施例,本领域普通技术人员获得的所有其他实施例,都属于本技术保护的范围。
25.本技术的说明书和权利要求书中的术语“第一”、“第二”等是用于区别类似的对象,而不用于描述特定的顺序或先后次序。应该理解这样使用的数据在适当情况下可以互换,以便本技术的实施例能够以除了在这里图示或描述的那些以外的顺序实施,且“第一”、“第二”等所区分的对象通常为一类,并不限定对象的个数,例如第一对象可以是一个,也可以是多个。此外,说明书以及权利要求中“和/或”表示所连接对象的至少其中之一,字符“/”,一般表示前后关联对象是一种“或”的关系。
26.随着电子设备的更新换代,越来越多的电子设备搭载多个摄像头,以满足人们日益增长的拍摄需求。在多个摄像头分别拍摄的到多个图像后,往往会将多个摄像头拍摄的图像进行对准,以便于进行其他图像处理,例如,对多张图像进行融合处理。
27.然而,为了提升拍摄画面的稳定性、提升低亮度环境下的成像效果等,电子设备中常会为摄像头配置防抖技术。由于电子设备在启用防抖技术后,摄像头的镜头或者摄像头的位姿会发生改变,在对不同摄像头拍摄的图像进行对准处理的过程中,容易导致不同图像之间的对准结果不理想。
28.针对背景技术中出现的问题,本技术实施例提供了一种图像处理方法、装置、电子
设备和计算机存储介质。在第一摄像头拍摄目标对象得到第一图像和第二摄像头拍摄目标对象得到第二图像的情况下,通过根据第一摄像头和第二摄像头的标定信息,对第一图像和第二图像进行校正处理,由此可以实现对第一图像和第二图像的初步在线校正,得到第一目标图像和第二目标图像。接下来,根据第一图像中目标对象所在的第一区域和第二图像中目标对象所在的第二区域,确定第一图像和第二图像的视差偏移量,并根据视差偏移量,对第一目标图像和第二目标图像进行对准处理,有效减少摄像头在防抖过程中对图像对准效果的影响,得到对准误差小且视差准确的第一目标图像和第二目标图像。
29.下面结合附图,通过具体的实施例及其应用场景对本技术实施例提供的图像处理方法进行详细地说明。
30.请参见图1,图1是本技术实施例提供的一种图像处理方法的流程示意图,包括步骤110至步骤130。
31.步骤110,在第一摄像头拍摄目标对象得到第一图像和第二摄像头拍摄目标对象得到第二图像的情况下,根据第一摄像头与第二摄像头的标定信息,对第一图像和第二图像进行校正处理,得到第一目标图像和第二目标图像。
32.示例性的,电子设备可以搭载多个摄像头,每个摄像头可以进行拍摄得到拍摄图像。电子设备启动拍摄功能后,电子设备通过搭载的多个摄像头对目标对象进行拍摄,可以得到多个图像。
33.作为一个具体的示例,电子设备可以配置的防抖技术例如微云台、ois防抖方案。以微云台防抖为例,通过微云台可以使摄像头旋转,可以实现抖动补偿。以ois防抖为例,可以通过移动镜片组中的矫正镜片的实现对抖动的补偿。因此,在电子设备结合防抖技术在拍摄图像的过程中,需要结合不同摄像头之间的标定信息,对每个摄像头拍摄得到的图像进行校正。
34.作为一个具体的示例,目标对象例如可以是人物、动物、植物等拍摄对象,目标对象还可以是在拍摄预览界面中用户选取的对象。第一摄像头拍摄目标对象得到第一图像,第二摄像头拍摄目标对象得到第二图像。
35.标定信息可以表征第一摄像头和第二摄像头在对目标对象拍摄过程中各自的位置和姿态,以及第一摄像头和第二摄像头之间的相对位置和姿态的关系,由此,根据标定信息可以对第一图像和第二图像进行在线校正,从而得到第一目标图像和第二目标图像。
36.标定信息可以包括内参标定信息和外参标定信息,其中,内参标定信息用来表征摄像头自身的位置和姿态,外参标定信息用来表征两个摄像头之间的相对位置和姿态的关系。可选地,可以采用对极几何约束,求解得到第一摄像头和第二摄像头之间的标定信息。
37.在得到目标对象的第一图像和第二图像后,根据第一摄像头与第二摄像头的标定信息,由此可以实现对第一图像和第二图像的初步在线校正,得到第一目标图像和第二目标图像。
38.步骤120,根据第一图像中目标对象所在的第一区域和第二图像中目标对象所在的第二区域,确定第一图像和第二图像的视差偏移量。
39.在使用两个摄像头分别进行对目标图像拍摄时,由于两个摄像头的位置不同,两个摄像头在拍摄过程中存在视差,因此,基于标定信息进行校正处理,只能保证第一目标图像和第二目标图像中的同名点在水平线上对齐,但目标对象在两张图像中的成像在水平方
向上存在偏移。其中,同名点为第一目标图像与第二目标图像之间相对应的成像点。
40.作为一个具体的实例,当第一目标图像的第一成像点与第二目标图像的第二成像点在同一直角坐标系中对比时,第一成像点与第二成像点的纵坐标相同,但第一成像点与第二成像点横坐标不同。为了清楚的描述本技术实施例,示例性的,图2是本技术实施例提供的一种视差偏移示意图,图2示出了目标对象203,目标对象203之外为背景图像,由于第一摄像头和第二摄像头之间存在视差,根据标定参数对第一图像和第二图像进行校正后,第一成像点201如图2(a)所示,第二成像点202如图2(b)所示。可以看出,第一成像点和第二成像点的纵坐标相同,第一成像点和第二成像点横坐标不同。即,第一成像点和第二成像点在水平方向上对齐,第一成像点和第二成像点在垂直方向的存在偏移。
41.在本技术的一些实施例,在拍摄图像中目标对象所在的区域的占用面积与目标对象的深度信息存在对应关系。因此,结合第一图像中目标对象所在的第一区域和第二图像中目标对象所在的第二区域,可以分别确定第一图像的深度信息和第二图像的深度信息,进而可以结合第一图像的深度信息和第二图像的深度信息,确定出第一图像和第二图像的视差偏移量。
42.步骤130,根据视差偏移量,对第一目标图像和第二目标图像进行对准处理。
43.在得到视差偏移量后,将第一目标图像或第二目标图像移动视差偏移量后,得到最准后的第一目标图像和第二目标图像,如此,可以减少摄像头之间的视差对图像对准准确度的影响。
44.根据本技术实施例,通过对第一图像和第二图像的初步在线校正,可以得到第一目标图像和第二目标图像,再结合第一图像和第二图像的视差偏移量,并根据视差偏移量,对第一目标图像和第二目标图像进行对准处理,有效减少摄像头在防抖过程中对图像对准效果的影响,得到对准误差小且视差准确的第一目标图像和第二目标图像。此外,根据本技术实施例,在对图像进行对准处理时,无需增加额外的校准器件,因此,一方面能够降低硬件成本,另一方面,由于计算过程简单,因此,也降低了软件开销,能够提高图像处理的速度。
45.在一些实施例中,为了准确地确定视差偏移量,涉及上述步骤120,具体地,可以先获取第一区域与第一图像的面积比例,得到第一面积信息;以及,获取第二区域与第二图像的面积比例,得到第二面积信息;之后,根据第一面积信息、第二面积信息和面积与深度的对应关系,确定第一目标图像和第二目标图像之间的视差偏移量。
46.示例性的,当目标对象与摄像头的距离越近时,目标对象在拍摄图像中成像所占用的区域就越大。因此,目标对象在拍摄图像中成像所占用的区域与目标对象成像的深度信息存在对应关系,由此,可以预先设置面积与深度的对应关系。目标对象在拍摄图像中成像的区域,确定目标图像成像的深度信息,之后,目标图像成像区域的深度信息转换为视差。
47.在一些实施例中,根据第一面积信息、第二面积信息和面积与深度的对应关系,可以分别确定第一区域的深度信息和第二区域的深度信息,并分别将第一区域的深度信息转换为视差,以及第二区域的深度信息转换为视差,从而可以快速计算得到视差偏移量。通过视差偏移量可以补偿第一目标图像和第二目标图像之间在水平方向的视差偏移,提高图像对准的准确性。
48.根据本技术实施例,通过设置面积与深度的对应关系,在求得目标对象的第一面积信息和第二面积信息之后,能够快速计算出第一图像与第二图像之间的视差偏移量,以便于快速对第一目标图像和第二目标图像进行对准处理,提高图像处理的速度。
49.在一些实施例中,第一面积信息为第一图像中目标对象所在的第一区域的面积占用比例。获得第一面积信息的具体步骤可以包括:首先,识别第一图像,确定第一图像中目标对象所在的第一区域;接下来,根据第一区域的面积与第一图像的面积,确定第一面积信息。示例性的,可以通过图像识别模型对第一图像进行识别,可以得到图像识别模型输出的识别结果,识别结果中包括第一图像中目标对象所在的第一区域。接下来,计算第一区域的面积与第一图像的面积的比值得到第一面积信息。
50.在一些实施例中,第二面积信息为第二图像中目标对象所在的第二区域的面积占用比例。通过图像识别模型也可以对第二图像进行识别,得到相应的识别结果,识别结果包括第二图像中目标对象所在的第二区域。接下来,可以计算第二区域面积与第二图像的面积的比值,得到第二面积信息。
51.根据本技术实施例,通过对拍摄得到的图像进行实时检测,实现快速确定拍摄图像中目标对象的所在位置,且提高了计算面积信息的准确性。同时,计算过程简单,可以提高图像处理的速度。
52.作为一个具体的实施例,在得到第一面积信息和第二面积信息后,确定第一图像和第二图像之间的视差偏移量,具体可以参照以下步骤:首先,根据第一面积信息和面积与深度的对应关系,确定第一图像中目标对象的第一深度信息;以及,根据第二面积信息和面积与深度的对应关系,确定第二图像中目标对象的第二深度信息。接下来,根据第一深度信息,确定第一目标图像的第一视差;根据第二深度信息,确定第二目标图像的第二视差。之后,根据第一视差与第二视差的差值,得到第一图像和第二图像之间的视差偏移量。
53.示例性的,由于目标对象与摄像头的距离越近,目标对象在拍摄图像中成像所占用的区域就越大。因此,目标对象在拍摄图像中成像所占用的区域与目标对象成像的深度信息存在对应关系。通过预先设置面积与深度的对应关系。在得到第一面积信息和第二面积信息后,可以快速确定第一图像中目标对象的第一深度信息,以及第二图像中目标对象的第二深度信息。
54.根据第一深度信息,确定第一目标图像的第一视差;根据第二深度信息,确定第二目标图像的第二视差。示例性的,深度信息与视差之间的转换关系可以如公式(1)所示。
[0055][0056]
其中,z为深度信息,d为视差,f为摄像头的焦距,b为两个摄像头光心之间的距离。其中,摄像头的焦距和两个摄像头光心之间的距离可以预先设定,也可以根据两个摄像头实时的拍摄参数和姿态确定。结合公式(1),根据计算得到的第一深度信息,可以得到第一图像对应的第一视差。根据第二深度信息,可以得到第二图像对应的第二视差。
[0057]
根据第一视差与第二视差的差值,得到第一图像和第二图像之间的视差偏移量。示例性的,视差偏移量为第一图像和第二图像的同名点之间的像素距离。由于通过标定信息,已经将第一图像和第二图像进行校正处理,使得第一目标图像和第二目标图像中的同名点在水平线上对准。在获得视差偏移量后,只需要根据视差偏移量移动第一目标图像和
第二目标图像,从而能够实现图像的对快速对准处理。示例性的,可以将第二目标图像沿水平方向向第一目标图像移动视差偏移量对应像素距离,实现图像的对准处理。
[0058]
根据本技术实施例,将不同摄像头的拍摄图像在线校正与视差补偿结合,对图像进行对准处理,能够不影响电子设备拍摄过程的防抖效果,并得到对准误差小且视差准确的对准图像对。
[0059]
在一个具体的示例中,涉及上述步骤110,根据第一摄像头与第二摄像头的标定信息,对第一图像和第二图像进行校正处理,得到第一目标图像和第二目标图像,具体可以包括以下步骤:获取第一图像和第二图像之间相匹配的特征点对;根据特征点对,确定第一摄像头与第二摄像头之间标定信息;根据标定信息,对第一图像和第二图像进行校正处理,得到第一目标图像和第二目标图像。
[0060]
具体地,基于第一摄像头获取第一图像,以及基于第二摄像头获取第二图像后,可以通过预设的特征点提取算法,确定第一图像和第二图像之间的相对应的特征点。例如,图像中的特征点可以基于加速稳健特征(speeded up robust features,surf)、尺度不变特征变换(scale-invariant feature transform,sift)特征,或者快速特征点提取和描述(oriented fast and rotated brief,orb)特征等相应的特征提取算法提取得到,在此不做具体限制。
[0061]
对应每个图像,在根据预设特征点提取算法确定特征点后,可以计算每个特征点的描述子。在匹配两张图像之间的特征点时,可以根据描述子的相似程度进行匹配,得到两张图像之间的特征点匹配对,其中,特征点匹配对的数据为多个。
[0062]
可选地,对于两张图像之间的特征点匹配对,可以对多个特征点匹配对进行筛选,以提高计算精度。例如,可以结合描述子的方向性设定筛选策略,将方向与预设方向不相同的描述子对应的特征点匹配对筛除。
[0063]
在得到特征点匹配对后,可以根据预设的特征点的在线校正的误差函数,通过优化求解的方式,确定第一摄像头与第二摄像头的标定信息。
[0064]
在一个具体的示例中,图3为本技术实施例提供的一种对极几何约束的示意图。如图3所示,p点为目标对象所在的空间点,p点在第一摄像头成像的成像面的第一图像301的投影为p1,p点在第二摄像头的成像面的第二图像为p2。第一摄像头的相机中心点为o1,第二摄像头的相机中心点为o2。o1、o2和p三点确定的平面称为极平面,线段o1o2称为基线,极平面和两个像平面之间的相交线p1e1和p2e2称为极线。对极几何约束用来约束空间中第一图像和第二图像的特征点的位置关系,例如,可以约束第一图像301和第二图像302上的特征点在水平方向对齐。
[0065]
在第一图像301的特征点和第二图像302的特征点在水平方向对齐的情况下,特征点满足公式(2)。
[0066][0067]
其中,f为基础矩阵(fundamental matrix),x
l
为第一图像中特征点坐标的齐次形式,xr为第二图像中特征点坐标的齐次形式。
[0068]
当第一图像301的特征点和第二图像302的特征点在水平方向对齐当第一图像301的特征点和第二图像302的特征点在水平方向对齐的情况下,f满足特殊形式,如公式(3)所示。
[0069][0070]
在本技术实施例中,结合特征点匹配对,以及公式(2),可以构建在线校正的误差函数。示例性的,在线校正的误差函数可以如公式(4)所示。通过求解在线校正的误差函数得到第一摄像头和第二摄像头的标定信息。
[0071][0072]
其中,x
l
为第一图像中特征点坐标的齐次形式,k
l
为第一摄像头的第一内参矩阵,r
l
为第一摄像头的第一旋转矩阵,xr为第二图像中特征点坐标的齐次形式,kr为第二摄像头的第二内参矩阵,rr为第二摄像头的第二旋转矩阵。
[0073]
其中,k
l
、r
l
、kr、rr为预设优化函数的目标优化变量。根据预设优化函数,对在线校正的误差函数,得到优化后的标定信息,优化后的标定信息包括第一摄像头的第一目标内参矩阵k
l0
、第一摄像头的第一目标旋转矩阵r
l0
,为第二摄像头的第二目标内参矩阵k
r0
,为第二摄像头的第二目标旋转矩阵r
r0

[0074]
示例性的,第一摄像头的第一内参矩阵如公式(5)所示。
[0075][0076]
其中,f为第一摄像头的焦距,(x
c1
,y
c1
)为第一摄像头的主点坐标。
[0077]
根据本技术实施例,通过优化求解如公式(4)所示的在线校正的误差函数,可以得到第一摄像头和第二摄像头的标定信息。
[0078]
根据本技术实施例,基于标定信息对第一图像和第二图像进行初步在线校正,保证了第一目标图像和第二目标图像中的同名点在水平线上对齐。
[0079]
在一个具体地示例中,根据标定信息,对第一图像和第二图像进行校正处理,得到第一目标图像和第二目标图像,具体可以包括:根据标定信息,生成第一图像和第二图像之间的图像变换矩阵;根据图像变换矩阵对第一图像和第二图像进行校正处理,得到第一目标图像和第二目标图像。
[0080]
示例性的,第一摄像头和第二摄像头的标定信息中包括第一摄像头的第一目标内参矩阵、第一摄像头的第一目标旋转矩阵、第二摄像头的第二目标内参矩阵,以及第二摄像头的第二目标旋转矩阵。由此,根据标定信息生成第一图像和第二图像之间的图像变换矩阵。根据图像变换矩阵,可以对第一图像或者第二图像进行平移、旋转、缩放等图像变换处理,以完成对第一图像和第二图像进行校正处理,得到第一目标图像和第二目标图像。
[0081]
根据本技术实施例,基于标定信息对第一图像和第二图像进行校正处理,保证了第一目标图像和第二目标图像中的同名点在水平线上对准。
[0082]
本技术实施例提供的图像处理方法,执行主体可以为图像处理装置。本技术实施例中以图像处理装置执行图像处理的方法为例,说明本技术实施例提供的图像处理的装置。
[0083]
图4是本技术实施例提供的一种图像处理装置的结构示意图。结合图4所示,图像
处理装置400可以包括:
[0084]
校正模块410,用于在第一摄像头拍摄目标对象得到第一图像和第二摄像头拍摄目标对象得到第二图像的情况下,根据第一摄像头与第二摄像头的标定信息,对第一图像和第二图像进行校正处理,得到第一目标图像和第二目标图像;
[0085]
处理模块420,用于根据第一图像中目标对象所在的第一区域和第二图像中目标对象所在的第二区域,确定第一图像和第二图像的视差偏移量;
[0086]
处理模块420,还用于根据视差偏移量,对第一目标图像和第二目标图像进行对准处理。
[0087]
根据本技术实施例根据第一摄像头与第二摄像头的标定信息,对第一图像和第二图像进行校正处理,由此可以实现对第一图像和第二图像的初步在线校正,得到第一目标图像和第二目标图像。接下来,根据第一图像中目标对象所在的第一区域和第二图像中目标对象所在的第二区域,确定第一图像和第二图像的视差偏移量,并根据视差偏移量,对第一目标图像和第二目标图像进行对准处理,有效减少摄像头在防抖过程中对图像对准效果的影响,得到对准误差小且视差准确的第一目标图像和第二目标图像。
[0088]
在一些实施例中,装置还包括:
[0089]
获取模块,用于获取第一区域与第一图像的面积比例,得到第一面积信息;
[0090]
获取模块,还用于获取第二区域与第二图像的面积比例,得到第二面积信息;
[0091]
处理模块420,还用于根据第一面积信息、第二面积信息和面积与深度的对应关系,确定第一图像和第二图像之间的视差偏移量。
[0092]
根据本技术实施例,通过设置面积与深度的对应关系,在求得目标对象的第一面积信息和第二面积信息之后,能够快速计算出第一目标图像与第二目标图像之间的视差偏移量,从而提高了图像处理的速度。
[0093]
在一些实施例中,处理模块420,还用于根据第一面积信息和面积与深度的对应关系,确定第一图像中目标对象的第一深度信息;
[0094]
处理模块420,还用于根据第二面积信息和面积与深度的对应关系,确定第二图像中目标对象的第二深度信息;
[0095]
处理模块420,还用于根据第一深度信息,确定第一目标图像的第一视差;
[0096]
处理模块420,还用于根据第二深度信息,确定第二目标图像的第二视差;
[0097]
处理模块420,还用于根据第一视差与第二视差的差值,得到第一图像和第二图像之间的视差偏移量。
[0098]
根据本技术实施例,将不同摄像头的拍摄图像在线校正与视差补偿结合,对图像进行对准处理,能够不影响电子设备拍摄过程的防抖效果,并得到对准误差小且视差准确的对准图像对。
[0099]
在一些实施例中,处理模块420,还用于识别第一图像,确定第一图像中目标对象所在的第一区域;
[0100]
处理模块420,还用于根据第一区域的面积与第一图像的面积,确定第一面积信息。
[0101]
根据本技术实施例,通过对拍摄得到的图像进行实时检测,确定拍摄图像中目标对象的所在位置,可以提高计算面积信息的准确性。同时,计算过程简单,可以提高图像处
理的速度。
[0102]
在一些实施例中,获取模块,还用于获取第一图像和第二图像之间相匹配的特征点对;
[0103]
处理模块420,还用于根据特征点对,确定第一摄像头与第二摄像头之间标定信息;
[0104]
处理模块420,还用于根据标定信息,对第一图像和第二图像进行校正处理,得到第一目标图像和第二目标图像。
[0105]
根据本技术实施例,基于标定信息对第一图像和第二图像进行校正处理,保证了第一目标图像和第二目标图像中的同名点在水平线上对准。
[0106]
在一些实施例中,处理模块420,还用于根据标定信息,生成第一图像和第二图像之间的图像变换矩阵;
[0107]
处理模块420,还用于根据图像变换矩阵对第一图像和第二图像进行校正处理,得到第一目标图像和第二目标图像。
[0108]
根据本技术实施例,基于标定信息对第一图像和第二图像进行校正处理,保证了第一目标图像和第二目标图像中的同名点在水平线上对准。
[0109]
本技术实施例中的图像处理装置可以是电子设备,也可以是电子设备中的部件,例如集成电路或芯片。该电子设备可以是终端,也可以为除终端之外的其他设备。示例性的,电子设备可以为手机、平板电脑、笔记本电脑、掌上电脑、车载电子设备、移动上网装置(mobile internet device,mid)、增强现实(augmented reality,ar)/虚拟现实(virtual reality,vr)设备、机器人、可穿戴设备、超级移动个人计算机(ultra-mobile personal computer,umpc)、上网本或者个人数字助理(personal digital assistant,pda)等,还可以为服务器、网络附属存储器(network attached storage,nas)、个人计算机(personal computer,pc)、电视机(television,tv)、柜员机或者自助机等,本技术实施例不作具体限定。
[0110]
本技术实施例中的图像处理装置可以为具有操作系统的装置。该操作系统可以为安卓(android)操作系统,可以为ios操作系统,还可以为其他可能的操作系统,本技术实施例不作具体限定。
[0111]
本技术实施例提供的图像处理装置能够实现图像处理方法实施例实现的各个过程,为避免重复,这里不再赘述。
[0112]
可选地,如图5所示,本技术实施例还提供一种电子设备500,包括处理器501和存储器502,存储器502上存储有可在所述处理器501上运行的程序或指令,该程序或指令被处理器501执行时实现上述图像处理方法实施例的各个步骤,且能达到相同的技术效果,为避免重复,这里不再赘述。
[0113]
需要说明的是,本技术实施例中的电子设备包括上述所述的移动电子设备和非移动电子设备。
[0114]
图6为实现本技术实施例的一种电子设备的硬件结构示意图。
[0115]
该电子设备600包括但不限于:射频单元601、网络模块602、音频输出单元603、输入单元604、传感器605、显示单元606、用户输入单元607、接口单元608、存储器609、以及处理器610等部件。
[0116]
本领域技术人员可以理解,电子设备600还可以包括给各个部件供电的电源(比如电池),电源可以通过电源管理系统与处理器610逻辑相连,从而通过电源管理系统实现管理充电、放电、以及功耗管理等功能。图6中示出的电子设备结构并不构成对电子设备的限定,电子设备可以包括比图示更多或更少的部件,或者组合某些部件,或者不同的部件布置,在此不再赘述。
[0117]
其中,处理器610,用于在第一摄像头拍摄目标对象得到第一图像和第二摄像头拍摄目标对象得到第二图像的情况下,根据第一摄像头与第二摄像头的标定信息,对第一图像和第二图像进行校正处理,得到第一目标图像和第二目标图像;
[0118]
处理器610,用于根据第一图像中目标对象所在的第一区域和第二图像中目标对象所在的第二区域,确定第一图像和第二图像的视差偏移量;
[0119]
处理器610,还用于根据视差偏移量,对第一目标图像和第二目标图像进行对准处理。
[0120]
根据本技术实施例根据第一摄像头与第二摄像头的标定信息,对第一图像和第二图像进行校正处理,由此可以实现对第一图像和第二图像的初步在线校正,得到第一目标图像和第二目标图像。接下来,根据第一图像中目标对象所在的第一区域和第二图像中目标对象所在的第二区域,确定第一图像和第二图像的视差偏移量,并根据视差偏移量,对第一目标图像和第二目标图像进行对准处理,有效减少摄像头在防抖过程中对图像对准效果的影响,得到对准误差小且视差准确的第一目标图像和第二目标图像。
[0121]
在一些实施例中,处理器610,用于获取第一区域与第一图像的面积比例,得到第一面积信息;
[0122]
处理器610,还用于获取第二区域与第二图像的面积比例,得到第二面积信息;
[0123]
处理器610,还用于根据第一面积信息、第二面积信息和面积与深度的对应关系,确定第一图像和第二图像之间的视差偏移量。
[0124]
根据本技术实施例,通过设置面积与深度的对应关系,在求得目标对象的第一面积信息和第二面积信息之后,能够快速计算出第一目标图像与第二目标图像之间的视差偏移量,从而提高了图像处理的速度。
[0125]
在一些实施例中,处理器610,还用于根据第一面积信息和面积与深度的对应关系,确定第一图像中目标对象的第一深度信息;
[0126]
处理器610,还用于根据第二面积信息和面积与深度的对应关系,确定第二图像中目标对象的第二深度信息;
[0127]
处理器610,还用于根据第一深度信息,确定第一目标图像的第一视差;
[0128]
处理器610,还用于根据第二深度信息,确定第二目标图像的第二视差;
[0129]
处理器610,还用于根据第一视差与第二视差的差值,得到第一图像和第二图像之间的视差偏移量。
[0130]
根据本技术实施例,将不同摄像头的拍摄图像在线校正与视差补偿结合,对图像进行对准处理,能够不影响电子设备拍摄过程的防抖效果,并得到对准误差小且视差准确的对准图像对。
[0131]
在一些实施例中,处理器610,还用于识别第一图像,确定第一图像中目标对象所在的第一区域;
[0132]
处理器610,还用于根据第一区域的面积与第一图像的面积,确定第一面积信息。
[0133]
根据本技术实施例,通过对拍摄得到的图像进行实时检测,确定拍摄图像中目标对象的所在位置,可以提高计算面积信息的准确性。同时,计算过程简单,可以提高图像处理的速度。
[0134]
在一些实施例中,处理器610,还用于获取第一图像和第二图像之间相匹配的特征点对;
[0135]
处理器610,还用于根据特征点对,确定第一摄像头与第二摄像头之间标定信息;
[0136]
处理器610,还用于根据标定信息,对第一图像和第二图像进行校正处理,得到第一目标图像和第二目标图像。
[0137]
根据本技术实施例,基于标定信息对第一图像和第二图像进行校正处理,保证了第一目标图像和第二目标图像中的同名点在水平线上对准。
[0138]
在一些实施例中,处理器610,还用于根据标定信息,生成第一图像和第二图像之间的图像变换矩阵;
[0139]
处理器610,还用于根据图像变换矩阵对第一图像和第二图像进行校正处理,得到第一目标图像和第二目标图像。
[0140]
根据本技术实施例,基于标定信息对第一图像和第二图像进行校正处理,保证了第一目标图像和第二目标图像中的同名点在水平线上对准。
[0141]
应理解的是,本技术实施例中,输入单元604可以包括图形处理器(graphics processing unit,gpu)6041和麦克风6042,图形处理器6041对在视频捕获模式或图像捕获模式中由图像捕获装置(如摄像头)获得的静态图片或视频的图像数据进行处理。显示单元606可包括显示面板6061,可以采用液晶显示器、有机发光二极管等形式来配置显示面板6061。用户输入单元607包括触控面板6071以及其他输入设备6072中的至少一种。触控面板6071,也称为触摸屏。触控面板6071可包括触摸检测装置和触摸控制器两个部分。其他输入设备6072可以包括但不限于物理键盘、功能键(比如音量控制按键、开关按键等)、轨迹球、鼠标、操作杆,在此不再赘述。
[0142]
存储器609可用于存储软件程序以及各种数据。存储器609可主要包括存储程序或指令的第一存储区和存储数据的第二存储区,其中,第一存储区可存储操作系统、至少一个功能所需的应用程序或指令(比如声音播放功能、图像播放功能等)等。此外,存储器609可以包括易失性存储器或非易失性存储器,或者,存储器609可以包括易失性和非易失性存储器两者。其中,非易失性存储器可以是只读存储器(read-only memory,rom)、可编程只读存储器(programmable rom,prom)、可擦除可编程只读存储器(erasable prom,eprom)、电可擦除可编程只读存储器(electrically eprom,eeprom)或闪存。易失性存储器可以是随机存取存储器(random access memory,ram),静态随机存取存储器(static ram,sram)、动态随机存取存储器(dynamic ram,dram)、同步动态随机存取存储器(synchronous dram,sdram)、双倍数据速率同步动态随机存取存储器(double data rate sdram,ddrsdram)、增强型同步动态随机存取存储器(enhanced sdram,esdram)、同步连接动态随机存取存储器(synch link dram,sldram)和直接内存总线随机存取存储器(direct rambus ram,drram)。本技术实施例中的存储器609包括但不限于这些和任意其它适合类型的存储器。
[0143]
处理器610可包括一个或多个处理单元;可选的,处理器610集成应用处理器和调
制解调处理器,其中,应用处理器主要处理涉及操作系统、用户界面和应用程序等的操作,调制解调处理器主要处理无线通信信号,如基带处理器。可以理解的是,上述调制解调处理器也可以不集成到处理器610中。
[0144]
本技术实施例还提供一种可读存储介质,所述可读存储介质上存储有程序或指令,该程序或指令被处理器执行时实现上述图像处理方法实施例的各个过程,且能达到相同的技术效果,为避免重复,这里不再赘述。
[0145]
其中,所述处理器为上述实施例中所述的电子设备中的处理器。所述可读存储介质,包括计算机可读存储介质,如计算机只读存储器rom、随机存取存储器ram、磁碟或者光盘等。
[0146]
本技术实施例另提供了一种芯片,所述芯片包括处理器和通信接口,所述通信接口和所述处理器耦合,所述处理器用于运行程序或指令,实现上述图像处理方法实施例的各个过程,且能达到相同的技术效果,为避免重复,这里不再赘述。
[0147]
应理解,本技术实施例提到的芯片还可以称为系统级芯片、系统芯片、芯片系统或片上系统芯片等。
[0148]
本技术实施例提供一种计算机程序产品,该程序产品被存储在存储介质中,该程序产品被至少一个处理器执行以实现如上述图像处理方法实施例的各个过程,且能达到相同的技术效果,为避免重复,这里不再赘述。
[0149]
需要说明的是,在本文中,术语“包括”、“包含”或者其任何其他变体意在涵盖非排他性的包含,从而使得包括一系列要素的过程、方法、物品或者装置不仅包括那些要素,而且还包括没有明确列出的其他要素,或者是还包括为这种过程、方法、物品或者装置所固有的要素。在没有更多限制的情况下,由语句“包括一个
……”
限定的要素,并不排除在包括该要素的过程、方法、物品或者装置中还存在另外的相同要素。此外,需要指出的是,本技术实施方式中的方法和装置的范围不限按示出或讨论的顺序来执行功能,还可包括根据所涉及的功能按基本同时的方式或按相反的顺序来执行功能,例如,可以按不同于所描述的次序来执行所描述的方法,并且还可以添加、省去、或组合各种步骤。另外,参照某些示例所描述的特征可在其他示例中被组合。
[0150]
通过以上的实施方式的描述,本领域的技术人员可以清楚地了解到上述实施例方法可借助软件加必需的通用硬件平台的方式来实现,当然也可以通过硬件,但很多情况下前者是更佳的实施方式。基于这样的理解,本技术的技术方案本质上或者说对现有技术做出贡献的部分可以以计算机软件产品的形式体现出来,该计算机软件产品存储在一个存储介质(如rom/ram、磁碟、光盘)中,包括若干指令用以使得一台终端(可以是手机,计算机,服务器,或者网络设备等)执行本技术各个实施例所述的方法。
[0151]
上面结合附图对本技术的实施例进行了描述,但是本技术并不局限于上述的具体实施方式,上述的具体实施方式仅仅是示意性的,而不是限制性的,本领域的普通技术人员在本技术的启示下,在不脱离本技术宗旨和权利要求所保护的范围情况下,还可做出很多形式,均属于本技术的保护之内。

技术特征:
1.一种图像处理方法,其特征在于,包括:在第一摄像头拍摄目标对象得到第一图像和第二摄像头拍摄目标对象得到第二图像的情况下,根据所述第一摄像头与所述第二摄像头的标定信息,对所述第一图像和所述第二图像进行校正处理,得到第一目标图像和第二目标图像;根据所述第一图像中所述目标对象所在的第一区域和所述第二图像中目标对象所在的第二区域,确定所述第一图像和所述第二图像的视差偏移量;根据所述视差偏移量,对所述第一目标图像和所述第二目标图像进行对准处理。2.根据权利要求1所述的方法,其特征在于,所述根据所述第一图像中所述目标对象所在的第一区域和所述第二图像中目标对象所在的第二区域,确定所述第一图像和所述第二图像的视差偏移量,包括:获取所述第一区域与所述第一图像的面积比例,得到所述第一面积信息;获取所述第二区域与所述第二图像的面积比例,得到所述第二面积信息;根据所述第一面积信息、所述第二面积信息和面积与深度的对应关系,确定所述第一图像和所述第二图像之间的视差偏移量。3.根据权利要求2所述的方法,其特征在于,所述根据所述第一面积信息、所述第二面积信息和面积与深度的对应关系,确定所述第一图像和所述第二图像之间的视差偏移量,包括:根据所述第一面积信息和所述面积与深度的对应关系,确定所述第一图像中目标对象的第一深度信息;根据所述第二面积信息和所述面积与深度的对应关系,确定所述第二图像中目标对象的第二深度信息;根据所述第一深度信息,确定所述第一目标图像的第一视差;根据所述第二深度信息,确定所述第二目标图像的第二视差;根据所述第一视差与第二视差的差值,得到所述第一图像和所述第二图像之间的视差偏移量。4.根据权利要求1所述的方法,其特征在于,所述根据所述第一摄像头与所述第二摄像头的标定信息,对所述第一图像和所述第二图像进行校正处理,得到第一目标图像和第二目标图像,包括:获取第一图像和所述第二图像之间相匹配的特征点对;根据所述特征点对,确定所述第一摄像头与所述第二摄像头之间标定信息;根据所述标定信息,对所述第一图像和所述第二图像进行校正处理,得到第一目标图像和第二目标图像。5.根据权利要求4所述的方法,其特征在于,所述根据所述标定信息,对所述第一图像和所述第二图像进行校正处理,得到第一目标图像和第二目标图像,包括:根据所述标定信息,生成所述第一图像和所述第二图像之间的图像变换矩阵;根据所述图像变换矩阵对所述第一图像和所述第二图像进行校正处理,得到所述第一目标图像和所述第二目标图像。6.一种图像处理装置,其特征在于,包括:校正模块,用于在第一摄像头拍摄目标对象得到第一图像和第二摄像头拍摄目标对象
得到第二图像的情况下,根据所述第一摄像头与所述第二摄像头的标定信息,对所述第一图像和所述第二图像进行校正处理,得到第一目标图像和第二目标图像;处理模块,用于根据所述第一图像中所述目标对象所在的第一区域和所述第二图像中目标对象所在的第二区域,确定所述第一图像和所述第二图像的视差偏移量;所述处理模块,还用于根据所述视差偏移量,对所述第一目标图像和所述第二目标图像进行对准处理。7.根据权利要求6所述的装置,其特征在于,所述装置还包括:获取模块,用于获取所述第一区域与所述第一图像的面积比例,得到所述第一面积信息;所述获取模块,还用于获取所述第二区域与所述第二图像的面积比例,得到所述第二面积信息;所述处理模块,还用于根据所述第一面积信息、所述第二面积信息和预设面积与深度的对应关系,确定所述第一图像和所述第二图像之间的视差偏移量。8.根据权利要求7所述的装置,其特征在于,所述处理模块,还用于根据所述第一面积信息和所述面积与深度的对应关系,确定所述第一图像中目标对象的第一深度信息;所述处理模块,还用于根据所述第二面积信息和所述面积与深度的对应关系,确定所述第二图像中目标对象的第二深度信息;所述处理模块,还用于根据所述第一深度信息,确定所述第一目标图像的第一视差;所述处理模块,还用于根据所述第二深度信息,确定所述第二目标图像的第二视差;所述处理模块,还用于根据所述第一视差与第二视差的差值,得到所述第一图像和所述第二图像之间的视差偏移量。9.一种电子设备,其特征在于,包括处理器和存储器,所述存储器存储可在所述处理器上运行的程序或指令,所述程序或指令被所述处理器执行时实现如权利要求1-5任一项所述的图像处理方法的步骤。10.一种可读存储介质,其特征在于,所述可读存储介质上存储程序或指令,所述程序或指令被处理器执行时实现如权利要求1-5任一项所述的图像处理方法的步骤。

技术总结
本申请公开了一种图像处理方法、装置、电子设备和可读存储介质,属于图像处理领域。图像处理方法包括:在第一摄像头拍摄目标对象得到第一图像和第二摄像头拍摄目标对象得到第二图像的情况下,根据第一摄像头与第二摄像头的标定信息,对第一图像和第二图像进行校正处理,得到第一目标图像和第二目标图像;根据第一图像中目标对象所在的第一区域和第二图像中目标对象所在的第二区域,确定第一图像和第二图像的视差偏移量;根据视差偏移量,对第一目标图像和第二目标图像进行对准处理。目标图像和第二目标图像进行对准处理。目标图像和第二目标图像进行对准处理。


技术研发人员:王大成 王玮
受保护的技术使用者:维沃移动通信有限公司
技术研发日:2022.07.25
技术公布日:2022/11/1
转载请注明原文地址: https://tieba.8miu.com/read-3824.html

最新回复(0)