本发明涉及目标检测,特别涉及一种基于光流网络的运动物体检测方法及装置。
背景技术:
1、运动物体检测在多种实际应用中都有着至关重要的角色,例如安全监控、车载摄像头、交通流量监控等。传统的运动物体检测方法通常基于背景建模或帧间差分来实现。例如,背景建模法通过建立一个背景模型并与实时帧进行比较,以检测出前景或运动物体;帧间差分法通过比较连续帧之间的差异来确定运动物体。
2、然而,现有的传统方法在实际应用中的效果并不理想,其主要原因包括:
3、1.光照变化、背景动态变化(如风吹树叶、雨滴等)或阴影等会导致对运动物体的误判,从而影响检测结果的准确性;
4、2.当物体存在长时间停留时,则很可能被误认为是背景,从而当其发生运动后,算法无法将其识别出来;
5、3.快速运动的物体可能导致采集到的图像中物体模糊,从而因物体清晰度不够使得算法无法识别出物体,影响检测效果。
6、为了解决这些问题,研究人员尝试引入更复杂的背景建模方法,或结合多个算法以增强鲁棒性,但效果仍有限。
技术实现思路
1、本发明的目的在于提供一种基于光流网络的运动物体检测方法及装置,以解决如何对运动物体进行有效检测的问题。
2、为解决上述技术问题,本发明提供一种基于光流网络的运动物体检测方法,包括:
3、获取视频流,所述视频流包括至少2帧连续的图像;
4、利用光流网络,从连续的图像中提取光流信息场;
5、通过光流信息场,获得图像中每个像素的运动特征;
6、根据运动特征,提取运动物体。
7、可选的,在所述的基于光流网络的运动物体检测方法中,所述利用光流网络,从连续的图像中提取光流信息场的方法包括:
8、将视频流输入至光流网络中;
9、利用光流网络中的下采样卷积层提取特征图像;
10、利用光流网络中的滑窗转换器对特征图像进行特征增强;
11、根据2帧连续的特征增强后的特征图像得到特征矩阵;
12、利用光流网络中的柔性最大值传输函数对特征图像中的所有像素的特征相似性进行比较,以得到匹配概率;
13、利用匹配概率进行全局特征匹配,以得到小尺度光流场;
14、利用光流网络中的上采样卷积层对小尺度光流场进行上采样,以指导特征图像进行光流传播,得到光流特征图;
15、对光流特征图计算自注意力,并再次光流传播,经上采样后得到光流信息场。
16、可选的,在所述的基于光流网络的运动物体检测方法中,所述利用光流网络中的下采样卷积层提取特征图像的方法包括:
17、利用光流网络中的下采样卷积层对相邻两帧图像进行下采样,以提取出第一特征图像和第二特征图像。
18、可选的,在所述的基于光流网络的运动物体检测方法中,所述利用光流网络中的滑窗转换器对特征图像进行特征增强的方法包括:
19、设置一个可学习的固定位置编码,以确认像素之间的位置关系;
20、将第二特征图像和固定位置编码一同输入至滑窗转换器中,以对第二特征图像进行特征增强。
21、可选的,在所述的基于光流网络的运动物体检测方法中,所述滑窗转换器由多个滑窗转换器串联叠加构成。
22、可选的,在所述的基于光流网络的运动物体检测方法中,所述利用匹配概率进行全局特征匹配,以得到小尺度光流场的计算公式为:
23、flowmini=s×g-g
24、g=interpo(f1,f2)
25、s=softmax(z)
26、
27、其中,中的表示特征维度,h、w、d依次分别表示特征维度的高、宽、通道数;flowmini表示小尺度光流场,g表示光流场对应光流输出的网格,interpo(,)表示双线性插值;s表示特征矩阵z通过柔性最大值传输函数得到的像素特征相似性的匹配概率;z表示特征矩阵,f1和f2分别为经过滑窗转换器特征增强后的特征图像,
28、可选的,在所述的基于光流网络的运动物体检测方法中,所述利用光流网络中的上采样卷积层对小尺度光流场进行上采样,以指导特征图像进行光流传播,得到光流特征图的方法包括:
29、对小尺度光流场进行上采样,以得到光流特征;
30、将靠前的一帧图像设置为参考帧图像;
31、利用光流特征,对非参考帧图像所对应的第一特征图像进行光流校正;
32、对非参考帧图像所对应的经光流校正后的第一特征图像进行光流传播,以得到光流特征图。
33、可选的,在所述的基于光流网络的运动物体检测方法中,所述对光流特征图计算自注意力,并再次光流传播,经上采样后得到光流信息场的方法包括:
34、对参考帧图像对应的第一特征图像和光流特征图进行自注意力计算,以得到注意力特征图;
35、对注意力特征图依次进行上采样和卷积处理,以得到光流信息场。
36、可选的,在所述的基于光流网络的运动物体检测方法中,所述通过光流信息场,获得图像中每个像素的运动特征的方法包括:
37、根据光流信息场,计算图像中各个像素的速度;
38、设置速度阈值;
39、若像素的速度大于速度阈值,则保留该像素对应的光流矢量,所述光流矢量为运动特征。
40、可选的,在所述的基于光流网络的运动物体检测方法中,所述根据运动特征,提取运动物体的方法包括:
41、从保留的光流矢量所对应的像素点中,找出横坐标和纵坐标的最大值和最小值;
42、根据横坐标和纵坐标的最大值和最小值,确认图像中运动物体的区域范围;
43、根据区域范围,形成边界框以标记出运动物体。
44、为解决上述技术问题,本发明还提供一种基于光流网络的运动物体检测装置,用于实现如上任一项所述的基于光流网络的运动物体检测方法,所述基于光流网络的运动物体检测装置包括:
45、视频输入模块,用于获取视频流,所述视频流包括至少2帧连续的图像;
46、光流网络模块,包括金字塔光流变形网络;所述金字塔光流变形网络包括下采样卷积层、滑窗转换器、柔性最大值传输函数、上采样卷积层和自注意力单元;所述光流网络模块用于利用金字塔光流变形网络,从视频流中获得像素的运动特征;
47、物体检测模块,用于根据运动特征,提取运动物体。
48、本发明提供的基于光流网络的运动物体检测方法及装置,包括:获取视频流,所述视频流包括至少2帧连续的图像;利用光流网络,从连续的图像中提取光流信息场;通过光流信息场,获得图像中每个像素的运动特征;根据运动特征,提取运动物体。通过光流网络提取像素的运动特征,能够更精准地处理光照变化、背景动态变化和阴影,从而能够更精确地捕捉和理解复杂场景中的运动模式,使得对于不同速度和大小的运动物体都能够有效检测,解决了如何对运动物体进行有效检测的问题。
1.一种基于光流网络的运动物体检测方法,其特征在于,包括:
2.根据权利要求1所述的基于光流网络的运动物体检测方法,其特征在于,所述利用光流网络,从连续的图像中提取光流信息场的方法包括:
3.根据权利要求2所述的基于光流网络的运动物体检测方法,其特征在于,所述利用光流网络中的下采样卷积层提取特征图像的方法包括:
4.根据权利要求3所述的基于光流网络的运动物体检测方法,其特征在于,所述利用光流网络中的滑窗转换器对特征图像进行特征增强的方法包括:
5.根据权利要求2所述的基于光流网络的运动物体检测方法,其特征在于,所述滑窗转换器由多个滑窗转换器串联叠加构成。
6.根据权利要求2所述的基于光流网络的运动物体检测方法,其特征在于,所述利用匹配概率进行全局特征匹配,以得到小尺度光流场的计算公式为:
7.权利要求3所述的基于光流网络的运动物体检测方法,其特征在于,所述利用光流网络中的上采样卷积层对小尺度光流场进行上采样,以指导特征图像进行光流传播,得到光流特征图的方法包括:
8.权利要求7所述的基于光流网络的运动物体检测方法,其特征在于,所述对光流特征图计算自注意力,并再次光流传播,经上采样后得到光流信息场的方法包括:
9.根据权利要求1所述的基于光流网络的运动物体检测方法,其特征在于,所述通过光流信息场,获得图像中每个像素的运动特征的方法包括:
10.根据权利要求9所述的基于光流网络的运动物体检测方法,其特征在于,所述根据运动特征,提取运动物体的方法包括:
11.一种基于光流网络的运动物体检测装置,用于实现如权利要求1~10任一项所述的基于光流网络的运动物体检测方法,其特征在于,所述基于光流网络的运动物体检测装置包括:
