本发明属于瓦楞纸箱缺陷检测,尤其涉及一种基于自适应空间特征融合和结构重参数化的瓦楞纸箱缺陷检测方法及系统。
背景技术:
1、瓦楞纸箱缺陷检测方法主要包括两种类型:人工检测和光学检测。人工检测方法存在许多缺点。检测过程效率低,对于一些微小的、弱的、难以察觉的缺陷,人眼可能无法准确地识别,导致缺陷被忽略。由于上述缺点,瓦楞纸箱缺陷检测逐渐转向自动化和半自动化的检测方法,如机器视觉、传感器技术等,以提高检测效率和准确性。
2、自动光学检测技术是一种基于光学原理和机器视觉技术的检测方法,核心是利用光学成像技术来捕获物体的图像,然后使用计算机来处理、分析和识别这些图像,以实现自动检测。由于传统的成像系统、检测算法和计算能力的限制,目前的自动光学检测方法经常遇到微小缺陷检测精度低和检测速度慢等限制的问题。因此,开发一种检测速度快、精度高的目标检测算法对于瓦楞纸箱缺陷检测具有重要的意义。
技术实现思路
1、针对现有的瓦楞纸箱缺陷检测算法存在着检测精度低和鲁棒性差等问题,本发明提出一种基于自适应空间特征融合和结构重参数化的瓦楞纸箱缺陷检测方法及系统,该系统结构简单,能实时获取被检测瓦楞纸箱图像,结合基于自适应空间特征融合和结构重参数化的缺陷检测算法,具有高的检测精度和速度,有望在瓦楞纸箱缺陷检测领域得到广泛应用。
2、为实现上述目的,本发明提供了一种基于自适应空间特征融合和结构重参数化的瓦楞纸箱缺陷检测方法,包括:
3、采集待检测的瓦楞纸箱图像数据;
4、将待检测的所述瓦楞纸箱图像数据输入缺陷检测模型中,对被检瓦楞纸箱进行实时的缺陷检测;其中所述缺陷检测模型包括:backbone特征提取网络、neck特征提取网络和自适应空间特征融合检测网络,并基于数据集训练获得;所述数据集包括:含有缺陷的瓦楞纸箱图像数据和对应的缺陷种类。
5、可选地,将待检测的所述瓦楞纸箱图像数据输入缺陷检测模型中包括:
6、待检测的所述瓦楞纸箱图像数据输入所述backbone特征提取网络中,获取3个不同尺度的特征图ib1,ib2和ib3;
7、将特征图ib3输入所述neck特征提取网络中,获取3个不同尺度的特征图in1,in2和in3;
8、将特征图in1,in2和in3输入所述自适应空间特征融合检测网络中,获取预测框;其中,所述预测框包括:缺陷种类、预测框中心坐标、归一化处理后的预测框长宽以及置信度分数。
9、可选地,所述backbone特征提取网络包括:下采样模块、特征提取模块和sppf模块;
10、将待检测的所述瓦楞纸箱图像数据分别输入下采样模块、特征提取模块和sppf模块,输出3个不同尺度的特征图ib1,ib2和ib3。
11、可选地,所述下采样模块包括:第一下采样模块和第二下采样模块;
12、所述第一下采样模块,用于对初始输入的分辨率为h×w的瓦楞纸箱图像进行4倍下采样,并整合通道信息,最后输出分辨率为h/4×w/4的特征图;
13、所述第二下采样模块,用于对输入的分辨率为h×w的特征图进行2倍下采样,并整合通道信息,最后输出分辨率为h/2×w/2的特征图。
14、可选地,所述第一下采样模块,通过2组步长均为2的卷积实现4倍下采样,最后使用卷积核为1的卷积和残差分支对通道信息进行整合处理;
15、所述第一下采样模块在模型训练阶段,使用第一双分支结构;其中,所述第一双分支结构包括:由步长为2、卷积核为3的卷积-归一化分支和步长为2、卷积核为1的卷积-归一化分支进行并联,两个分支的输出相加后经过一个激活函数,然后又是经过一个同样的并联结构,两个分支的输出相加后经过一个激活函数,最后是由步长为1、卷积核为1的卷积-归一化分支和单独的归一化分支进行并联,两个分支的输出相加后经过一个激活函数,得到第一下采样模块输出;
16、所述第一下采样模块在模型推理阶段,通过结构重参数化方法把权重融合,将归一化层融合进卷积操作中,将第一双分支结构转换为第一单分支结构;其中,所述第一单分支结构包括:由步长为2、卷积核为3的卷积-激活函数,步长为2、卷积核为3的卷积-激活函数,步长为1、卷积核为1的卷积-激活函数逐个串联构成;
17、所述归一化层的融合过程为:
18、yconv=ω·x+b
19、
20、其中,yconv为卷积运算输出,ω为卷积权重,x为瓦楞纸箱图片输入,b为卷积的偏置常数,bnγ,β(·)为归一化函数输出,γ和β为训练得到的缩放和平移参数,μb和是全部训练数据的均值和方差,ε为常数用于防止除零错误,和为融合后的卷积核的权重与偏置常数;
21、双分支结构转换为单分支结构过程为:
22、f(x)=w1×1·x+b1×1+w3×3·x+b3×3
23、=w′3×3·x+b′3×3
24、w′3×3=pad0(w1×1)+w3×3
25、b′3×3=b1×1+b3×3
26、其中,f(·)表述双分支卷积运算函数,w1×1、w3×3和w′3×3分别表示卷积核为1的卷积、卷积核为3的卷积和融合后卷积核为3的卷积权重,b1×1、b3×3和b′3×3分别表示卷积核为1的卷积、卷积核为3的卷积和融合后的卷积核为3的卷积偏置常数,pad0(·)表示用0进行填充的函数。
27、可选地,所述第二下采样模块,使用步长均为2的卷积核为7的卷积和卷积核为3的卷积双分支结构进行2倍下采样,最后使用卷积核为1的卷积和残差分支对通道信息进行整合处理;
28、所述第二下采样模块在模型训练阶段,使用第二双分支结构;其中,所述第二双分支结构由步长为2、卷积核为7的卷积-归一化分支和步长为2、卷积核为3的卷积-归一化分支进行并联,两个分支的输出相加后经过一个激活函数,最后由步长为1、卷积核为1的卷积-归一化分支和单独的归一化分支进行并联,两个分支的输出相加后经过一个激活函数,得到第二下采样模块输出;
29、所述第二下采样模块在模型推理阶段,通过结构重参数化方法把权重融合,将归二化层融合进卷积操作中,将第二双分支结构转换为第二单分支结构;其中,所述第二单分支结构,由步长为2、卷积核为7的卷积-激活函数-步长为1、卷积核为1的卷积-激活函数逐个串联构成。
30、可选地,所述特征提取模块,通过残差连接和三分支特征提取器捕获空间上多尺度、多感受野下的特征信息,随后经过残差和一系列卷积、归一化、激活操作整合通道信息;
31、所述特征提取模块中特征提取的过程为:
32、fhd=f+bn(f)+bn(conv3×3(f))+bn(avg3×3(f))
33、fout=fhd+fseq(fhd)
34、其中,fout,fhd∈rc×h×w表示特征提取模块和模块中间隐藏层输出特征图,bn(·)表示归一化函数,conv3×3(·)表示卷积核为3的卷积分支函数,avg3×3(·)表示池化核为3的平均池化分支函数,fseq(·)表示卷积核为7的卷积、归一化、卷积核为1的卷积、激活、卷积核为1的卷积的串联运算函数。
35、可选地,所述自适应空间特征融合检测网络中,对于任意倍数上采样,使用卷积核为1的卷积调整通道数至n0,再使用插值函数调整分辨率至h0×w0;对于2倍下采样,使用一个步长为2、卷积核为3的卷积调整分辨率和通道数至n0×h0×w0;对于4倍下采样,先采用一个步长为2、池化核为3的池化操作进行2倍下采样,再采用一个步长为2、卷积核为3的卷积调整通道数和分辨率至n0×h0×w0;调整完特征图尺度后,采用自适应加权处理对3层输出进行融合;
36、采用自适应加权处理对3层输出进行融合为:
37、yi=αii1→i+βii2→i+γii3→i
38、αi+βi+γi=1,且αi,βi,γi∈[0,1]
39、其中,yi表示自适应空间特征融合后的第i层输出特征图,in→i表示经过通道数与分辨率调整操作后的第n层中间特征图,当n=i时,不需进行调整操作,αi、βi、γi为可学习的加权系数,i∈{1,2,3}。
40、可选地,对被检瓦楞纸箱进行实时的缺陷检测包括:
41、将被检瓦楞纸箱图像实时输入所述缺陷检测模型,获取3个检测头的输出预测框,对输出预测框进行解码和置信度计算,通过非极大值抑制筛选高置信度锚框,再按置信度从高到低进行排序,然后计算当前预测框与其他预测框的iou,将iou重叠度为预设值的预测框剔除,保留当前框,多次迭代选择,最终输出剩余检测框;将输出的检测框绘制在测试瓦楞纸箱图像中;若输入被检瓦楞纸箱图像输出了检测框,则代表被检瓦楞纸箱图像含有缺陷,反之,代表瓦楞纸箱图像没有缺陷。
42、本发明还提出一种基于自适应空间特征融合和结构重参数化的瓦楞纸箱缺陷检测系统,所述系统包括:数据处理单元、成像单元、照明装置、支撑装置、传送装置;
43、所述成像单元和照明装置安装于支撑装置上;所述传送装置位于所述成像单元的正下方;被检测瓦楞纸箱被放在所述传送装置上,通过所述成像单元采集瓦楞纸箱图像数据;
44、所述数据处理单元预设有缺陷检测模型,用于对瓦楞纸箱图像数据进行实时的缺陷检测;其中,所述缺陷检测模型包括:backbone特征提取网络、neck特征提取网络和自适应空间特征融合检测网络,所述缺陷检测模型基于数据集训练获得;所述数据集包括:含有缺陷的瓦楞纸箱图像数据和对应的缺陷种类。
45、本发明具有以下有益效果:
46、本发明提供了一种基于自适应空间特征融合和结构重参数化的瓦楞纸箱缺陷检测方法及系统。在传统的瓦楞纸箱缺陷检测中,难以在高速的流水工作中保持高精度的缺陷检测。本发明提出了可结构重参数化模块,在模型训练时的引入丰富的多尺度、多感受野特征,增加了多样化的链接和训练时的非线性,有效地联系上下文的特征信息和空间局部差异性,在推理时实现模型结构的等效简化。使用自适应空间特征融合,有选择性地进行特征融合与选择,过滤不同层之间冲突的空间信息。不仅提高了检测的精度和鲁棒性,而且不影响检测速度。该方法具有速度快、精度高的优势,在瓦楞纸箱缺陷检测领域中具有广泛的应用前景。
1.一种基于自适应空间特征融合和结构重参数化的瓦楞纸箱缺陷检测方法,其特征在于,包括:
2.根据权利要求1所述的基于自适应空间特征融合和结构重参数化的瓦楞纸箱缺陷检测方法,其特征在于,将待检测的所述瓦楞纸箱图像数据输入缺陷检测模型中包括:
3.根据权利要求2所述的基于自适应空间特征融合和结构重参数化的瓦楞纸箱缺陷检测方法,其特征在于,所述backbone特征提取网络包括:下采样模块、特征提取模块和sppf模块;
4.根据权利要求3所述的基于自适应空间特征融合和结构重参数化的瓦楞纸箱缺陷检测方法,其特征在于,所述下采样模块包括:第一下采样模块和第二下采样模块;
5.根据权利要求4所述的基于自适应空间特征融合和结构重参数化的瓦楞纸箱缺陷检测方法,其特征在于,所述第一下采样模块,通过2组步长均为2的卷积实现4倍下采样,最后使用卷积核为1的卷积和残差分支对通道信息进行整合处理;
6.根据权利要求4所述的基于自适应空间特征融合和结构重参数化的瓦楞纸箱缺陷检测方法,其特征在于,所述第二下采样模块,使用步长均为2的卷积核为7的卷积和卷积核为3的卷积双分支结构进行2倍下采样,最后使用卷积核为1的卷积和残差分支对通道信息进行整合处理;
7.根据权利要求3所述的基于自适应空间特征融合和结构重参数化的瓦楞纸箱缺陷检测方法,其特征在于,所述特征提取模块,通过残差连接和三分支特征提取器捕获空间上多尺度、多感受野下的特征信息,随后经过残差和一系列卷积、归一化、激活操作整合通道信息;
8.根据权利要求1所述的基于自适应空间特征融合和结构重参数化的瓦楞纸箱缺陷检测方法,其特征在于,所述自适应空间特征融合检测网络中,对于任意倍数上采样,使用卷积核为1的卷积调整通道数至n0,再使用插值函数调整分辨率至h0×w0;对于2倍下采样,使用一个步长为2、卷积核为3的卷积调整分辨率和通道数至n0×h0×w0;对于4倍下采样,先采用一个步长为2、池化核为3的池化操作进行2倍下采样,再采用一个步长为2、卷积核为3的卷积调整通道数和分辨率至n0×h0×w0;调整完特征图尺度后,采用自适应加权处理对3层输出进行融合;
9.根据权利要求1所述的基于自适应空间特征融合和结构重参数化的瓦楞纸箱缺陷检测方法,其特征在于,对被检瓦楞纸箱进行实时的缺陷检测包括:
10.一种基于自适应空间特征融合和结构重参数化的瓦楞纸箱缺陷检测系统,其特征在于,用于实施如权利要求1-9任一所述的基于自适应空间特征融合和结构重参数化的瓦楞纸箱缺陷检测方法,所述系统包括:数据处理单元、成像单元、照明装置、支撑装置、传送装置;
