本申请涉及电网设备检测,具体而言,涉及一种多模态特征融合的电网设备检测方法、装置、计算机可读存储介质和电子设备。
背景技术:
1、电力设备作为电力系统的重要组成部分,承担着传输、分配和转换电能的关键任务。这些设备包括变压器、开关设备、发电机、输电线路等,它们的正常运行对于电力系统的可靠性和稳定性至关重要。然而,露天的电力设备长时间运行在恶劣环境中面临着多种挑战,如设备老化、故障和损坏等。为了保障电力系统的稳定运行,需要定期按照巡检线路对电网设备的点位进行准确检测和识别,并进行巡检设备的诊断和维护。
2、传统的人工电力巡检方法不仅耗时耗力,而且容易出现主观误判和遗漏。
技术实现思路
1、本申请的主要目的在于提供一种多模态特征融合的电网设备检测方法、装置、计算机可读存储介质和电子设备,以至少解决传统的人工电力巡检方法不仅耗时耗力,而且容易出现主观误判和遗漏的问题。
2、为了实现上述目的,根据本申请的一个方面,提供了一种多模态特征融合的电网设备检测方法,该方法包括:
3、获取电网原始数据,并对所述电网原始数据进行目标标注和归一化处理,得到多模态数据,所述电网原始数据包括相机采集的目标物体的图像数据、红外设备采集的所述目标物体的温度数据、雷达传感器采集的所述目标物体的点云数据;
4、采用多种网络模型对所述多模态数据进行特征提取,分别得到所述目标物体的特征信息,所述特征信息包括图像特征、温度特征和形态特征;
5、基于不同模态的特征对所述目标物体的所述特征信息进行特征融合,得到融合特征;
6、采用aifi模块和yolov8模型对所述融合特征进行分类和检测,得到最终检测结果。
7、可选地,对所述电网原始数据进行目标标注和归一化处理,得到多模态数据,包括:
8、对所述电网原始数据中的目标区域进行边界位置的标注,并对所述电网原始数据中不同模态的图像数据进行尺寸归一化操作,得到多模态数据。
9、可选地,在对所述电网原始数据中不同模态的图像数据进行尺寸归一化操作,得到多模态数据的过程中,所述方法还包括:
10、采用mosaic图像增强技术对所述电网原始数据中不同模态的图像数据进行多模态图像增强处理。
11、可选地,采用多种网络模型对所述多模态数据进行特征提取,分别得到所述目标物体的特征信息,包括:
12、采用akconv卷积技术对所述目标物体的所述特征信息进行特征提取处理,得到初始特征,并采用yolov8目标检测算法对所述初始特征进行识别,得到所述图像特征;
13、采用fcos模型对所述目标物体的所述特征信息进行特征提取处理,得到所述温度特征;
14、采用gk means算法对所述目标物体的所述特征信息进行特征提取处理,得到所述形态特征。
15、可选地,基于不同模态的特征对所述目标物体的所述特征信息进行特征融合,得到融合特征,包括:
16、采用senet技术对所述目标物体的所述特征信息进行特征融合,得到所述融合特征。
17、可选地,在采用senet技术对所述目标物体的所述特征信息进行特征融合,得到所述融合特征的过程中,所述方法还包括:
18、根据a=σ(ω2δ(ω1,r)),确定各通道的特征图的权值;
19、其中,a为所述特征图的权值,r为对所述目标物体的所述特征信息进行全局平均池化操作后得到一维的实数,ω1和ω2为全连接层,σsigmoid激活函数,δ为relu激活函数。
20、可选地,采用aifi模块和yolov8模型对所述融合特征进行分类和检测处理,得到最终检测结果,包括:
21、采用aifi模块基于自我注意力机制对所述融合特征进行分类处理,得到多尺度特征融合结果;
22、采用yolov8模型对所述多尺度特征融合结果进行检测处理,得到所述最终检测结果。
23、根据本申请的另一方面,提供了一种多模态特征融合的电网设备检测装置,该装置包括:
24、获取单元,用于获取电网原始数据,并对所述电网原始数据进行目标标注和归一化处理,得到多模态数据,所述电网原始数据包括相机采集的目标物体的图像数据、红外设备采集的所述目标物体的温度数据、雷达传感器采集的所述目标物体的点云数据;
25、第一处理单元,用于采用多种网络模型对所述多模态数据进行特征提取,分别得到所述目标物体的特征信息,所述特征信息包括图像特征、温度特征和形态特征;
26、第二处理单元,用于基于不同模态的特征对所述目标物体的所述特征信息进行特征融合,得到融合特征;
27、第三处理单元,用于采用aifi模块和yolov8模型对所述融合特征进行分类和检测,得到最终检测结果。
28、根据本申请的另一方面,提供了一种计算机可读存储介质,所述计算机可读存储介质包括存储的程序,其中,在所述程序运行时控制所述计算机可读存储介质所在设备执行任意一种所述的多模态特征融合的电网设备检测方法。
29、根据本申请的另一方面,提供了一种电子设备,电子设备包括:一个或多个处理器,存储器,以及一个或多个程序,其中,所述一个或多个程序被存储在所述存储器中,并且被配置为由所述一个或多个处理器执行,所述一个或多个程序包括用于执行任意一种所述的多模态特征融合的电网设备检测方法。
30、应用本申请的技术方案,通过采用多种网络模型对所述多模态数据进行特征提取,分别得到所述目标物体的特征信息,所述特征信息包括图像特征、温度特征和形态特征;基于不同模态的特征对所述目标物体的所述特征信息进行特征融合,得到融合特征;采用aifi模块和yolov8模型对所述融合特征进行分类和检测,得到最终检测结果,从而提高了采集数据的丰富度和多样性,也提高了检测结果的鲁棒性,通过采用aifi模块形成轻量化的yolov8模型,减少模型参数和计算量的复杂度,从而解决了传统的人工电力巡检方法不仅耗时耗力,而且容易出现主观误判和遗漏的问题。
1.一种多模态特征融合的电网设备检测方法,其特征在于,包括:
2.根据权利要求1所述的方法,其特征在于,对所述电网原始数据进行目标标注和归一化处理,得到多模态数据,包括:
3.根据权利要求2所述的方法,其特征在于,在对所述电网原始数据中不同模态的图像数据进行尺寸归一化操作,得到多模态数据的过程中,所述方法还包括:
4.根据权利要求1所述的方法,其特征在于,采用多种网络模型对所述多模态数据进行特征提取,分别得到所述目标物体的特征信息,包括:
5.根据权利要求1所述的方法,其特征在于,基于不同模态的特征对所述目标物体的所述特征信息进行特征融合,得到融合特征,包括:
6.根据权利要求5所述的方法,其特征在于,在采用senet技术对所述目标物体的所述特征信息进行特征融合,得到所述融合特征的过程中,所述方法还包括:
7.根据权利要求1至6中任一项所述的方法,其特征在于,采用aifi模块和yolov8模型对所述融合特征进行分类和检测处理,得到最终检测结果,包括:
8.一种多模态特征融合的电网设备检测装置,其特征在于,包括:
9.一种计算机可读存储介质,其特征在于,所述计算机可读存储介质包括存储的程序,其中,在所述程序运行时控制所述计算机可读存储介质所在设备执行权利要求1至7中任意一项所述的多模态特征融合的电网设备检测方法。
10.一种电子设备,其特征在于,包括:一个或多个处理器,存储器,以及一个或多个程序,其中,所述一个或多个程序被存储在所述存储器中,并且被配置为由所述一个或多个处理器执行,所述一个或多个程序包括用于执行权利要求1至7中任意一项所述的多模态特征融合的电网设备检测方法。