本发明属于联邦学习领域，具体涉及一种面向边缘异构环境的联邦学习方法。
背景技术：
1、一方面，随着边缘设备性能与通信技术的发展，边缘网络上的数据量有了爆发式增长，边缘计算作为一种新型的计算范式也愈加受到关注；另一方面，得益于算法与硬件设备的进步，人工智能技术迎来了新一波发展浪潮，许多研究者都在寻求如何更好地发展与应用人工智能技术。由此，两者的有机结合，边缘智能技术便诞生了。
2、边缘智能技术有两种研究方向：一种是如何使用人工智能技术去解决边缘计算中存在的问题；另一种是如何在边缘计算的环境下训练人工智能模型。对于后者，联邦学习是常被提及的计算范式。然而，在实际边缘环境中，联邦学习算法往往会面临数据异构、设备异构问题，它们会对模型训练的精度与效率造成影响。此外，边缘环境还会存在设备性能有限等资源不足问题。
3、针对数据异构问题，当前联邦学习算法常采用损失函数优化、知识蒸馏等操作，会增加客户端的计算、通信负担；针对设备异构问题，当前联邦学习常采用异步更新，或在客户端层面控制计算量等操作，结合边缘场景进行讨论的方案相对较少。
技术实现思路
1、本发明的目的是提出一种面向边缘异构环境的联邦学习方法，实现在有限资源下，联邦学习任务在边缘异构环境下的可靠执行，以弥补现有技术中，未能将边缘场景下的数据异构、设备异构以及资源有限这一系列问题进行统筹考虑，联邦学习在边缘异构环境下的模型训练效果差、效率低的技术问题。
2、为解决上述技术问题，本发明提出的一种面向边缘异构环境的联邦学习方法，包括如下步骤：
3、步骤s1：服务器检测边缘客户端的注册信息并对边缘客户端进行性能检测，剔除不符合系统标准的边缘客户端，选择符合要求的边缘客户端，获得边缘客户端集；
4、步骤s2：边缘客户端进行本地模型训练，服务器接收训练模型，并利用小波聚类算法进行边缘客户端分区，获得符合数据分布情况的边缘客户端分区结果；
5、步骤s3：服务器从各边缘客户端分区中随机选取部分边缘客户端参与训练，边缘客户端自适应地进行本地训练，服务器根据边缘客户端本地训练情况计算权重，并进行模型聚合，最后保存训练后的模型。
6、进一步地，步骤s1包括如下步骤：
7、步骤s11：服务器方设定最高的cpu占用率标准，最低的gpu性能标准，以及能接受的最高网络延迟与最不稳定的网络波动情况；
8、步骤s12：服务器对边缘客户端进行性能检测，性能检测包括cpu检测、gpu检测及网络状态检测，并记录检测结果；
9、步骤s13：服务器将性能检测结果与设定指标进行对比，剔除实际不符合系统最低标准的边缘客户端，选择符合要求的边缘客户端，获得边缘客户端集；
10、步骤s14：将小波聚类需要的网格步长及密度阈值参数输入到服务器。
11、进一步地，步骤s21：边缘客户端预热；服务器统一生成并初始化全局模型，服务器将全局模型发送至边缘客户端集中的每一个边缘客户端；除全局模型外，服务器还会发送本地迭代次数至边缘客户端。边缘客户端根据全局模型和本地迭代次数进行本地训练，并将训练后的本地模型发送回服务器。
12、步骤s22：提取模型参数；服务器获得各边缘客户端返回的本地模型，并提取各模型中的指定模型层的参数数据；
13、步骤s23：构造特征空间；服务器根据预设的网格步长及指定模型层的参数数据，构造网状空间并进行划分；然后将各本地模型放入该空间中的各单元格，计算单元格的密度，构造特征空间；
14、步骤s24：小波变换；服务器按序对特征空间的各维度进行小波变换，实现数据压缩，获得特征空间；
15、步骤s25：标记单元格；若单元格的密度大于预设密度阈值，则为稠密单元格；查找特征空间中单元格中稠密的单元格，标记为一簇，若有单元格相邻且稠密，则将相邻且稠密的单元格标记为同一簇；
16、步骤s26：构建映射关系表；按照小波聚类算法，构建小波变化前后的单元格映射表；
17、步骤s27：查表；查找映射关系表，获得各边缘客户端簇，对边缘客户端分区，获得符合数据分布情况的边缘客户端分区结果。
18、进一步地，步骤s31：服务器初始化；服务器随机生成新的全局模型，全局通信轮次初始化为0，设置全局通信轮次阈值。
19、步骤s32：服务器从各边缘客户端分区中按40%-60%的比例随机选择参与训练的边缘客户端，服务器发送全局模型及相关参数至选中的边缘客户端；相关参数包括指定的理论本地迭代轮次和聚合时间窗口；
20、步骤s33：边缘客户端接收到全局模型，初始化本地迭代轮次e为0；
21、步骤s34：边缘客户端进行一轮本地训练，记录训练时间，且本地迭代轮次e加1；
22、步骤s35：边缘客户端判断本地迭代轮次是否小于指定的理论本地迭代轮次，若是，则执行步骤s34；否则执行步骤s36；
23、步骤s36：边缘客户端测试与服务器间的网络状态，估算传输时间，传输时间等于网络延迟*本地训练模型大小，进一步估算下轮训练结束时间，下轮训练结束时间等于传输时间+训练时间+当前时间，若下轮训练结束时间未超过聚合时间窗口，则执行步骤s34；否则执行步骤s37；
24、步骤s37：边缘客户端发送本地训练模型以及本地迭代轮次给服务器；
25、步骤s38：服务器在时间窗口内进行等待，若有边缘客户端超出时间窗口预设时间仍未回应，则判断本轮全局通信失败，执行步骤s33，否则执行步骤s39；
26、步骤s39：服务器根据本地迭代次数通过权重计算公式计算聚合权重，服务器对边缘客户端返回的本地模型进行加权聚合，获得新的全局模型，全局通信轮次自增；
27、步骤s310：训练结束判断；服务器判断是否大于全局通信轮次阈值；若小于，则执行步骤s32；若大于，则结束训练，保存训练结果。
28、进一步地，步骤s39中的权重计算公式如下：
29、
30、其中，为学习率，为边缘客户端的本地迭代轮次，为各边缘客户端理论应进行的本地迭代轮次，为本轮参与训练的客户端数。
31、相对于现有技术，本发明具有以下有益技术效果：
32、1）将小波聚类算法与参与方选择策略相结合，解决了数据异构所导致的模型训练效果不佳问题，以低成本的方式提高了训练模型的准确率。
33、2）将自适应训练策略与权重设计方案相结合，在解决设备异构所导致的慢客户端、掉队者问题的同时，保证了模型的训练效果。
34、3）本发明进一步将上述两个策略统筹合并为一个联邦学习算法，考虑了边缘环境客户端性能有限的特点，实现在不对客户端添加额外计算负担的条件下，解决联邦学习在边缘环境下所可能面临的数据、系统异构问题，具有一定的实践价值。
35、4）本发明能够提高模型训练的精度与效率, 保证模型训练效果，以进一步推动边缘智能技术的发展。
1.一种面向边缘异构环境的联邦学习方法，其特征在于，包括如下步骤：
2.根据权利要求1所述的面向边缘异构环境的联邦学习方法，其特征在于，步骤s1包括如下步骤：
3.根据权利要求2所述的面向边缘异构环境的联邦学习方法，其特征在于，步骤s2包括如下步骤：
4.根据权利要求3所述的面向边缘异构环境的联邦学习方法，其特征在于，步骤s3包括如下步骤：
5.根据权利要求4所述的面向边缘异构环境的联邦学习方法，其特征在于，步骤s39中的权重计算公式如下：
