本发明涉及一种电池rul预测方法,特别是一种基于注意力机制smoe模型的电池rul预测方法,属于电池检测。
背景技术:
1、电池rul(remaining useful life)即电池的剩余寿命,是评估电池健康状态的一个重要指标。常见的电池rul有电池剩余循环次数。电池rul是电池的一个重要指标,主要体现在几个方面:评估电池健康状态、指导电池使用与维护、预警电池故障、评估电池降容衰减、优化电池管理策略和评估电池二次利用价值等。预测电池rul具有很高的应用价值。
2、电池的剩余使用寿命(rul)与电流、电阻和阻抗等运行数据之间存在着紧密的联系,这使得利用这些参数来估算电池的rul成为了一个热门研究领域。研究者们通常会采用电流、电阻和阻抗的数据来训练机器学习算法,例如神经网络或支持向量机,以此来捕捉电池rul的变化趋势并进行预测。
3、然而,传统的机器学习模型往往依赖于单个模型来处理所有数据,这在面对复杂且具有高度异质性的数据集时显得力不从心。这种单一模型的泛化能力受限,容易导致过拟合现象。同时,当处理大量数据时,单一模型的处理效率也相对较低。
技术实现思路
1、本发明所要解决的技术问题是提供一种基于注意力机制smoe模型的电池rul预测方法,提高电池rul的预测准确性。
2、为解决上述技术问题,本发明所采用的技术方案是:
3、一种基于注意力机制smoe模型的电池rul预测方法,包含以下步骤:
4、s1、测试并采集电池电流、电阻、阻抗和rul数据;
5、s2、构建基于注意力机制的smoe模型,基于注意力机制的smoe模型包括多个专家子模型、一个门控网络模型和一个注意力机制计算层;
6、s3、训练和校验基于注意力机制的smoe模型;
7、s4、预测电池rul,基于注意力机制的smoe模型训练完毕之后,在模型效果良好的前提下部署训练好的smoe模型,并使用部署的smoe对电池的rul进行预测。
8、进一步地,所述步骤s1具体为:
9、1.1、准备设备与材料,设备包含数据采集设备、数据存储介质和电池样本,数据采集设备包含电流传感器、交流阻抗测试仪和信号记录仪;
10、1.2、电流数据采集,在电池的充放电回路中插入采集电阻,使用电流传感器实时测量并记录电流值;
11、1.3、电阻数据采集,在不同充放电状态下,测量电池两端电压和通过的电流,按电阻公式r = u/i计算电阻;
12、1.4、阻抗数据采集,使用阻抗测试仪测试电池在不同频率下的阻抗值,得到阻抗频率谱;
13、1.5、rul数据采集,统计电池的历史循环次数数据。
14、进一步地,所述步骤s2中,专家子模型的数量为3个,每一个专家子模型均是mlp模型,每一个专家子模型包含专家子模型输入层、专家子模型中间层和专家子模型输出层,专家子模型输入层接收输入的电池电流、电阻、阻抗和rul数据,专家子模型中间层的维度为32,激活函数为relu函数,专家子模型输出层输出一个32维向量,激活函数为relu函数。
15、进一步地,所述步骤s2中,门控网络模型采用多层感知机模型,门控网络模型包含门控网络模型输入层、门控网络模型中间层和门控网络模型输出层,门控网络模型输入层接收输入的电池电流、电阻、阻抗和rul数据,门控网络模型中间层的维度为32,激活函数为relu函数,门控网络模型输出层输出一个3维向量,激活函数为softmax,门控网络模型输出层输出的3维向量分别对应3个专家子模型的权重,并且3个专家子模型的权重之和为1。
16、进一步地,3个专家子模型的输出分别是output1、output2和output3,output1、output2和output3均是高维向量,分别表示每个子专家模型对于输入数据的特征表示;
17、使用top-k策略选取概率最高的2个专家子模型的输出,然后选取门控网络模型输出的3维向量中与选取的两个专家子模型相对应的两个权重,将选取的两个专家子模型的输出与选取的两个专家子模型相对应的权重加权求和,得到综合特征表示;
18、之后,将综合特征表示连接到一个注意力机制计算层。
19、进一步地,所述注意力机制计算层中的查询向量、键向量和值向量都是32维的向量,注意力机制计算层的输出是32维的向量。
20、进一步地,所述注意力机制计算层的计算过程为:
21、步骤一:计算注意力得分;
22、首先,计算每一个查询向量与所有键向量之间的相似度:
23、attention_scorei=query·keyi
24、其中,attention_scorei是第i个注意力得分,query是查询向量,keyi是第i个键向量;
25、步骤二:计算注意力权重;
26、将得到的注意力得分通过softmax函数转换为概率形式,称为注意力权重:
27、attention_weights=softmax(attention_scores)=
28、其中,attention_weights 是注意力权重,attention_scores 是注意力得分,softmax()是softmax函数,softmax函数确保所有权重加起来等于1,attention_scorei是第i个注意力得分,attention_scorej是第j个注意力得分;
29、步骤三:计算加权的值
30、将每个值乘以其对应的注意力权重,并将结果相加得到最终的注意力输出:
31、
32、其中,attention_output是注意力输出,attention_weighti是第i个注意力权重,valuei是第i个值向量;
33、将综合特征作为注意力机制计算层的输入数据,得到注意力输出。
34、进一步地,所述步骤s3具体为:在keras平台实现基于注意力机制的smoe模型代码并训练,训练时训练次数epochs=100,批次样本数量batch_size=32,模型训练的优化器optimizer为adam算法,损失函数为均方误差;训练数据按8:2的比例分成训练集合和测试集合,在训练集合上训练模型,在测试集合上校验模型。
35、本发明与现有技术相比,具有以下优点和效果:
36、1、本发明基于注意力机制的smoe模型,在预测电池rul时,能够提升模型的表达能力和预测精度,提高了整体模型的鲁棒性和泛化能力,减少了过拟合风险;
37、2、本发明采用smoe模型,允许不同的专家学习数据的特定方面,例如,某些专家可能专注于电流变化,而其他专家可能专注于电阻模式,这种多专家模型可以提高预测的准确性;
38、3、本发明通过稀疏选择机制,只激活部分专家网络,显著减少了计算量,提高了模型的训练和预测效率;
39、4、本发明注意力机制使得smoe模型能够更好的捕捉特征中的重要部分,这对于提升模型预测精度非常有效。
1.一种基于注意力机制smoe模型的电池rul预测方法,其特征在于包含以下步骤:
2.根据权利要求1所述的一种基于注意力机制smoe模型的电池rul预测方法,其特征在于:所述步骤s1具体为:
3.根据权利要求1所述的一种基于注意力机制smoe模型的电池rul预测方法,其特征在于:所述步骤s2中,专家子模型的数量为3个,每一个专家子模型均是mlp模型,每一个专家子模型包含专家子模型输入层、专家子模型中间层和专家子模型输出层,专家子模型输入层接收输入的电池电流、电阻、阻抗和rul数据,专家子模型中间层的维度为32,激活函数为relu函数,专家子模型输出层输出一个32维向量,激活函数为relu函数。
4.根据权利要求3所述的一种基于注意力机制smoe模型的电池rul预测方法,其特征在于:所述步骤s2中,门控网络模型采用多层感知机模型,门控网络模型包含门控网络模型输入层、门控网络模型中间层和门控网络模型输出层,门控网络模型输入层接收输入的电池电流、电阻、阻抗和rul数据,门控网络模型中间层的维度为32,激活函数为relu函数,门控网络模型输出层输出一个3维向量,激活函数为softmax,门控网络模型输出层输出的3维向量分别对应3个专家子模型的权重,并且3个专家子模型的权重之和为1。
5.根据权利要求4所述的一种基于注意力机制smoe模型的电池rul预测方法,其特征在于:3个专家子模型的输出分别是output1、output2和output3,output1、output2和output3均是高维向量,分别表示每个子专家模型对于输入数据的特征表示;
6.根据权利要求5所述的一种基于注意力机制smoe模型的电池rul预测方法,其特征在于:所述注意力机制计算层中的查询向量、键向量和值向量都是32维的向量,注意力机制计算层的输出是32维的向量。
7.根据权利要求6所述的一种基于注意力机制smoe模型的电池rul预测方法,其特征在于:所述注意力机制计算层的计算过程为:
8.根据权利要求1所述的一种基于注意力机制smoe模型的电池rul预测方法,其特征在于:所述步骤s3具体为:在keras平台实现基于注意力机制的smoe模型代码并训练,训练时训练次数epochs=100,批次样本数量batch_size=32,模型训练的优化器optimizer为adam算法,损失函数为均方误差;训练数据按8:2的比例分成训练集合和测试集合,在训练集合上训练模型,在测试集合上校验模型。
