本发明涉及一种电池rul预测方法,特别是一种基于smoe模型和eis的电池rul预测方法,属于电池检测。
背景技术:
1、电池的剩余使用寿命(remaining useful life,rul)是衡量电池健康状况的关键指标之一。通常,电池rul可以通过剩余循环次数来表示。电池rul的重要性主要体现在以下几个方面:它用于评估电池的健康状况、指导电池的使用和维护、提前预警潜在的电池故障、评估电池的容量衰减情况、优化电池管理策略,以及评估电池再利用的价值。
2、预测电池的剩余使用寿命(rul)在实践应用中扮演着极其关键的角色。电化学阻抗谱(eis)技术是一种高效的分析工具,能够揭示电池内部的电化学反应情况。随着电池活性物质的消耗和性能的降低,eis曲线会相应地发生改变。因此,采用eis数据来预测电池的rul是一种行之有效的技术途径。通常,我们会使用eis数据来训练机器学习算法,如神经网络或支持向量机,以学习和预测电池rul的变化趋势。
3、传统的机器学习模型通常依赖于单个模型来处理整个数据集,这种方法在处理复杂且异质性较高的数据时往往效果不佳。这类模型的泛化能力有限,容易产生过拟合现象,并且在处理大规模数据时效率并不理想。
技术实现思路
1、本发明所要解决的技术问题是提供一种基于smoe模型和eis的电池rul预测方法,提高电池rul预测的准确性。
2、为解决上述技术问题,本发明所采用的技术方案是:
3、一种基于smoe模型和eis的电池rul预测方法,包含以下步骤:
4、s1、测试并采集电池eis和rul数据;
5、s2、构建基于多头注意力机制的smoe模型,基于多头注意力机制的smoe模型包含三个专家子模型、一个门控网络模型和三个注意力机制计算模块;
6、s3、训练和校验基于多头注意力机制的smoe模型;
7、s4、预测电池rul,在基于多头注意力机制的smoe模型训练完毕之后,在基于多头注意力机制的smoe模型效果良好的前提下部署基于多头注意力机制的smoe模型,并使用部署好的基于多头注意力机制的smoe模型对电池rul进行预测。
8、进一步地,所述步骤s1具体为:通过阻抗谱测试仪器测试和采集电池eis数据,采集的频率范围为10-2hz-105hz,采集的电池eis数据包含实部电池eis数据real_1-real_m和虚部电池eis数据imaginary_1-imaginary_m,m是电池eis数据的频率个数,通过电池管理系统采集soh数据。
9、进一步地,所述专家子模型均是mlp模型,每个专家子模型包含专家子模型输入层、专家子模型中间层和专家子模型输出层,专家子模型输入层接收输入的电池eis数据,专家子模型中间层的维度为32,激活函数为relu函数,专家子模型输出层输出一个作为输入的电池eis数据的特征表示的32维向量,激活函数为linear。
10、进一步地,所述门控网络模型采用多层感知模型,门控网络模型包含门控网络模型输入层、门控网络模型中间层和门控网络模型输出层,门控网络模型输入层接收输入的电池eis数据,门控网络模型中间层的维度为32,激活函数为relu函数,门控网络模型输出层输出一个3维向量,激活函数为softmax,3维向量分别对应3个专家子模型的权重并且3个专家子模型的权重之和为1。
11、进一步地,所述注意力机制模块中的查询向量、键向量和值向量都是32维向量,注意力输出也是32维向量。
12、进一步地,所述注意力机制计算模块的计算步骤为:
13、步骤一:计算注意力得分;
14、首先,计算每一个查询向量与所有键向量之间的相似度:
15、attention_scorei=query·keyi
16、其中,attention_scorei是第i个注意力得分,query是查询向量,keyi是第i个键向量;
17、步骤二:计算注意力权重;
18、将得到的注意力得分通过softmax函数转换为概率形式,称为注意力权重:
19、attention_weights=softmax(attention_scores)=
20、其中,attention_weights 是注意力权重,attention_scores 是注意力得分,softmax()是softmax函数,softmax函数确保所有权重加起来等于1,attention_scorei是第i个注意力得分,attention_scorej是第j个注意力得分;
21、步骤三:计算加权的值
22、将每个值乘以其对应的注意力权重,并将结果相加得到最终的注意力输出:
23、
24、其中,attention_output是注意力输出,attention_weighti是第i个注意力权重,valuei是第i个值向量;
25、将综合特征作为注意力机制计算层的输入数据,得到注意力输出。
26、进一步地,3个专家子模型的输出分别是output_1、output_2和output_3,output_1、output_2和output_3均是高维向量,分别表示每个子专家模型对于输入数据的特征表示;
27、3个门控网络模型独立地计算每个专家子模型的权重,每个门控网络模型的输出都是一个3维向量,该3维向量分别对应3个专家子模型的权重,3个专家子模型的权重之和为1;
28、使用top-k策略选取概率最高的2个专家子模型的输出,然后选取门控网络模型输出的3维向量中与选取的两个专家子模型相对应的两个权重,将选取的两个专家子模型的输出与选取的两个专家子模型相对应的权重加权求和,得到综合特征表示;
29、之后,将综合特征表示分别连接到3个注意力机制计算模块,每一个注意力机制计算模块通过计算注意力得分、计算注意力权重和计算加权的值,输出计算结果并称作注意力输出;
30、然后,将3个注意力机制计算模块输出的注意力输出进行拼接操作得到注意力输出向量;
31、之后,将拼接之后的注意力输出向量连接到一个全连接层;
32、最后,将全连接层连接到一个线性回归层,预测电池rul。
33、进一步地,所述步骤s3具体为:在keras平台实现基于多头注意力机制的smoe模型代码并训练,训练时训练次数epochs=100,批次样本数量batch_size=32;模型训练的优化器optimizer为adam算法,损失函数为均方误差;
34、训练数据按8:2的比例分成训练集合和测试集合,在训练集合上训练模型,在测试集合上校验模型。
35、本发明与现有技术相比,具有以下优点和效果:
36、1、本发明基于多头注意力机制的smoe模型的rul预测方法利用了其结构上的优势,能够更有效地处理电池eis数据,提供准确、高效的rul预测,对于电池健康管理具有重要意义;
37、2、本发明采用多专家模型的组合,smoe允许不同的专家学习数据的特定方面,这种多专家模型可以提高预测的准确性;
38、3、本发明通过稀疏选择机制,只激活部分专家网络,显著减少了计算量,提高了模型的训练和预测效率;
39、4、本发明采用多头注意力机制,每个头可以学习输入序列的不同特征,这有助于模型捕捉到更复杂和更丰富的信息,这对于提升模型预测精度非常有效。
1.一种基于smoe模型和eis的电池rul预测方法,其特征在于包含以下步骤:
2.根据权利要求1所述的一种基于smoe模型和eis的电池rul预测方法,其特征在于:所述步骤s1具体为:通过阻抗谱测试仪器测试和采集电池eis数据,采集的频率范围为10-2hz-105hz,采集的电池eis数据包含实部电池eis数据real_1-real_m和虚部电池eis数据imaginary_1-imaginary_m,m是电池eis数据的频率个数,通过电池管理系统采集soh数据。
3.根据权利要求1所述的一种基于smoe模型和eis的电池rul预测方法,其特征在于:所述专家子模型均是mlp模型,每个专家子模型包含专家子模型输入层、专家子模型中间层和专家子模型输出层,专家子模型输入层接收输入的电池eis数据,专家子模型中间层的维度为32,激活函数为relu函数,专家子模型输出层输出一个作为输入的电池eis数据的特征表示的32维向量,激活函数为linear。
4.根据权利要求3所述的一种基于smoe模型和eis的电池rul预测方法,其特征在于:所述门控网络模型采用多层感知模型,门控网络模型包含门控网络模型输入层、门控网络模型中间层和门控网络模型输出层,门控网络模型输入层接收输入的电池eis数据,门控网络模型中间层的维度为32,激活函数为relu函数,门控网络模型输出层输出一个3维向量,激活函数为softmax,3维向量分别对应3个专家子模型的权重并且3个专家子模型的权重之和为1。
5.根据权利要求4所述的一种基于smoe模型和eis的电池rul预测方法,其特征在于:所述注意力机制模块中的查询向量、键向量和值向量都是32维向量,注意力输出也是32维向量。
6.根据权利要求5所述的一种基于smoe模型和eis的电池rul预测方法,其特征在于:所述注意力机制计算模块的计算步骤为:
7.根据权利要求6所述的一种基于smoe模型和eis的电池rul预测方法,其特征在于:3个专家子模型的输出分别是output_1、output_2和output_3,output_1、output_2和output_3均是高维向量,分别表示每个子专家模型对于输入数据的特征表示;
8.根据权利要求1所述的一种基于smoe模型和eis的电池rul预测方法,其特征在于:所述步骤s3具体为:在keras平台实现基于多头注意力机制的smoe模型代码并训练,训练时训练次数epochs=100,批次样本数量batch_size=32;模型训练的优化器optimizer为adam算法,损失函数为均方误差;
