1.本发明涉及告警合并领域,具体是指一种基于记忆矩阵的告警指纹智能合并方法。
背景技术:2.现有sls告警智能合并技术的主要问题出现在两个方面:告警文本聚类、聚类结果合并。
3.(1)告警文本聚类:按照目前的sls告警智能合并技术采用的聚类算法中,minjoin聚类算法是通过局部最小哈希值进行文本编辑距离计算聚类。该算法对于计算量和存储需求而言,成本是昂贵的,在降噪、高维数据处理上可能存在问题,同时不能很好的处理不同大小簇。
4.(2)聚类结果合并:聚类结果不依赖历史告警且是自动学习的,因此存在合并的结果并非符合用户的需求,合并结果可能过拟合导致降噪效果不理想。
5.基于上述多个原因,一种基于记忆矩阵的告警指纹智能合并方法成为整个社会亟待解决的技术问题。
技术实现要素:6.为解决上述技术问题,本发明提供的技术方案为:一种基于记忆矩阵的告警指纹智能合并方法,包括以下几个阶段,
7.(1)告警预处理阶段,告警处理阶段主要提取重要告警字段,可以使用默认的动态告警指纹,也可以自定义告警样本的关键字段生成自定义告警指纹;
8.(2)指纹优化阶段,使用redis存储记忆矩阵,创造了一个高可拓展性的告警合并方案,输入的告警数据提取关键字段生成哈希值,再将哈希值转换为特征矩阵,将期望矩阵乘以特征矩阵的逆矩阵得到记忆矩阵数组,该矩阵数组记录着用户对于告警的期望信息;通过不断输入告警数据的特征矩阵和期望矩阵训练记忆矩阵数组,能够将记忆矩阵优化到符合客户的实际场景需求;在用户生产环境中,新进入的矩阵通过乘以记忆矩阵,就可以得到该告警的期望矩阵,通过计算期望矩阵,即可得到告警属于各个类别的概率;
9.(3)告警合并阶段,在这个阶段,我们将新进入的告警转换为特征矩阵,通过特征矩阵乘以记忆矩阵组,得到期望矩阵,最后将期望矩阵的相同类别的告警进行合并。
10.进一步地,所述步骤(1)包括以下几个步骤:
11.(1)按用户需求将告警分类形成期望矩阵;
12.(2)redis存储期望矩阵;
13.(3)通过告警关键字段或用户自定义字段生成哈希值作为告警指纹;
14.(4)将告警指纹转换为告警特征矩阵。
15.发明与现有技术相比的优点在于:
16.本发明的有益效果如下:
17.1)降低了智能告警合并的成本;
18.2)在合并阶段使用记忆矩阵的方式,在降低用户配置成本的同时提高了告警合并的定制性,更能满足用户在实际业务场景中的需求。
19.3)处理速度更快,相比于大量的神经网络计算,矩阵计算能够大幅度提高合并计算的速度。
附图说明
20.图1为本发明一种基于记忆矩阵的告警指纹智能合并方法的模块示意图。
具体实施方式
21.下面结合附图对本发明做进一步的详细说明。
22.结合附图,对本发明进行详细介绍。
23.本发明在具体实施时提供了一种基于记忆矩阵的告警指纹智能合并方法,包括以下几个阶段,
24.(1)告警预处理阶段
25.告警处理阶段主要提取重要告警字段,方便在优化过程中更好地处理数据。在此次发明的告警处理阶段,我们可以使用默认的动态告警指纹,也可以自定义告警样本的关键字段生成自定义告警指纹,使得数据能更好地体现用户期望的合并结果。
26.按用户需求将告警分类形成期望矩阵-》redis存储期望矩阵-》通过告警关键字段或用户自定义字段生成哈希值作为告警指纹-》将告警指纹转换为告警特征矩阵。
27.(2)指纹优化阶段
28.我们使用redis存储记忆矩阵,创造了一个高可拓展性的告警合并方案,很好的解决了上述的成本高、无法针对用户定制化的问题。输入的告警数据提取关键字段生成哈希值,再将哈希值转换为特征矩阵,将期望矩阵乘以特征矩阵的逆矩阵得到记忆矩阵数组,该矩阵数组记录着用户对于告警的期望信息。通过不断输入告警数据的特征矩阵和期望矩阵训练记忆矩阵数组,能够将记忆矩阵优化到符合客户的实际场景需求。在用户生产环境中,新进入的矩阵通过乘以记忆矩阵,就可以得到该告警的期望矩阵,通过计算期望矩阵,即可得到告警属于各个类别的概率。经过sls告警智能合并技术合并后的告警,并不一定完全符合用户的期望,而本方法是基于用户所期望的结果矩阵进行优化,故最终合并后的告警更加符合用户的期望。
29.使用redis搭配记忆矩阵的原因如下:
30.1)redis的键值对的存储结构易于读写和存储,速度较快。
31.2)使用记忆矩阵能够减少成本,提高用户的定制性。
32.(3)告警合并阶段
33.在这个阶段,我们将新进入的告警转换为特征矩阵,通过特征矩阵乘以记忆矩阵组,得到期望矩阵,最后将期望矩阵的相同类别的告警进行合并。
34.其中,其改进点如下:
35.(1)使用记忆矩阵计算告警所属类别;
36.(2)使用哈希值作为告警指纹生成特征矩阵;
37.(2)通过记忆矩阵记录告警类别信息;
38.(3)使用redis存储矩阵及告警指纹信息,快速读写,提高效率。
39.以上对本发明及其实施方式进行了描述,这种描述没有限制性,附图中所示的也只是本发明的实施方式之一,实际的结构并不局限于此。总而言之如果本领域的普通技术人员受其启示,在不脱离本发明创造宗旨的情况下,不经创造性的设计出与该技术方案相似的结构方式及实施例,均应属于本发明的保护范围。
技术特征:1.一种基于记忆矩阵的告警指纹智能合并方法,其特征在于:包括以下几个阶段,(1)告警预处理阶段,告警处理阶段主要提取重要告警字段,可以使用默认的动态告警指纹,也可以自定义告警样本的关键字段生成自定义告警指纹;(2)指纹优化阶段,使用redis存储记忆矩阵,创造了一个高可拓展性的告警合并方案,输入的告警数据提取关键字段生成哈希值,再将哈希值转换为特征矩阵,将期望矩阵乘以特征矩阵的逆矩阵得到记忆矩阵数组,该矩阵数组记录着用户对于告警的期望信息;通过不断输入告警数据的特征矩阵和期望矩阵训练记忆矩阵数组,能够将记忆矩阵优化到符合客户的实际场景需求;在用户生产环境中,新进入的矩阵通过乘以记忆矩阵,就可以得到该告警的期望矩阵,通过计算期望矩阵,即可得到告警属于各个类别的概率;(3)告警合并阶段,在这个阶段,我们将新进入的告警转换为特征矩阵,通过特征矩阵乘以记忆矩阵组,得到期望矩阵,最后将期望矩阵的相同类别的告警进行合并。2.根据权利要求1所述的一种基于记忆矩阵的告警指纹智能合并方法,其特征在于:所述步骤(1)包括以下几个步骤:(1)按用户需求将告警分类形成期望矩阵;(2)redis存储期望矩阵;(3)通过告警关键字段或用户自定义字段生成哈希值作为告警指纹;(4)将告警指纹转换为告警特征矩阵。
技术总结本发明公开了一种基于记忆矩阵的告警指纹智能合并方法,包括以下几个阶段,告警预处理阶段,指纹优化阶段和告警合并阶段。采用上面技术方案具备以下优点:1)降低了智能告警合并的成本;2)在合并阶段使用记忆矩阵的方式,在降低用户配置成本的同时提高了告警合并的定制性,更能满足用户在实际业务场景中的需求。3)处理速度更快,相比于大量的神经网络计算,矩阵计算能够大幅度提高合并计算的速度。矩阵计算能够大幅度提高合并计算的速度。矩阵计算能够大幅度提高合并计算的速度。
技术研发人员:欧晓泉 熊亚军 朱品燕
受保护的技术使用者:北京云集智造科技有限公司
技术研发日:2022.07.12
技术公布日:2022/11/1