本发明涉及计算机,尤其涉及一种基于隐私计算评比人工智能模型性能的方法。
背景技术:
1、隐私计算是一种信息技术,旨在不泄露原始数据的前提下对数据进行分析和计算,核心在于确保数据的安全性和隐私性,同时允许数据的使用者进行必要的数据分析和处理;随着用户对数据隐私保护需求的日益强烈,隐私计算技术正变得越来越重要。
2、近年来,随着chatgpt、sora等模型的出现,人工智能模型越来越走进大众视线,人工智能模型是一种数学和统计学方法的结合,用于解决特定的人工智能任务;这些模型通常通过大量数据训练而来,以便能够发现数据中的模式和规律,从而作出预测或执行特定任务;人工智能模型能够从大量数据中学习规律和模式,并根据学到的知识进行决策或预测。
3、通常通过执行某一项具体的任务来验证人工智能模型能力,例如分类、预测、生成等;模型执行任务的能力叫做模型的性能,通过使用同样的一组数据进行测试,根据执行任务的好坏衡量模型的性能;使用同一数据测试不同的人工智能模型,测试结果与正确答案做对比,与正确答案一致即为正确,不一致为错误,从而得出此模型在这组测试数据下的正确率或召回率,即为模型的性能;业界已经整理了很多类似的数据集,如imagenet、coco等;一般以在某一数据集上测试出更高的正确率来衡量新人工智能模型是否在性能上比之前得到了提高;
4、人工智能模型在某一数据集上执行某一任务的正确率是衡量模型能力的重要属性,从某种程度上来说,这个正确率是该人工智能模型的重要数据指标,在现阶段人工智能的发展初期,一般为了彰显模型的性能,科研机构或公司会主动公布这种数据;但是后期竞争比较激烈的阶段,可能会有越来越多的公司把模型的真正性能看作是公司机密,从而禁止对外公布;但在模型能力评比或者竞标等环节,主办方或甲方需要知道参与评选的模型能力的好坏,从而给出排名或评标结果,并且需要了解全部模型性能的均值和方差等,以了解模型的性能分布;如何在不公开每个模型具体性能参数的情况下,完成模型之间的性能评比,并能计算人工智能模型的均值和方差等指标,是一个急需解决的问题。
技术实现思路
1、本发明的目的是为了解决现有技术中存在的缺点,而提出的一种基于隐私计算评比人工智能模型性能的方法。
2、为实现上述目的,本发明采用了如下技术方案:
3、一种基于隐私计算评比人工智能模型性能的方法,包括以下步骤:
4、s1:随机生成厂商队列;
5、设参与评比的人工智能模型共n个,每个人工智能模型对应一个厂商,将n个模型的厂商随机排成队列m,m={m1,m2,......,mi,......,mn};
6、s2:比较两个人工智能模型的性能;
7、随机从队列m中选取两个厂商,记为甲厂商和乙厂商,甲厂商和乙厂商所持有的两个人工智能模型已在评比中完成对同样数据的测试,得出了自身人工智能模型的性能数据;记甲厂商性能数据为i、乙厂商性能数据为j;
8、所述i、j为区间[0-1000]内的正整数,每个厂商的性能数据是私密的,不对外公开;
9、包括如下子步骤:
10、s21:通过加密算法生成各自人工智能模型性能数据的公私钥,甲厂商根据乙厂商的公钥得到密文,转换密文为数据w并传递给乙厂商;
11、乙厂商双方共同确定一种非对称加密算法,通过所述非对称加密算法生成各自人工智能模型性能的公私钥,其中,私钥由厂商自己保存,公钥公开给对方;
12、甲厂商在公式允许的取值范围内随机选取数据x、y,并根据x、y得到正整数z,所述公式如下:
13、;
14、甲厂商根据加密函数encrypt及乙厂商的公钥对数据z进行加密,得到密文v;所述v=encrpt(z)乙,其中乙指乙厂商的公钥;
15、将密文v转换为一个正整数,甲厂商将正整数v加上甲厂商对应的人工智能模型的性能数据,得到w=v+i,并将w的值传给乙厂商;
16、s22:乙厂商接收数据w,根据接收的数据构建序列对并序列进行解密;
17、乙厂商接收数据w,但无法获取数据w中的有效信息,采取以下步骤:
18、乙厂商用接收到的w构建一个包含1万个元素的序列w;
19、w={w-1, w-2, w-3,……, w-i, ……,w-10000},i为正整数;
20、乙厂商根据解密函数decrypt及乙厂商的私钥对w序列中的所有元素进行解密,得到decrypt(w)乙序列:
21、decrypt(w)乙= { decrypt(w-1)乙,decrypt(w-2)乙,decrypt(w-3)乙,……,decrypt(w-i)乙,……,decrypt(w-10000)乙};
22、又因为w=v+i;
23、则;
24、由于z是甲厂商随机选取x、y根据公式得到的,乙厂商并不知晓,所以乙厂商无法识别z为序列中的第几位元素。
25、s23:对解密后的序列取模,得到余数序列e;
26、乙厂商随机选取一个质数p,对decrypt(w)乙序列中的所有元素取模,即让序列中每一个元素除以p,由于除数p为质数,则元素除以p的余数都为大于0的正整数,得到余数序列e={e1, e2, e3,……, ei, ……, e10000};
27、s24:得到序列g;
28、在区间(1,)内随机选取一个正整数q;
29、乙厂商的模型性能数据为j,对序列e中的第j位及第j位之前的元素进行如下操作:
30、如果元素加上q之后的值大于等于p,则元素减去正整数q;反之,如果元素加上q之后的值小于p,则元素加上或减去正整数q;
31、得到序列g={e1±q, e2±q, e3±q, ……, ej±q, ej+1, ej+2 ……, e10000};
32、则如果i小于或等于j,序列e中第i位的元素ei就会变成ei±q,如果i大于j,则序列e中的第i位元素ei保持不变;
33、s25:对g序列中的所有元素进行加密得到h序列;
34、乙厂商通过加密函数encrypt及甲厂商的公钥对g序列中的所有元素进行加密,得到序列h=encrpt (g)甲= { encrpt (e1±q)甲, encrpt (e2±q)甲, encrpt (e3±q)甲,……, encrpt (ej±q)甲, encrpt (ej+1)甲, encrpt (ej+2)甲…… encrpt (e10000)甲};
35、将序列h和质数p传输给甲厂商;
36、s26:完成甲、乙厂商人工智能模型性能的比较;
37、甲厂商接收到序列h和质数p,通过解密函数decrypt及甲厂商的私钥对序列h中的元素进行解密,得到序列g={ e1±q, e2±q, e3±q, ……, ej±q, ej+1, ej+2 ……,e10000};
38、用质数p对正整数z取模得到余数s,将序列g中第i位元素与余数s进行比较,如果两者相等,则表示第i位元素并没有被加上或减去q,即i位在j位之后,i>j,甲厂商模型的性能数据大于乙厂商模型的性能数据,甲厂商的性能高于乙厂商;
39、如果两者不相等,则表示第i位元素被乙厂商加上或减去q,即i位在j位之前,i<j,甲厂商模型的性能数据小于乙厂商模型的性能数据,甲厂商的性能低于乙厂商;
40、实现甲、乙厂商人工智能模型性能的比较。
41、s3:对n个人工智能模型性能进行排序;
42、包括如下子步骤:
43、s31:依次比较队列m中相邻两个厂商的人工智能模型性能,得出队列m中模型性能最好的模型,将此模型从队列m中移除并进入队列c中;
44、按照步骤s2中比较两个人工智能模型性能的方法逐步比较队列m中相邻两个模型的性能;
45、具体地,将队列m中第一位厂商、第二位厂商的模型性能进行比较,如果第一位厂商的模型性能小于第二位厂商的模型性能,则两者位置不变;如果第一位厂商的模型性能大于第二位厂商的模型性能,则交换两者在队列m中的位置;
46、再比较队列m中第二位厂商、第三位厂商的模型性能,如果第二位厂商的模型性能小于第三位厂商的模型性能,则两者位置不变;如果第二位厂商的模型性能大于第三位厂商的模型性能,则交换两者位置;
47、按照上述方法依次比较队列m中相邻两位厂商的模型性能,直至比较第n-1位和第n位厂商的模型性能,如果第n-1位厂商的模型性能大于第n位厂商,则第n-1位厂商的模型为队列m中性能最好的模型;反之,第n位厂商的模型为队列m中性能最好的模型;将队列m中性能最好的模型移出队列m,进入空队列c,此时队列m长度减1、队列c长度加1;
48、s32:完成n个人工智能模型性能排序;
49、循环步骤s31,直至队列m中所有的元素均已依次移除到队列c中,即队列m的长度为0、队列c的长度为n;得到队列c={c1, c2, c3, …… cn};
50、此时,队列c中元素的顺序为n个厂商人工智能模型性能从高到低的顺序,n个人工智能模型性能排序完成;
51、s4:计算n个人工智能模型性能的均值;
52、将队列c={c1, c2, c3, …… cn}中的每个厂商将自己对应的人工智能模型性能数据乘以10000并随机不等分为n-1份,并将这n-1份分割数据随机传送给其他的n-1位厂商,则每个厂商都会得到分别来自其他n-1个厂商的分割数据,且由于得到的是分割数据,所以各个厂商无法从这n-1份数据中得到任何有效信息;
53、每个厂商将收到的n-1份数据相加并将结果公开,则得到n份公开数据,将n份公开数据相加得到所有模型性能数据之和,将所有模型的性能数据之和除以n,再除以10000,得到这n个人工智能模型性能的均值。
54、s5:计算n个人工智能模型性能的方差;
55、计算队列c={c1, c2, c3, …… cn}中的每一个厂商的人工智能模型性能数据与步骤s4中得出的均值之差的平方值,每个厂商将对应的平方值随机不等分为n-1份,并将这n-1份分割数据随机传送给其他的n-1位厂商,则每个厂商都会得到分别来自其他n-1个厂商的分割数据,且由于得到的是分割数据,所以各个厂商无法从这n-1份数据中得到任何有效信息;
56、每个厂商将收到的n-1份数据相加并将结果公开,则得到n份公开数据,将n份公开数据相加得到总和,将总和除以n,再除以10000,得到这n个人工智能模型性能数据的方差。
57、与现有技术相比,本发明的有益效果为:
58、本发明提出的基于隐私计算评比人工智能模型性能的方法,通过隐私计算方法让所有人工智能模型性能数据进行两两比较,通过排序算法,得出所有模型的性能排名;再通过隐私计算的方法得出全体模型的度量,计算所有模型的均值和方差;
59、使用隐私计算的方法比较和统计人工智能模型性能,在在人工只能不公开自身性能数据、不泄露任何信息的情况下,实现人工智能模型性能的评比和统计,保护每个厂商人工智能模型性能数据隐私。
1.一种基于隐私计算评比人工智能模型性能的方法,其特征在于:包括以下步骤:
2.如权利要求1所述的基于隐私计算评比人工智能模型性能的方法,其特征在于:
3.如权利要求1所述的基于隐私计算评比人工智能模型性能的方法,其特征在于:
4.如权利要求1所述的基于隐私计算评比人工智能模型性能的方法,其特征在于:
5.如权利要求1所述的基于隐私计算评比人工智能模型性能的方法,其特征在于:
6.如权利要求1所述的基于隐私计算评比人工智能模型性能的方法,其特征在于:
7.如权利要求1所述的基于隐私计算评比人工智能模型性能的方法,其特征在于:
