本公开涉及计算机,更具体地说,涉及服务预估模型的训练方法、服务预估方法和相关设备。
背景技术:
1、人眼分析技术已经被广泛应用于各个领域,包括瞳孔分析领域,注视跟踪领域、情绪识别领域等等,可以基于人眼分析技术向用户提供各种服务。具体地说,可以基于用户的瞳孔反应进行商品优化推送;或者,还可以基于用户的瞳孔直径变化来进行显示设备的亮度调节等等。
2、但是,相关技术中的人眼分析技术所使用的人眼特征较为单一,在基于人眼特征判断用户需求时存在准确性不足的现象,特别是在外界环境比较复杂的情况下,人眼状态容易受到外界光线变化、自身情绪波动、外界异物刺激的多重影响。此时,仅仅根据单一的人眼特征来判断用户需求很容易出现误判的现象,进而可能导致难以精准的向用户提供满足其实际需求的服务。
技术实现思路
1、本公开提供服务预估模型的训练方法、服务预估方法和相关设备,以至少解决上述相关技术中,仅仅根据单一的人眼特征进行服务预估所导致的难以精准的向用户提供满足其实际需求的服务的问题。
2、根据本公开实施例的第一方面,提供一种服务预估模型的训练方法,包括:获取融合特征样本集,其中,每个融合特征样本包含对应用户的人眼静态特征子样本、人眼运动特征子样本、外界环境特征子样本、用户观看偏好子样本,以及对应用户的真实身份标签和用户眼睛运动的真实原因标签,其中,所述人眼静态特征子样本和所述人眼运动特征子样本为在所述用户使用显示设备的过程中针对所述用户的眼部特征进行采集所获得的样本,所述外界环境特征子样本为在所述用户使用显示设备的过程中针对外界环境特征进行采集所获得的样本,所述用户观看偏好子样本为在所述用户使用显示设备的过程中针对显示设备所显示的内容进行特征采集所获得的样本;将所述融合特征样本输入所述服务预估模型,得到对应用户的预测身份以及用户眼睛运动的预测原因,其中,所述服务预估模型基于所述人眼静态特征子样本来得到对应用户的预测身份,所述服务预估模型基于所述人眼运动特征子样本、所述外界环境特征子样本和所述用户观看偏好子样本来得到对应用户的用户眼睛运动的预测原因,其中,得到的对应用户的预测身份以及用户眼睛运动的预测原因用于预估并执行显示设备服务;基于所述预测身份、所述真实身份标签,所述用户眼睛运动的预测原因、所述用户眼睛运动的真实原因标签,计算损失;通过根据所述损失调整所述服务预估模型的参数,从而对所述服务预估模型进行训练。
3、可选地,所述基于所述预测身份、所述真实身份标签,所述用户眼睛运动的预测原因、所述用户眼睛运动的真实原因标签,计算损失,包括:基于所述预测身份和所述真实身份标签,计算身份损失;基于所述用户眼睛运动的预测原因和所述用户眼睛运动的真实原因标签,计算眼睛运动损失;基于所述身份损失和所述眼睛运动损失,计算所述损失。
4、可选地,所述训练方法还包括:针对原始的服务预估模型进行预训练,获得经过预训练的服务预估模型,将所述经过预训练的服务预估模型所包含的部分原始层替换为新的层,获得新的服务预估模型;所述将所述融合特征样本输入所述服务预估模型,包括:将所述融合特征样本输入所述新的服务预估模型;所述根据所述损失调整所述服务预估模型的参数,包括:在冻结所述新的服务预估模型中至少一部分经过预训练的层的参数的情况下,根据所述损失调整所述新的服务预估模型中其它层的参数。
5、可选地,所述新的层对应有用于身份识别任务的第一权重参数以及用于眼睛运动原因推断任务的第二权重参数。
6、可选地,所述基于所述预测身份、所述真实身份标签,所述用户眼睛运动的预测原因、所述用户眼睛运动的真实原因标签,计算损失,包括:基于所述预测身份和所述真实身份标签,计算身份损失;基于所述用户眼睛运动的预测原因和所述用户眼睛运动的真实原因标签,计算眼睛运动损失;通过将所述第一权重参数作为所述身份损失的权重,将所述第二权重参数作为所述眼睛运动损失的权重,计算所述身份损失和所述眼睛运动损失的加权之和,作为所述损失。
7、可选地,所述人眼静态特征包含以下项中的至少一项:人眼虹膜特征、人眼瞳孔特征、人眼的眼球边缘特征;所述人眼运动特征包含以下项中的至少一项:注视点位置、人眼瞳孔直径变化特征、人眼移动速率特征、人眼眨眼频率特征;所述用户观看偏好包含以下项中的至少一项:内容观看偏好信息、屏幕尺寸偏好信息、屏幕亮度偏好信息、语言偏好信息;所述外界环境特征包含光照强度特征和/或环境噪声特征。
8、根据本公开实施例的第二方面,提供一种服务预估方法,应用于显示设备,包括:获取用户的融合眼部特征以及外界环境特征,其中,所述融合眼部特征包含人眼静态特征和人眼运动特征,其中,所述人眼静态特征和所述人眼运动特征为在所述用户使用所述显示设备的过程中针对所述用户的眼部区域进行特征提取所获得的;将所述融合眼部特征和所述外界环境特征输入根据本公开的训练方法训练过的服务预估模型;利用所述训练过的服务预估模型基于所述融合眼部特征所包含的所述人眼静态特征,输出识别出的所述用户的目标身份;获取与所述目标身份对应的目标观看偏好信息;将所述目标观看偏好信息输入所述训练过的服务预估模型;利用所述训练过的服务预估模型基于所述融合眼部特征所包含的所述人眼运动特征、所述目标观看偏好信息和所述外界环境特征,输出推断出的所述用户的眼睛运动原因;基于所述用户的眼睛运动原因,预估并执行显示设备服务。
9、可选地,所述人眼静态特征包含以下项中的至少一项:人眼虹膜特征、人眼瞳孔特征、人眼的眼球边缘特征;所述人眼运动特征包含以下项中的至少一项:注视点位置、人眼瞳孔直径变化特征、人眼移动速率特征、人眼眨眼频率特征;所述目标观看偏好信息包含以下项中的至少一项:内容观看偏好信息、屏幕尺寸偏好信息、屏幕亮度偏好信息、语言偏好信息;所述外界环境特征包含光照强度特征和/或环境噪声特征。
10、可选地,所述获取与所述目标身份对应的目标观看偏好信息,包括:获取预先存储的与所述目标身份对应的所述目标观看偏好信息;或者,基于身份为所述目标身份的用户在所述显示设备上的历史操作记录,获取所述目标观看偏好信息。
11、根据本公开实施例的第三方面,提供一种服务预估模型的训练装置,包括:样本获取模块,被配置为获取融合特征样本集,其中,每个融合特征样本包含对应用户的人眼静态特征子样本、人眼运动特征子样本、外界环境特征子样本、用户观看偏好子样本,以及对应用户的真实身份标签和用户眼睛运动的真实原因标签,其中,所述人眼静态特征子样本和所述人眼运动特征子样本为在所述用户使用显示设备的过程中针对所述用户的眼部特征进行采集所获得的样本,所述外界环境特征子样本为在所述用户使用显示设备的过程中针对外界环境特征进行采集所获得的样本,所述用户观看偏好子样本为在所述用户使用显示设备的过程中针对显示设备所显示的内容进行特征采集所获得的样本;样本输入模块,被配置为将所述融合特征样本输入所述服务预估模型,得到对应用户的预测身份以及用户眼睛运动的预测原因,其中,所述服务预估模型基于所述人眼静态特征子样本来得到对应用户的预测身份,所述服务预估模型基于所述人眼运动特征子样本、所述外界环境特征子样本和所述用户观看偏好子样本来得到对应用户的用户眼睛运动的预测原因,其中,得到的对应用户的预测身份以及用户眼睛运动的预测原因用于预估并执行显示设备服务;计算模块,被配置为基于所述预测身份、所述真实身份标签,所述用户眼睛运动的预测原因、所述用户眼睛运动的真实原因标签,计算损失;参数调整模块,被配置为通过根据所述损失调整所述服务预估模型的参数,从而对所述服务预估模型进行训练。
12、可选地,所述计算模块被配置为:基于所述预测身份和所述真实身份标签,计算身份损失;基于所述用户眼睛运动的预测原因和所述用户眼睛运动的真实原因标签,计算眼睛运动损失;基于所述身份损失和所述眼睛运动损失,计算所述损失。
13、可选地,所述训练装置还包括:预训练模块,被配置为针对原始的服务预估模型进行预训练,获得经过预训练的服务预估模型,将所述经过预训练的服务预估模型所包含的部分原始层替换为新的层,获得新的服务预估模型;所述样本输入模块被配置为:将所述融合特征样本输入所述新的服务预估模型;所述参数调整模块被配置为:在冻结所述新的服务预估模型中至少一部分经过预训练的层的参数的情况下,根据所述损失调整所述新的服务预估模型中其它层的参数。
14、可选地,所述新的层对应有用于身份识别任务的第一权重参数以及用于眼睛运动原因推断任务的第二权重参数。
15、可选地,所述计算模块被配置为:基于所述预测身份和所述真实身份标签,计算身份损失;基于所述用户眼睛运动的预测原因和所述用户眼睛运动的真实原因标签,计算眼睛运动损失;通过将所述第一权重参数作为所述身份损失的权重,将所述第二权重参数作为所述眼睛运动损失的权重,计算所述身份损失和所述眼睛运动损失的加权之和,作为所述损失。
16、可选地,所述人眼静态特征包含以下项中的至少一项:人眼虹膜特征、人眼瞳孔特征、人眼的眼球边缘特征;所述人眼运动特征包含以下项中的至少一项:注视点位置、人眼瞳孔直径变化特征、人眼移动速率特征、人眼眨眼频率特征;所述用户观看偏好包含以下项中的至少一项:内容观看偏好信息、屏幕尺寸偏好信息、屏幕亮度偏好信息、语言偏好信息;所述外界环境特征包含光照强度特征和/或环境噪声特征。
17、根据本公开实施例的第四方面,提供一种服务预估装置,应用于显示设备,包括:特征获取模块,被配置为获取用户的融合眼部特征以及外界环境特征,其中,所述融合眼部特征包含人眼静态特征和人眼运动特征,其中,所述人眼静态特征和所述人眼运动特征为在所述用户使用所述显示设备的过程中针对所述用户的眼部区域进行特征提取所获得的;特征输入模块,被配置为将所述融合眼部特征和所述外界环境特征输入根据本公开的经过训练的服务预估模型;身份识别模块,被配置为利用所述经过训练的服务预估模型基于所述融合眼部特征所包含的所述人眼静态特征,输出识别出的所述用户的目标身份;偏好信息获取模块,被配置为获取与所述目标身份对应的目标观看偏好信息;偏好信息输入模块,被配置为将所述目标观看偏好信息输入所述经过训练的服务预估模型;原因推断模块,被配置为利用所述经过训练的服务预估模型基于所述融合眼部特征所包含的所述人眼运动特征、所述目标观看偏好信息和所述外界环境特征,输出推断出的所述用户的眼睛运动原因;预估模块,被配置为基于所述用户的眼睛运动原因,预估并执行显示设备服务。
18、可选地,所述人眼静态特征包含以下项中的至少一项:人眼虹膜特征、人眼瞳孔特征、人眼的眼球边缘特征;所述人眼运动特征包含以下项中的至少一项:注视点位置、人眼瞳孔直径变化特征、人眼移动速率特征、人眼眨眼频率特征;所述目标观看偏好信息包含以下项中的至少一项:内容观看偏好信息、屏幕尺寸偏好信息、屏幕亮度偏好信息、语言偏好信息;所述外界环境特征包含光照强度特征和/或环境噪声特征。
19、可选地,所述偏好信息获取模块被配置为:获取预先存储的与所述目标身份对应的所述目标观看偏好信息;或者,基于身份为所述目标身份的用户在所述显示设备上的历史操作记录,获取所述目标观看偏好信息。
20、根据本公开实施例的第五方面,提供一种电子设备,包括:处理器;用于存储所述处理器可执行指令的存储器;其中,所述处理器被配置为执行所述指令,以实现根据本公开的服务预估模型的训练方法,或者,实现根据本公开的服务预估方法。
21、根据本公开实施例的第六方面,提供一种计算机可读存储介质,当所述计算机可读存储介质中的指令由电子设备的处理器执行时,使得电子设备能够执行根据本公开的服务预估模型的训练方法,或者,执行根据本公开的服务预估方法。
22、根据本公开实施例的第七方面,提供一种计算机程序产品,包括计算机程序,所述计算机程序被处理器执行时实现根据本公开的服务预估模型的训练方法,或者,实现根据本公开的服务预估方法。
23、本公开的实施例提供的技术方案至少带来以下有益效果:
24、在本公开中,在预估服务时,综合考虑了人眼静态特征、人眼运动特征、外界环境特征、用户观看偏好等多个维度的特征,可以保证更为全面、准确地对人眼运动原因进行分析,进而可以保证较为精准地判断出用户的需求。因此,本公开的服务预估方法可以有效降低仅仅根据单一的人眼特征来判断用户需求的误判几率,可以保证向用户提供能真正满足其实际需求的服务。
25、应当理解的是,以上的一般描述和后文的细节描述仅是示例性和解释性的,并不能限制本公开。
1.一种服务预估模型的训练方法,其特征在于,包括:
2.如权利要求1所述的训练方法,其特征在于,所述基于所述预测身份、所述真实身份标签,所述用户眼睛运动的预测原因、所述用户眼睛运动的真实原因标签,计算损失,包括:
3.如权利要求1所述的训练方法,其特征在于,所述训练方法还包括:
4.如权利要求3所述的训练方法,其特征在于,所述新的层对应有用于身份识别任务的第一权重参数以及用于眼睛运动原因推断任务的第二权重参数。
5.如权利要求4所述的训练方法,其特征在于,所述基于所述预测身份、所述真实身份标签,所述用户眼睛运动的预测原因、所述用户眼睛运动的真实原因标签,计算损失,包括:
6.如权利要求1所述的训练方法,其特征在于,所述人眼静态特征包含以下项中的至少一项:
7.一种服务预估方法,应用于显示设备,其特征在于,包括:
8.如权利要求7所述的服务预估方法,其特征在于,所述人眼静态特征包含以下项中的至少一项:
9.如权利要求7所述的服务预估方法,其特征在于,所述获取与所述目标身份对应的目标观看偏好信息,包括:
10.一种服务预估模型的训练装置,其特征在于,包括:
11.如权利要求10所述的训练装置,其特征在于,所述计算模块被配置为:
12.如权利要求10所述的训练装置,其特征在于,所述训练装置还包括:
13.如权利要求12所述的训练装置,其特征在于,所述新的层对应有用于身份识别任务的第一权重参数以及用于眼睛运动原因推断任务的第二权重参数。
14.如权利要求13所述的训练装置,其特征在于,所述计算模块被配置为:
15.如权利要求10所述的训练装置,其特征在于,所述人眼静态特征包含以下项中的至少一项:
16.一种服务预估装置,应用于显示设备,其特征在于,包括:
17.如权利要求16所述的服务预估装置,其特征在于,所述人眼静态特征包含以下项中的至少一项:
18.如权利要求16所述的服务预估装置,其特征在于,所述偏好信息获取模块被配置为:
19.一种电子设备,其特征在于,包括:
20.一种计算机可读存储介质,其特征在于,当所述计算机可读存储介质中的指令由电子设备的处理器执行时,使得电子设备能够执行如权利要求1至6中任一项所述的服务预估模型的训练方法,或者,执行如权利要求7至9中任一项所述的服务预估方法。
21.一种计算机程序产品,包括计算机程序,其特征在于,所述计算机程序被处理器执行时实现如权利要求1至6中任一项所述的服务预估模型的训练方法,或者,实现如权利要求7至9中任一项所述的服务预估方法。