一种基于图神经网络的融合知识与协同信息的推荐方法

专利2023-10-24  108



1.本发明涉及推荐算法技术领域,尤其是一种基于图神经网络的融合知识与协同信息的推荐方法。


背景技术:

2.随着互联网应用的快速发展,信息呈现爆炸式增长,信息搜索方法已经不能满足用户对信息筛选的需求。各种信息服务平台面临根据用户的不同特点喜好和场景等因素对巨量、复杂的信息进行筛选的巨大挑战。推荐系统以人工智能算法为内核对用户物品信息进行挖掘,成为解决这一挑战的有效方案。推荐场景的丰富给推荐系统提供了不同的挑战,但推荐系统解决的首要问题是推荐的精度问题。推荐系统需要精确的预测用户对物品,信息等的喜爱程度。传统的推荐系统中,协同过滤类算法以其协同综合其他用户行为给用户做推荐取得了不错的效果。但是在很多应用场景中,用户的行为数据稀疏,新的物品被用户交互的较少甚至没有交互数据(所谓冷启动问题)。例如社交媒体中一些不活跃的用户就只有很少的交互信息,电商平台中更新的新物品就只有很少的购买浏览信息,这些问题成为协同过滤推荐算法提升推荐精度的主要阻碍。
3.因此,需要一种推荐方法,解决推荐算法面临的数据稀疏和冷启动问题,并提高推荐精度。


技术实现要素:

4.本发明需要解决的技术问题是提供一种基于图神经网络的融合知识与协同信息的推荐方法,通过引入辅助信息到推荐系统中,推荐方法通过利用相似辅助信息进行推荐,弥补了用户行为数据稀疏和冷启动问题,进一步提高了推荐的精度。
5.为解决上述技术问题,本发明所采用的技术方案是:
6.一种基于图神经网络的融合知识与协同信息的推荐方法,包括以下步骤:
7.s1、初始化用户嵌入向量、物品嵌入向量、知识图谱中非物品实体嵌入向量和知识图谱中关系嵌入向量;
8.s2、在信息传播层经过知识信息图神经网络得到包含知识信息的物品嵌入向量和用户嵌入向量;
9.s3、在信息传播层经过协同信息图神经网络得到包含协同信息的物品嵌入向量和用户嵌入向量;
10.s4、在信息融合层计算得到融合后的用户和物品嵌入向量;
11.s5、计算得到所有正负样本的预测偏好得分;
12.s6、构造推荐方法的损失函数,并计算损失;
13.s7、使用adam优化算法及设置的学习率δ进行模型参数更新;
14.s8、计算用户所有未交互物品的预测偏好得分,并排序输出前k个物品;
15.s9、通过前k个物品的召回率与归一化折损累计增益两个指标进行推荐方法的评
估。
16.本发明技术方案的进一步改进在于:s2具体包括以下步骤:
17.s21、在信息传播层经过知识信息图神经网络得到包含知识信息的物品嵌入向量ei,公式如下:
[0018][0019]
其中,

是哈达玛积,是物品的用户邻居集合,ev是知识图谱中非物品实体嵌入向量,er是知识图谱中关系嵌入向量;r代表关系;kg代表知识信息;k代表图神经网络的阶数;i代表物品;v代表实体;代表包含知识信息的k+1阶图神经网络输出的物品表示向量;
[0020]
s22、在信息传播层经过知识信息图神经网络得到包含知识信息的用户嵌入向量eu,公式如下:
[0021][0022]
其中,是用户的物品邻居集合;u代表用户。
[0023]
本发明技术方案的进一步改进在于:s3具体包括以下步骤:
[0024]
s31、在信息传播层经过协同信息图神经网络得到包含协同信息的物品嵌入向量,公式如下:
[0025][0026]
其中,ui代表协同信息;表示包含协同信息的k+1阶物品表示向量;
[0027]
s32、在信息传播层经过协同信息图神经网络得到包含协同信息的物品嵌入向量,公式如下:
[0028][0029]
其中,表示包含协同信息的k+1阶用户表示向量。
[0030]
本发明技术方案的进一步改进在于:s4具体包括以下步骤:
[0031]
s41、在信息融合层计算得到融合后的各层用户嵌入向量;
[0032]
s41具体包括以下步骤:
[0033]
s411、计算知识信息的注意力权重,公式如下:
[0034]
[0035]
其中,α()代表注意力函数;表示k+1阶图神经网络输出的用户表示向量;exp()代表指数函数运算;
[0036]
s412、计算协同信息的注意力权重,公式如下:
[0037][0038]
s413、计算融合后的各层用户嵌入向量,公式如下:
[0039][0040]
s42、在信息融合层计算得到融合后的各层物品嵌入向量;
[0041]
s42具体包括以下步骤:
[0042]
s421、计算知识信息的注意力权重,公式如下:
[0043][0044]
其中,代表k+1阶图神经网络输出的物品表示向量。
[0045]
s422、计算协同信息的注意力权重,公式如下:
[0046][0047]
s423、计算融合后的各层物品嵌入向量,公式如下:
[0048][0049]
s43、在信息融合层计算得到各层相加的用户嵌入向量,公式如下:
[0050][0051]
其中,表示最终的用户表示向量;
[0052]
s44、在信息融合层计算得到各层相加的物品嵌入向量,公式如下:
[0053][0054]
其中,表示最终的物品表示向量。
[0055]
本发明技术方案的进一步改进在于:s5具体包括以下步骤:
[0056]
s51、计算正样本的偏好得分,公式如下:
[0057]
[0058]
其中,t代表向量转置运算;表示模型输出的用户u对物品i的偏好得分;
[0059]
s52、计算负样本的偏好得分;
[0060]
s52具体包括以下步骤:
[0061]
s521、随机选取用户未交互的物品构成负样本;
[0062]
s522、计算负样本的偏好得分,公式如下:
[0063][0064]
本发明技术方案的进一步改进在于:s6具体包括以下步骤:
[0065]
s61、构造计算bpr损失,公式如下:
[0066][0067]
其中,表示bpr损失;o代表样本集;σ是sigmoid函数;ln为以e为底的对数函数;
[0068]
s62、构造计算整体损失,公式如下:
[0069][0070]
其中,是最终的损失;λ1是正则化系数;θ是模型的所有可训练参数。
[0071]
本发明技术方案的进一步改进在于:s9具体包括以下步骤:
[0072]
s91、计算召回率recall@k,公式如下:
[0073][0074]
其中,tp为物品被推荐,同时用户也交互过,表示推荐的正好是用户喜欢的;fn为物品没有被推荐,但是用户交互过,表示没有识别到用户喜欢的;
[0075]
s92、计算归一化折损累计增益ndcg@k,公式如下:
[0076][0077][0078]
其中,r(i)是指推荐列表中位置i的物品的相关性分数,idcg@k为理想的折损累计增益,即推荐列表中的物品均是用户实际交互的物品。
[0079]
本发明技术方案的进一步改进在于:k的取值为20。
[0080]
由于采用了上述技术方案,本发明取得的技术进步是:(发明点)
[0081]
1、本发明通过设置双通道的图神经网络,分别学习推荐数据中的知识信息与协同信息,达到了分隔两种信息之间的干扰,生成更加合理的用户物品表示的技术效果。
[0082]
2、本发明通过设置基于注意力机制的信息融合机制,对包含知识信息与协同信息的用户物品表示进行融合,达到了更加准确的表示用户的真实兴趣和物品属性,提高推荐准确性的技术效果。
附图说明
[0083]
图1是本发明的整体框架图。
具体实施方式
[0084]
下面结合附图及实施例对本发明做进一步详细说明:
[0085]
如图1所示,一种基于图神经网络的融合知识与协同信息的推荐方法,包括以下步骤:
[0086]
s1、初始化用户嵌入向量、物品嵌入向量、知识图谱中非物品实体嵌入向量和知识图谱中关系嵌入向量;
[0087]
s2、在信息传播层经过知识信息图神经网络得到包含知识信息的物品嵌入向量和用户嵌入向量;
[0088]
s2的具体过程如下:
[0089]
s21、在信息传播层经过知识信息图神经网络得到包含知识信息的物品嵌入向量ei,公式如下:
[0090][0091]
其中,

是哈达玛积,是物品的用户邻居集合,ev是知识图谱中非物品实体嵌入向量,er是知识图谱中关系嵌入向量;r代表关系;kg代表知识信息;k代表图神经网络的阶数;i代表物品;v代表实体;代表包含知识信息的k+1阶图神经网络输出的物品表示向量;
[0092]
s22、在信息传播层经过知识信息图神经网络得到包含知识信息的用户嵌入向量eu,公式如下:
[0093][0094]
其中,是用户的物品邻居集合;u代表用户;
[0095]
s3、在信息传播层经过协同信息图神经网络得到包含协同信息的物品嵌入向量和用户嵌入向量;
[0096]
s3的具体过程如下:
[0097]
s31、在信息传播层经过协同信息图神经网络得到包含协同信息的物品嵌入向量,公式如下:
[0098][0099]
其中,ui代表协同信息;表示包含协同信息的k+1阶物品表示向量;
[0100]
s32、在信息传播层经过协同信息图神经网络得到包含协同信息的物品嵌入向量,公式如下:
[0101][0102]
其中,表示包含协同信息的k+1阶用户表示向量;
[0103]
s4、在信息融合层计算得到融合后的用户和物品嵌入向量;
[0104]
s4的具体过程如下:
[0105]
s41、在信息融合层计算得到融合后的各层用户嵌入向量;
[0106]
s41的具体过程如下:
[0107]
s411、计算知识信息的注意力权重,公式如下:
[0108][0109]
其中,α()代表注意力函数;表示k+1阶图神经网络输出的用户表示向量;exp()代表指数函数运算;
[0110]
s412、计算协同信息的注意力权重,公式如下:
[0111][0112]
s413、计算融合后的各层用户嵌入向量,公式如下:
[0113][0114]
s42、在信息融合层计算得到融合后的各层物品嵌入向量;
[0115]
s42的具体过程如下:
[0116]
s421、计算知识信息的注意力权重,公式如下:
[0117][0118]
其中,代表k+1阶图神经网络输出的物品表示向量。
[0119]
s422、计算协同信息的注意力权重,公式如下:
[0120][0121]
s423、计算融合后的各层物品嵌入向量,公式如下:
[0122][0123]
s43、在信息融合层计算得到各层相加的用户嵌入向量,公式如下:
[0124][0125]
其中,表示最终的用户表示向量;
[0126]
s44、在信息融合层计算得到各层相加的物品嵌入向量,公式如下:
[0127][0128]
其中,表示最终的物品表示向量;
[0129]
s5、计算得到所有正负样本的预测偏好得分;
[0130]
s5的具体过程如下:
[0131]
s51、计算正样本的偏好得分,公式如下:
[0132][0133]
其中,t代表向量转置运算;表示模型输出的用户u对物品i的偏好得分;
[0134]
s52、计算负样本的偏好得分;
[0135]
s52的具体过程如下:
[0136]
s521、随机选取用户未交互的物品构成负样本;
[0137]
s522、计算负样本的偏好得分,公式如下:
[0138][0139]
s6、构造推荐方法的损失函数,并计算损失;
[0140]
s6的具体过程如下:
[0141]
s61、构造计算bpr损失,公式如下:
[0142][0143]
其中,表示bpr损失;o代表样本集;σ是sigmoid函数;ln为以e为底的对数函数;
[0144]
s62、构造计算整体损失,公式如下:
[0145][0146]
其中,是最终的损失;λ1是正则化系数;θ是模型的所有可训练参数;
[0147]
s7、使用adam优化算法及设置的学习率δ进行模型参数更新;
[0148]
s8、计算用户所有未交互物品的预测偏好得分,并排序输出前k个物品;
[0149]
s9、通过前k个物品的召回率与归一化折损累计增益两个指标进行推荐方法的评估;
[0150]
s9的具体过程如下:
[0151]
s91、计算召回率recall@k,公式如下:
[0152][0153]
其中,tp为物品被推荐,同时用户也交互过,表示推荐的正好是用户喜欢的;fn为物品没有被推荐,但是用户交互过,表示没有识别到用户喜欢的;
[0154]
s92、计算归一化折损累计增益ndcg@k,公式如下:
[0155][0156][0157]
其中,r(i)是指推荐列表中位置i的物品的相关性分数,idcg@k为理想的折损累计增益,即推荐列表中的物品均是用户实际交互的物品。
[0158]
一般情况下k的取值为20。
[0159]
图1中,表示向量内积。
[0160]
综上所述,本发明弥补了用户行为数据稀疏和冷启动问题,进一步提高了推荐精度。

技术特征:
1.一种基于图神经网络的融合知识与协同信息的推荐方法,其特征在于:包括以下步骤:s1、初始化用户嵌入向量、物品嵌入向量、知识图谱中非物品实体嵌入向量和知识图谱中关系嵌入向量;s2、在信息传播层经过知识信息图神经网络得到包含知识信息的物品嵌入向量和用户嵌入向量;s3、在信息传播层经过协同信息图神经网络得到包含协同信息的物品嵌入向量和用户嵌入向量;s4、在信息融合层计算得到融合后的用户和物品嵌入向量;s5、计算得到所有正负样本的预测偏好得分;s6、构造推荐方法的损失函数,并计算损失;s7、使用adam优化算法及设置的学习率δ进行模型参数更新;s8、计算用户所有未交互物品的预测偏好得分,并排序输出前k个物品;s9、通过前k个物品的召回率与归一化折损累计增益两个指标进行推荐方法的评估。2.根据权利要求1所述的一种基于图神经网络的融合知识与协同信息的推荐方法,其特征在于:s2具体包括以下步骤:s21、在信息传播层经过知识信息图神经网络得到包含知识信息的物品嵌入向量e
i
,公式如下:其中,

是哈达玛积,是物品的用户邻居集合,e
v
是知识图谱中非物品实体嵌入向量,e
r
是知识图谱中关系嵌入向量;r代表关系;kg代表知识信息;k代表图神经网络的阶数;i代表物品;v代表实体;代表包含知识信息的k+1阶图神经网络输出的物品表示向量;s22、在信息传播层经过知识信息图神经网络得到包含知识信息的用户嵌入向量e
u
,公式如下:其中,是用户的物品邻居集合;u代表用户。3.根据权利要求1所述的一种基于图神经网络的融合知识与协同信息的推荐方法,其特征在于:s3具体包括以下步骤:s31、在信息传播层经过协同信息图神经网络得到包含协同信息的物品嵌入向量,公式如下:
其中,ui代表协同信息;表示包含协同信息的k+1阶物品表示向量;s32、在信息传播层经过协同信息图神经网络得到包含协同信息的物品嵌入向量,公式如下:其中,表示包含协同信息的k+1阶用户表示向量。4.根据权利要求1所述的一种基于图神经网络的融合知识与协同信息的推荐方法,其特征在于:s4具体包括以下步骤:s41、在信息融合层计算得到融合后的各层用户嵌入向量;s41具体包括以下步骤:s411、计算知识信息的注意力权重,公式如下:其中,α()代表注意力函数;表示k+1阶图神经网络输出的用户表示向量;exp()代表指数函数运算;s412、计算协同信息的注意力权重,公式如下:s413、计算融合后的各层用户嵌入向量,公式如下:s42、在信息融合层计算得到融合后的各层物品嵌入向量;s42具体包括以下步骤:s421、计算知识信息的注意力权重,公式如下:其中,代表k+1阶图神经网络输出的物品表示向量;s422、计算协同信息的注意力权重,公式如下:s423、计算融合后的各层物品嵌入向量,公式如下:
s43、在信息融合层计算得到各层相加的用户嵌入向量,公式如下:其中,表示最终的用户表示向量;s44、在信息融合层计算得到各层相加的物品嵌入向量,公式如下:其中,表示最终的物品表示向量。5.根据权利要求1所述的一种基于图神经网络的融合知识与协同信息的推荐方法,其特征在于:s5具体包括以下步骤:s51、计算正样本的偏好得分,公式如下:其中,t代表向量转置运算;表示模型输出的用户u对物品i的偏好得分;s52、计算负样本的偏好得分;s52具体包括以下步骤:s521、随机选取用户未交互的物品构成负样本;s522、计算负样本的偏好得分,公式如下:6.根据权利要求1所述的一种基于图神经网络的融合知识与协同信息的推荐方法,其特征在于:s6具体包括以下步骤:s61、构造计算bpr损失,公式如下:其中,表示bpr损失;o代表样本集;σ是sigmoid函数;ln为以e为底的对数函数;s62、构造计算整体损失,公式如下:其中,是最终的损失;λ1是正则化系数;θ是模型的所有可训练参数。7.根据权利要求1所述的一种基于图神经网络的融合知识与协同信息的推荐方法,其特征在于:s9具体包括以下步骤:s91、计算召回率recall@k,公式如下:
其中,tp为物品被推荐,同时用户也交互过,表示推荐的正好是用户喜欢的;fn为物品没有被推荐,但是用户交互过,表示没有识别到用户喜欢的;s92、计算归一化折损累计增益ndcg@k,公式如下:s92、计算归一化折损累计增益ndcg@k,公式如下:其中,r(i)是指推荐列表中位置i的物品的相关性分数,idcg@k为理想的折损累计增益,即推荐列表中的物品均是用户实际交互的物品。8.根据权利要求1或7任一项所述的一种基于图神经网络的融合知识与协同信息的推荐方法,其特征在于:k的取值为20。

技术总结
本发明公开了一种基于图神经网络的融合知识与协同信息的推荐方法,属于推荐算法技术领域,包括以下步骤:向量初始化;在信息传播层经过知识信息图神经网络得到包含知识信息的物品嵌入向量和用户嵌入向量;在信息传播层经过协同信息图神经网络得到包含协同信息的物品嵌入向量和用户嵌入向量;在信息融合层计算得到融合后的用户和物品嵌入向量;计算得到所有正负样本的预测偏好得分;构造推荐方法的损失函数,并计算损失;使用Adam优化算法及设置的学习率进行模型参数更新;计算用户所有未交互物品的预测偏好得分,并排序输出前K个物品;通过指标进行推荐方法的评估。本发明弥补了用户行为数据稀疏和冷启动问题,进一步提高了推荐精度。荐精度。荐精度。


技术研发人员:宫继兵 杨凯伦
受保护的技术使用者:燕山大学
技术研发日:2022.07.18
技术公布日:2022/11/1
转载请注明原文地址: https://tieba.8miu.com/read-5919.html

最新回复(0)