一种基于偏好迁移的知识图谱推荐方法.pdf

(19)国家知识产权局(12)发明专利申请(10)申请公布号CN115934957A(43)申请公布日2023.04.07(21)申请号202211463522.6G06F16/958(2019.01)(22)申请日2022.11.22G06N3/0464(2023.01)G06N3/048(2023.01)(71)申请人新疆河润科技有限公司G06N3/08(2023.01)地址830000新疆维吾尔自治区乌鲁木齐市甘泉堡经济技术开发区瀚海西街600号双创小镇培训中心6层(72)发明人王宏志王婷婷陶伟李剑辉赵斌龙(74)专利代理机构辽宁鸿文知识产权代理有限公司21102专利代理师许明章王海波(51)Int.Cl.G06F16/36(2019.01)G06F16/335(2019.01)G06F16/9535(2019.01)权利要求书3页说明书6页附图1页(54)发明名称一种基于偏好迁移的知识图谱推荐方法(57)摘要本发明属于推荐系统技术领域，提供一种基于偏好迁移的知识图谱推荐方法。注意力嵌入传播主要由注意力嵌入传播层、偏好迁移层、预测层组成。其中注意力嵌入传播层递归的在协作知识图谱上传播节点的邻居的嵌入以细化节点的嵌入，并通过知识感知注意机制学习传播过程中每个邻居的权重，最后聚合来自所有层的用户和项目表示；偏好迁移层通过其设置的阈值找到属于冷启动的用户，然后在用户逻辑交互空间上基于图卷积网络架构对冷启动用户的邻居用户进行二次传播，并使用归一化的交并比来表示每个邻居用户的权重；预测层通过最终得到的用户和项目表示，输出预测的交互概率。CN115934957ACN115934957A权利要求书1/3页1.一种基于偏好迁移的知识图谱推荐方法，其特征在于，具体包括以下步骤：步骤1：在协作知识图谱上进行注意力嵌入传播，注意力嵌入传播包括预训练、信息传播、信息聚合、高阶传播四部分；步骤1.1：预训练应用TransR对协作知识图谱进行预训练，将整个协作知识图谱映射到关系空间中，同时得到包含结构信息的用户和项目的初始化嵌入表示；更具体的说，TransR使协作知识图谱上的三元组(h,r,t)满足：dk其中，eh,et∈R和er∈R分别是h，t和r的嵌入；d和k分别是实体和关系的嵌入维度；和分别是头实体h和尾实体t在关系空间中的投影表示；TransR的得分函数定义如下：d×k其中，Wr∈R是关系矩阵，将实体从d维实体空间投影到k维关系空间；TransR通过成对的排名损失鼓励正三元组和负三元组之间的差异，其损失函数如下所示：LKG＝∑‑lnσ(sneg‑spos)其中一个负三元组是通过随机替换对应协作知识图谱Gc上的一个正三元组(h,r,t)中的头实体或者尾实体被构造；协作知识图谱Gc是知识图谱和用户‑项目交互图联合构成；σ是sigmoid函数；sneg是负三元组，soos是正三元组；步骤1.2：信息传播在协作知识图谱上进行信息传播，得到实体的邻域表示；考虑一个实体h，Nh＝{(h,r,t)|(h,r,t)∈Gc}表示实体h作为头实体时与其关联的三元组的集合；通过计算Nh的线性组合来得到h的领域表示：其中，π(h,r,t)表示在信息传播过程中不同邻居实体对中心实体h的注意力权重，定义如下：其中cos_sim为余弦相似性；步骤1.3：信息聚合使用GCN聚合器聚合h的表示eh和其领域表示来更新得到h的新表示，定义如下：其中，σ为LeakyRelu激活函数；W为可训练的转化矩阵用来提取有用的传播信息；b为偏差；2CN115934957A权利要求书2/3页步骤1.4：高阶传播进一步的探索高阶连通性信息，收集从l‑hop邻居传播来的信息；具体来说，递归的将一个实体的嵌入表示表述为：其中，l表示距离中心实体h的距离；被定义如下：预训练后的实体表示作为e(0)，参与初始的信息传播迭代；在迭代L层后，得到用户节点u的表示序列以及项目节点v的表示序列考虑到不同顺序的连通性信息，采用层聚合机制将每一步的表示连接到单个向量中，如下所示：其中，||为连接运算符；步骤2：在用户逻辑交互空间中进行偏好迁移基于图卷积网络的架构，沿着用户逻辑交互空间UI进行二次信息传播，用以丰富冷启动用户的表示；根据训练数据的分布情况确定一个阈值K1，用户‑项目交互数目在阈值以下的用户称为信息不丰富的用户，即冷启动用户；为了避免引入更多的噪声，偏好迁移只针对冷启动用户，并且进行信息传播时只考虑冷启动用户在用户逻辑交互空间中的1‑hop邻居；考虑到一个冷启动用户ucold，来表示在用户逻辑交互空间中与ucold相关联的三元组的集合，需要注意的是用户逻辑交互空间中的三元组是无方向的；*其中，IoU是与用户ucold交互的项目集和与用户u交互的项目集之间的交并比，用来表示它们之间的关联程度，如下所示：