一种基于图计算系统训练图神经网络模型的方法及系统.pdf

(19)中华人民共和国国家知识产权局(12)发明专利申请(10)申请公布号CN112070216A(43)申请公布日2020.12.11(21)申请号202011052999.6(22)申请日2020.09.29(71)申请人支付宝（杭州）信息技术有限公司地址310000浙江省杭州市西湖区西溪路556号8层B段801-11(72)发明人黄鑫宋宪政王琳张大龙胡志洋(74)专利代理机构成都七星天知识产权代理有限公司51253代理人杨永梅(51)Int.Cl.G06N3/04(2006.01)G06N3/08(2006.01)G06N20/20(2019.01)G06K9/62(2006.01)权利要求书3页说明书12页附图3页(54)发明名称一种基于图计算系统训练图神经网络模型的方法及系统(57)摘要本说明书实施例公开了一种基于图计算系统训练图神经网络模型的方法及系统，所述图计算系统包括多个计算节点，所述多个计算节点中的每个包括图神经网络模型，应用于每个计算节点，所述方法包括：获取样本图中与所述计算节点匹配的目标样本节点的聚合特征信息；所述聚合特征信息聚合有所述目标样本节点的信息及基于所述多个计算节点的信息传播接收的其邻居样本节点的信息；利用所述图神经网络模型的输出层对所述聚合特征信息进行处理，得到所述目标样本节点的预测结果；基于所述预测结果和所述目标样本节点的标签，构建损失函数；基于所述损失函数进行反向传播，更新所述图神经网络模型；迭代执行上述步骤，直至所述图神经网络模型满足预设条件。CN112070216ACN112070216A权利要求书1/3页1.一种基于图计算系统训练图神经网络模型的方法，所述图计算系统包括多个计算节点，所述多个计算节点中的每个包括图神经网络模型，应用于每个计算节点，所述方法包括：获取样本图中与所述计算节点匹配的目标样本节点的聚合特征信息；所述聚合特征信息聚合有所述目标样本节点的信息及基于所述多个计算节点的信息传播接收的其邻居样本节点的信息；利用所述图神经网络模型的输出层对所述聚合特征信息进行处理，得到所述目标样本节点的预测结果；基于所述预测结果和所述目标样本节点的标签，构建损失函数；基于所述损失函数进行反向传播，更新所述图神经网络模型；迭代执行上述步骤，直至所述图神经网络模型满足预设条件。2.如权利要求1所述的方法，所述图神经网络模型还包括多个中间层；所述获取样本图中与所述计算节点匹配的目标样本节点的聚合特征信息，包括：当所述迭代执行为第一轮时，利用所述多个中间层中的每个对当前层的目标样本节点的信息和当前跳邻居样本节点的信息逐层聚合，获取所述聚合特征信息；其中，所述当前跳与所述当前层对应，前一个中间层的输出为下一个中间层的目标样本节点的信息；当所述迭代执行不为第一轮时，基于前一轮对应的更新的图神经网络模型、前一轮对应的目标样本节点的信息以及前一轮对应的邻居样本节点的信息，得到更新的聚合特征信息，将该更新的聚合特征信息作为获取的所述聚合特征信息。3.如权利要求2所述的方法，所述当前跳邻居样本节点的信息基于以下方式获得：所述多个计算节点根据各自匹配的样本节点的边进行当前次信息传播，以使所述计算节点获得1跳邻居样本节点匹配的计算节点传播的其包括的所述当前跳邻居样本节点的信息；其中，当所述当前次信息传播不为1时，所述1跳邻居样本节点匹配的计算节点包括的所述当前跳邻居样本节点的信息是在所述当前次的前一次信息传播后获得的。4.如权利要求2所述的方法，所述方法还包括：接收所述目标样本节点的特征信息；所述特征信息包含节点特征信息和边特征信息；所述节点特征信息包含连续特征信息和类别特征信息；基于编码模型对所述类别特征信息和所述边特征信息进行处理，得到类别特征向量和边特征向量；融合所述连续特征信息、类别特征向量以及边特征向量，得到所述目标样本节点的信息。5.如权利要求2所述的方法，所述方法还包括：保存所述目标样本节点的信息和所述多个中间层中每个的输出。6.如权利要求1所述的方法，所述图计算系统还包括参数节点，所述基于所述损失函数进行反向传播，更新所述图神经网络模型，包括：基于所述损失函数进行反向传播，得到梯度更新值；接收所述参数节点基于所述多个计算节点中每个的所述梯度更新值，计算得到的梯度平均值；基于所述梯度平均值，更新所述图神经网络模型。2CN112070216A权利要求书2/3页7.一种基于图计算系统训练图神经网络模型的系统，所述图计算系统包括多个计算节点，所述多个计算节点中的每个包括图神经网络模型，应用于每个计算节点，所述系统包括：获取模块，用于获取样本图中与所述计算节点匹配的目标样本节点的聚合特征信息；所述聚合特征信息聚合有所述目标样本节点的信息及基于所述多个计算节点的信息传播接收的其邻居样本节点的信息；第一处理模