预览加载中,请您耐心等待几秒...
1/10
2/10
3/10
4/10
5/10
6/10
7/10
8/10
9/10
10/10

亲,该文档总共24页,到这已经超出免费预览范围,如果喜欢就直接下载吧~

如果您无法下载资料,请参考说明:

1、部分资料下载需要金币,请确保您的账户上有足够的金币

2、已购买过的文档,再次下载不重复扣费

3、资料包下载后请先用软件解压,在使用对应软件打开

(19)中华人民共和国国家知识产权局(12)发明专利申请(10)申请公布号CN110929870A(43)申请公布日2020.03.27(21)申请号202010096248.8(22)申请日2020.02.17(71)申请人支付宝(杭州)信息技术有限公司地址310000浙江省杭州市西湖区西溪路556号8层B段801-11(72)发明人陈超超王力周俊(74)专利代理机构北京永新同创知识产权代理有限公司11376代理人林锦辉刘景峰(51)Int.Cl.G06N3/08(2006.01)权利要求书4页说明书13页附图6页(54)发明名称图神经网络模型训练方法、装置及系统(57)摘要本说明书实施例提供用于经由多个数据拥有方来训练图神经网络模型的方法及装置。在该方法中,图神经网络模型被分割为判别模型以及多个图神经网络子模型。在进行模型训练时,各个数据拥有方将各自的特征数据子集提供给各自的图神经网络子模型,以得到各个节点的特征向量表示。各个数据拥有方从服务端接收判别模型,并使用各个节点的特征向量表示来得到各个节点的当前预测标签值,由此计算出各个数据拥有方处的当前损失函数,并基于当前损失函数来确定出判别模型的梯度信息以及更新各自的图神经网络子模型。各个数据拥有方将各自的梯度信息提供给服务端,以供服务端来更新判别模型。利用该方法,能够保证各个数据拥有方处的私有数据的数据安全。CN110929870ACN110929870A权利要求书1/4页1.一种用于经由多个数据拥有方来训练图神经网络模型的方法,所述图神经网络模型包括位于服务端的判别模型以及位于各个数据拥有方处的图神经网络子模型,每个数据拥有方具有通过对用于模型训练的训练样本集进行水平切分而获得的训练样本子集,所述训练样本子集包括特征数据子集以及真实标签值,所述方法由数据拥有方执行,所述方法包括:执行下述循环过程,直到满足循环结束条件:将当前特征数据子集提供给所述数据拥有方处的当前图神经网络子模型,以得到所述当前图神经网络子模型的各个节点的特征向量表示;从服务端获取当前判别模型;将各个节点的特征向量表示提供给所述当前判别模型,以得到各个节点的当前预测标签值;根据各个节点的当前预测标签值以及对应的真实标签值,确定当前损失函数;在不满足循环结束条件时,基于当前损失函数,确定所述当前判别模型的梯度信息并且更新当前图神经网络子模型的模型参数;以及将所述当前判别模型的梯度信息提供给所述服务端,所述服务端使用来自于各个数据拥有方的所述当前判别模型的梯度信息来更新所述服务端处的判别模型,其中,在未满足所述循环结束条件时,所述更新后的各个数据拥有方的图神经网络子模型和所述服务端处的判别模型用作下一循环过程的当前模型。2.如权利要求1所述的方法,其中,各个数据拥有方处得到的梯度信息通过安全聚合的方式提供给所述服务端。3.如权利要求2所述的方法,其中,所述安全聚合包括:基于秘密共享的安全聚合;基于同态加密的安全聚合;或者基于可信执行环境的安全聚合。4.如权利要求1所述的方法,其中,在每次循环过程中,所述方法还包括:获取当前训练样本子集。5.如权利要求1到4中任一所述的方法,其中,所述循环结束条件包括:预定循环次数;所述判别模型的各个模型参数的变化量不大于预定阈值;或者当前总损失函数位于预定范围内。6.如权利要求1到4中任一所述的方法,其中,所述特征数据包括基于图像数据、语音数据或文本数据的特征数据,或者所述特征数据包括用户特征数据。7.一种用于经由多个数据拥有方来训练图神经网络模型的方法,所述图神经网络模型包括位于服务端的判别模型以及位于各个数据拥有方处的图神经网络子模型,每个数据拥有方具有通过对用于模型训练的训练样本集进行水平切分而获得的训练样本子集,所述训练样本子集包括特征数据子集以及真实标签值,所述方法由服务端执行,所述方法包括:执行下述循环过程,直到满足循环结束条件:将当前判别模型提供给各个数据拥有方,各个数据拥有方将当前子图神经网络模型的2CN110929870A权利要求书2/4页各个节点的特征向量表示提供给所述当前判别模型以得到各个节点的预测标签值,基于各个节点的预测标签值以及对应的真实标签值确定各自的当前损失函数,以及在不满足循环结束条件时,各个数据拥有方基于各自的当前损失函数,确定判别模型的梯度信息以及更新当前图神经网络子模型的模型参数,并且将所确定的梯度信息提供给所述服务端,所述各个节点的特征向量表示通过将当前特征数据子集提供给所述当前图神经网络子模型而得到;在未满足所述循环结束条件时,从各个数据拥有方获取所述当前判别模型的对应梯度信息,并且基于来自各个数据拥有方的梯度信息更新所述当前判别模型,其中,在未满足所述循环结束条件时,所述更新后的各个数据拥有方的图神经网络子模型和所述服务端的判别模