神经网络模型训练方法、装置及系统.pdf
山柳****魔王
亲,该文档总共33页,到这已经超出免费预览范围,如果喜欢就直接下载吧~
相关资料
神经网络模型训练方法、装置及系统.pdf
本说明书实施例提供神经网络模型训练方法及装置。神经网络模型包括位于各个第一成员设备的第一神经网络子模型。各个第一成员设备使用私有数据进行模型预测得到预测标签数据并确定第一神经网络子模型的模型更新信息,将第一神经网络子模型的模型更新信息和本地样本分布信息提供给第二成员设备。第二成员设备根据各个第一成员设备的第一神经网络子模型的模型更新信息进行神经网络模型重构,根据各个第一成员设备的本地样本分布信息确定整体样本概率分布,并将重构后的神经网络模型和整体样本概率分布分发给各个第一成员设备。各个第一成员设备根据本地
图神经网络模型训练方法、装置及系统.pdf
本说明书实施例提供图神经网络模型训练方法及装置。图神经网络模型包括位于各个第一成员设备的节点特征向量表示子模型和归一化子模型以及位于第二成员设备的判别模型,各个第一成员设备的私有数据是非独立同分布数据。各个第一成员设备的节点特征向量表示子模型的模型结构根据各自数据的数据分布特征确定。各个第一成员设备使用节点特征向量表示子模型和归一化子模型得到归一化特征向量表示,利用从第二成员设备获取的判别模型得到预测标签值并确定出损失函数。各个第一成员设备基于损失函数,确定判别模型的模型更新量并更新节点特征向量表示子模型
图神经网络模型训练方法、装置及系统.pdf
本说明书实施例提供用于经由多个数据拥有方来训练图神经网络模型的方法及装置。在该方法中,图神经网络模型被分割为判别模型以及多个图神经网络子模型。在进行模型训练时,各个数据拥有方将各自的特征数据子集提供给各自的图神经网络子模型,以得到各个节点的特征向量表示。各个数据拥有方从服务端接收判别模型,并使用各个节点的特征向量表示来得到各个节点的当前预测标签值,由此计算出各个数据拥有方处的当前损失函数,并基于当前损失函数来确定出判别模型的梯度信息以及更新各自的图神经网络子模型。各个数据拥有方将各自的梯度信息提供给服务端
神经网络模型的训练方法、装置、系统及存储介质.pdf
本申请实施例公开了一种神经网络模型的训练方法、装置及存储介质,属于AI技术领域。在本申请实施例中,当多个训练节点上的当前模型分段不平衡时,训练节点可以根据模型分段更新信息对自身上部署的待更新的模型分段进行调整,以使得各个训练节点上的模型分段能够更优。在调整模型分段之后,根据调整后的模型分段来确定层间数据的存储管理策略。由于训练节点的内存负载主要取决于其上所部属的模型分段以及模型分段的层间数据的存储管理,因此,本申请实施例通过调整模型分段并对调整后的模型分段的层间数据的存储管理策略进行设置,可以使得各个训练
基于隐私保护的神经网络模型训练方法、装置及系统.pdf
本说明书实施例提供基于隐私保护的神经网络模型训练方法、装置及系统。每个第一成员设备具有本地数据并且部署至少一个客户端模型,第二成员设备部署至少一个服务端模型,至少一个客户端模型和至少一个服务端模型按照模型间隔方式组成神经网络模型。在每次循环时,各个第一成员设备和第二成员设备使用第一成员设备的本地数据执行模型预测计算。对于每个客户端模型,各个第一成员设备使用本地数据或者在前服务端模型的模型计算结果进行多方安全计算。对于每个服务端模型,第二成员设备使用在前客户端模型的模型计算结果执行本地计算。基于模型预测值确