内容提供者
基于隐私保护更新业务模型的方法、装置及系统.pdf
2023-05-25
10金币
955KB
19页
斌斌****公主
实名认证
内容提供者
1/10
2/10
3/10
4/10
5/10
6/10
7/10
8/10
9/10
10/10
亲，该文档总共19页，到这已经超出免费预览范围，如果喜欢就直接下载吧～
相关资料
基于隐私保护更新业务模型的方法、装置及系统.pdf
本说明书实施例提供一种基于隐私保护更新业务模型的方法，针对联邦学习过程中，各个业务方提供不同结构的图数据（异构图），无法统一建模的问题，提出一种模型参数局部相一致的技术构思，通过模型基的设置，一个模型基包括若干基准参数，各个业务方利用模型基的线性组合构建本地模型参数向量或矩阵，从而构建本地业务模型。在联邦学习过程中，业务方上传本地梯度、服务方更新全局梯度、业务方更新本地模型参数，均以模型基为单元。这种局部更新模型参数的技术方案，有效打破异构图下的联邦学习壁垒，提供全新的联邦学习思路，并可推广至各种业务模型
2023-05-25
10
955KB
基于隐私保护确定目标业务模型的方法及装置.pdf
本说明书实施例提供一种基于隐私保护确定目标业务模型的方法和装置，先对选定的复杂业务模型进行初始训练，得到初始业务模型，然后对初始业务模型进行修剪，并对修剪后的业务模型进行训练，得到相应模型指标。对于得到的多个子模型，通过差分隐私的指数机制，利用相应模型指标确定各个业务模型分别对应的各个采样概率，并基于采样概率对多个子模型进行采样，从而选择目标业务模型。这样，可以利用差分隐私方式获取隐私保护的压缩模型，在实现模型压缩的基础上，为模型提供隐私保护。
2023-05-25
10
679KB
基于隐私保护确定目标业务模型的方法及装置.pdf
本说明书实施例提供一种基于隐私保护确定目标业务模型的方法和装置，先对选定的复杂业务模型进行初始训练，得到初始业务模型，然后对初始业务模型进行修剪，并对修剪后的业务模型在参数重置回初始化状态的情形下进行训练，以考验修剪掉的模型参数是否自始不重要。对于得到的多个子模型，通过差分隐私的方式，从中选择目标业务模型。这样，可以获取隐私保护的压缩模型，在实现模型压缩的基础上，为模型提供隐私保护。
2023-05-25
10
1KB
基于隐私保护的联合训练业务模型的方法及装置.pdf
本说明书实施例提供一种基于隐私保护的联合训练业务模型的方法和装置，根据该方法，服务器针对实现业务模型的神经网络中的各个网络层，确定扰动矩阵，并用其对网络层的参数进行扰动加密，得到扰动加密模型，分发给各个终端。终端利用扰动加密的模型处理其本地训练样本，得到扰动梯度。并且，终端还在扰动梯度上叠加噪声。通过精心设计噪声的分布，使得经扰动矩阵进行恢复后得到的噪声符合高斯分布，从而满足差分隐私的要求。于是，服务器可以对各个终端发送的含躁梯度进行扰动恢复并聚合，从而更新神经网络模型中的参数。
2023-05-25
10
1KB
基于隐私保护的联合训练业务模型的方法及装置.pdf
本说明书实施例提供一种基于隐私保护的联合训练业务模型的方法和装置，根据该方法，服务器针对实现业务模型的神经网络中的各个网络层，确定扰动矩阵，并用其对网络层的参数进行扰动加密，得到扰动加密模型，分发给各个终端。终端利用扰动加密的模型处理其本地训练样本，得到扰动梯度。并且，终端还在扰动梯度上叠加噪声。通过精心设计噪声的分布，使得经扰动矩阵进行恢复后得到的噪声符合高斯分布，从而满足差分隐私的要求。于是，服务器可以对各个终端发送的含躁梯度进行扰动恢复并聚合，从而更新神经网络模型中的参数。
2023-05-25
10
1KB