内容提供者
基于差分隐私的文本处理模型的训练方法及装置.pdf
2023-05-25
10金币
962KB
24页
一吃****书竹
实名认证
内容提供者
1/10
2/10
3/10
4/10
5/10
6/10
7/10
8/10
9/10
10/10
亲，该文档总共24页，到这已经超出免费预览范围，如果喜欢就直接下载吧～
相关资料
基于差分隐私的文本处理模型的训练方法及装置.pdf
本说明书实施例提供一种基于差分隐私的文本处理模型的训练方法及装置。该方法包括：首先，将目标训练文本输入文本处理模型，所述文本处理模型中设置有隐私保护层；其中，利用所述隐私保护层以差分隐私的方式，对相邻的上游隐层输出的目标原始表征进行加噪，得到目标加噪表征，并利用所述隐私保护层下游的模型层处理所述目标加噪表征，得到文本处理结果。然后，基于所述文本处理结果和对应的文本标签，训练所述文本处理模型。如此，通过在训练阶段的前向传播过程中对隐私表征进行差分隐私处理，实现在保证训练数据隐私安全的同时，加速模型收敛并有效
2023-05-25
10
962KB
基于差分隐私的异常检测模型的训练方法及装置.pdf
本说明书实施例提供一种基于差分隐私的异常检测模型的训练方法，包括：将训练集中任意样本的第一向量输入自编码网络，通过编码器输出降维的第二向量，通过解码器输出复原的第三向量。然后，基于第二向量构建评估向量，输入到评估网络，并获取评估网络输出的该样本属于混合高斯分布中K个子高斯分布的子分布概率。然后，根据训练集中各样本对应的评估向量和子分布概率，得到该任意样本在混合高斯分布中的第一概率。据此确定预测损失，其与各样本对应的第一概率负相关，且与第一向量和第三向量之间的相似度负相关。进而，利用差分隐私的方式，在基于预
2023-05-25
10
817KB
基于差分隐私的数据生成系统的训练方法及装置.pdf
本说明书实施例提供一种基于差分隐私的数据生成系统的训练方法和装置，该数据生成系统包括自编码网络和判别器，方法包括，将真实样本输入自编码网络，得到复原样本；根据真实样本和复原样本的比对，确定样本重构损失。此外，通过自编码网络生成合成样本。将真实样本和合成样本分别输入判别器，得到其分别属于真实样本的第一概率和第二概率。针对判别器，以减小第一损失为目标，以差分隐私的方式在梯度上添加噪声，以调整判别器参数，其中第一损失负相关于第一概率，正相关于第二概率。针对自编码网络，以减小第二损失为目标，在梯度上添加噪声，以调
2023-05-25
10
667KB
基于差分隐私的数据生成系统的训练方法及装置.pdf
本说明书实施例提供一种基于差分隐私的数据生成系统的训练方法和装置，该数据生成系统包括自编码网络和判别器，方法包括，将真实样本输入自编码网络，得到复原样本；根据真实样本和复原样本的比对，确定样本重构损失。此外，通过自编码网络生成合成样本。将真实样本和合成样本分别输入判别器，得到其分别属于真实样本的第一概率和第二概率。针对判别器，以减小第一损失为目标，以差分隐私的方式在梯度上添加噪声，以调整判别器参数，其中第一损失负相关于第一概率，正相关于第二概率。针对自编码网络，以减小第二损失为目标，在梯度上添加噪声，以调
2023-05-25
10
684KB
基于隐私保护的模型训练方法及装置.pdf
本说明书实施例提供一种基于隐私保护的模型训练方法及装置，通过本说明书实施例提供的方法和装置，在安全计算过程中，利用高斯差分隐私和(ε，δ)差分隐私之间形成的对偶关系，以及在训练周期达到一定阈值的极限情况下高斯差分隐私空间中用于衡量累积隐私损失的参数μ与所添加的高斯噪声的方差σ
2023-05-25
10
841KB