一种基于隐私保护的数据处理方法、装置及设备.pdf

(19)中华人民共和国国家知识产权局(12)发明专利申请(10)申请公布号CN112200132A(43)申请公布日2021.01.08(21)申请号202011172857.3(22)申请日2020.10.28(71)申请人支付宝（杭州）信息技术有限公司地址310000浙江省杭州市西湖区西溪路556号8层B段801-11(72)发明人孙文宇张昊杨成平(74)专利代理机构北京国昊天诚知识产权代理有限公司11315代理人朱文杰(51)Int.Cl.G06K9/00(2006.01)G06F21/62(2013.01)G06N3/04(2006.01)G06N3/08(2006.01)权利要求书3页说明书13页附图4页(54)发明名称一种基于隐私保护的数据处理方法、装置及设备(57)摘要本说明书实施例公开了一种基于隐私保护的数据处理方法、装置及设备，所述方法包括：获取目标图像，所述目标图像为基于目标脱敏算法对待脱敏的第一图像进行处理后的脱敏图像；基于预先训练的概率隐私打分模型，确定所述目标图像每一维特征的隐私概率，所述概率隐私打分模型为基于历史脱敏图像进行训练得到的，用于确定脱敏图像每一维特征的隐私概率的深度学习网络模型，所述历史脱敏图像为基于所述目标脱敏算法处理后的脱敏图像；基于所述目标图像每一维特征的隐私概率，确定所述目标图像的隐私分数，并基于所述目标图像的隐私分数，确定所述目标脱敏算法是否符合预设图像脱敏需求，以防止个人隐私数据泄露。CN112200132ACN112200132A权利要求书1/3页1.一种基于隐私保护的数据处理方法，所述方法包括：获取目标图像，所述目标图像为基于目标脱敏算法对待脱敏的第一图像进行处理后的脱敏图像；基于预先训练的概率隐私打分模型，确定所述目标图像每一维特征的隐私概率，所述概率隐私打分模型为基于历史脱敏图像进行训练得到的，用于确定脱敏图像每一维特征的隐私概率的深度学习网络模型，所述历史脱敏图像为基于所述目标脱敏算法处理后的脱敏图像；基于所述目标图像每一维特征的隐私概率，确定所述目标图像的隐私分数，并基于所述目标图像的隐私分数，确定所述目标脱敏算法是否符合预设图像脱敏需求，以防止个人隐私数据泄露。2.根据权利要求1所述的方法，在所述基于预先训练的概率隐私打分模型，确定所述目标图像每一维特征的隐私概率之前，还包括：获取所述历史脱敏图像；基于所述历史脱敏图像，对预先构建的人脸识别模型进行训练，得到训练后的所述人脸识别模型，所述人脸识别模型为用于确定脱敏图像每一维特征的特征嵌入的深度学习网络模型；基于所述训练后的人脸识别模型和所述历史脱敏图像，对预先构建的所述概率隐私打分模型进行训练，得到所述预先训练的概率隐私打分模型。3.根据权利要求2所述的方法，所述基于所述训练后的人脸识别模型和所述历史脱敏图像，对预先构建的所述概率隐私打分模型进行训练，得到所述预先训练的概率隐私打分模型，包括：基于所述训练后的人脸识别模型，获取所述历史脱敏图像每一维特征的特征嵌入；基于所述预先构建的概率隐私打分模型，获取所述历史脱敏图像每一维特征的隐私概率；基于所述历史脱敏图像每一维特征的特征嵌入和隐私概率，确定所述历史脱敏图像的特征分数；基于所述历史脱敏图像的特征分数和预设损失函数，对所述预先构建的所述概率隐私打分模型进行训练，得到所述预先训练的概率隐私打分模型。4.根据权利要求3所述的方法，所述基于所述历史脱敏图像每一维特征的特征嵌入和隐私概率，确定所述历史脱敏图像的特征分数，包括：基于预设向量算法对第一向量和第二向量进行处理，并将处理后的结果确定为所述历史脱敏图像的特征分数，所述第一向量为由所述历史脱敏图像每一维特征的特征嵌入构成的向量，所述第二向量为由所述历史脱敏图像每一维特征的隐私概率构成的向量。5.根据权利要求2所述的方法，所述基于所述历史脱敏图像，对预先构建的人脸识别模型进行训练，得到训练后的所述人脸识别模型，包括：基于所述预先构建的人脸识别模型，获取所述历史脱敏图像每一维特征的特征嵌入；基于所述历史脱敏图像每一维特征的特征嵌入和预设损失函数，对所述人脸识别模型进行训练。6.根据权利要求2所述的方法，在所述获取所述历史脱敏图像之前，还包括：2CN112200132A权利要求书2/3页获取历史图像；基于包含不同的预设超参数的所述目标脱敏算法，分别对所述历史图像进行脱敏处理，以得到多个不同的所述历史脱敏图像。7.根据权利要求6所述的方法，在所述目标脱敏算法不符合预设图像脱敏需求的情况下，所述方法还包括：基于预设参数调整规则，对所述目标脱敏算法中包含的所述超参数进行调整；基于调整后的所述目标脱敏算法对所述第一图像进行脱敏处理，并将处理后的所述第一图像确定为所述目标图像。8.根据权利要求2所述的方法，在所述目标脱敏算法符合预