联邦学习、资料风险评估方法、装置和系统.pdf

(19)中华人民共和国国家知识产权局(12)发明专利申请(10)申请公布号CN111008709A(43)申请公布日2020.04.14(21)申请号202010162831.4(22)申请日2020.03.10(71)申请人支付宝（杭州）信息技术有限公司地址310000浙江省杭州市西湖区西溪路556号8层B段801-11(72)发明人汲小溪赵闻飙王维强傅欣艺(74)专利代理机构北京国昊天诚知识产权代理有限公司11315代理人许振新(51)Int.Cl.G06N20/00(2019.01)G06Q10/06(2012.01)G06Q30/00(2012.01)权利要求书4页说明书13页附图4页(54)发明名称联邦学习、资料风险评估方法、装置和系统(57)摘要本说明书实施例公开了一种联邦学习、资料风险评估方法、装置及系统，在所述方法中，资料所有方作为联邦学习中的参与方，基于本地用户资料数据对目标模型进行训练，得到所述目标模型的梯度并反馈给联邦学习中的协调方，其中，所述目标模型用于评估用户资料存在的风险；协调方对至少两个资料所有方反馈的梯度进行整合，得到目标模型的更新梯度并发送至资料所有方；资料所有方基于所述更新梯度和本地用户资料数据，再次对目标模型进行训练，并向协调方反馈再次训练得到的梯度。CN111008709ACN111008709A权利要求书1/4页1.一种资料风险评估模型的联邦学习方法，包括：资料所有方作为联邦学习中的参与方，基于本地用户资料数据对目标模型进行训练，得到所述目标模型的梯度并反馈给联邦学习中的协调方，其中，所述目标模型用于评估用户资料存在的风险；所述协调方对至少两个所述资料所有方反馈的梯度进行整合，得到所述目标模型的更新梯度并发送至所述资料所有方；所述资料所有方基于所述更新梯度和本地用户资料数据，再次对所述目标模型进行训练，并向所述协调方反馈再次训练得到的梯度。2.根据权利要求1所述的方法，其中，所述目标模型为多模态模型，所述资料所有方基于本地用户资料数据对目标模型进行训练，包括：所述资料所有方从本地用户资料数据中提取多模态特征，基于所述多模态特征进行所述多模态模型训练。3.根据权利要求2所述的方法，所述多模态模型为张量融合网络TFN。4.根据权利要求1所述的方法，其中，所述资料所有方向所述协调方反馈所述目标模型的梯度，包括：所述资料所有方将所述目标模型的梯度加密后反馈给所述协调方。5.根据权利要求4所述的方法，其中，所述协调方对至少两个所述资料所有方反馈的梯度进行整合，得到所述目标模型的更新梯度，包括：所述协调方在可信计算环境TEE中，对至少两个所述资料所有方反馈的梯度进行解密，并将解密得到的梯度进行整合，得到所述目标模型的更新梯度。6.根据权利要求5所述的方法，其中，所述协调方向将所述目标模型的更新梯度发送至所述资料所有方，包括：所述协调方在可信计算环境TEE中，将所述目标模型的更新梯度加密后发送至联邦学习中的资料所有方。7.根据权利要求1-6任一项所述的方法，所述联邦学习为横向联邦学习，所述联邦学习中的不同资料所有方的用户资料数据来自不同的用户，以及所述联邦学习中的不同资料所有方的用户资料数据中包含的特征相同。8.根据权利要求7所述方法，所述联邦学习中的至少一个资料所有方为电商平台，所述用户为入驻所述电商平台的商户，以及所述用户资料数据包括身份证明凭证和资质证明凭证中的至少一种。9.根据权利要求1-6任一项所述的方法，还包括：在满足预设迭代终止条件时，所述协调方将最后一次整合得到的更新梯度发送至目标资料所有方，其中，所述目标资料所有方为联邦学习中的任一资料所有方；所述目标资料所有方基于最后一次整合得到的更新梯度，更新所述目标模型以用于评估用户资料存在的风险。10.一种资料风险评估方法，包括：接收用户上传的待评估资料；2CN111008709A权利要求书2/4页从所述待评估资料中提取特征数据；基于所述特征数据和目标模型，确定所述待评估资料的风险，其中，所述目标模型是基于权利要求1-9中任一项所述的方法训练得到的。11.一种资料风险评估模型的联邦学习方法，所述方法包括：基于本地用户资料数据对目标模型进行训练，得到所述目标模型的梯度并反馈给联邦学习中的协调方，以使所述协调方对至少两个所述资料所有方反馈的梯度进行整合，得到所述目标模型的更新梯度，其中，所述目标模型用于评估用户资料存在的风险；接收所述协调方下发的所述更新梯度；基于所述更新梯度和本地用户资料数据，再次对所述目标模型进行训练，并向所述协调方反馈再次训练得到的梯度。12.一种资料风险评估模型的联邦学习方法，所述方法包括：接收资料所有方反馈的梯度，其中，所述梯度是所述资料所有方基于本地用户资料数据对目标模型进行训练得到的，所述资料所有方为联邦学习中的参