基于联邦学习的数据交互方法、装置、设备及存储介质.pdf

(19)国家知识产权局(12)发明专利申请(10)申请公布号CN114996741A(43)申请公布日2022.09.02(21)申请号202210698600.4(22)申请日2022.06.20(71)申请人深圳前海微众银行股份有限公司地址518052广东省深圳市前海深港合作区前湾一路1号A栋201室(72)发明人黄安埠(74)专利代理机构北京派特恩知识产权代理有限公司11270专利代理师刘晖铭蒋雅洁(51)Int.Cl.G06F21/60(2013.01)G06F21/62(2013.01)G06N20/00(2019.01)权利要求书3页说明书19页附图6页(54)发明名称基于联邦学习的数据交互方法、装置、设备及存储介质(57)摘要本申请提供了一种基于联邦学习的数据交互方法、装置、设备、存储介质及程序产品，所述方法包括：服务端设备接收客户端设备发送的携带有主任务数据交互请求；根据加密特征生成伪任务，加密特征是由参与联邦学习的至少一个客户端设备持有的本地特征进行加密处理得到的；基于主任务和伪任务构建并训练初始模型，得到全局模型；将全局模型发送至发送请求的目标客户端设备，以使目标客户端设备从全局模型中去除伪任务对应的伪任务子模型，得到主任务子模型。通过加入伪任务，改变训练模型结构，能够实现提高模型的安全性，防止模型被反向攻击导致私有数据泄露，从而提高客户端私有数据的保密性。CN114996741ACN114996741A权利要求书1/3页1.一种基于联邦学习的数据交互方法，其特征在于，应用于服务端设备，所述方法包括：接收客户端设备发送的数据交互请求，所述请求携带有主任务；根据加密特征生成伪任务，所述加密特征是由参与联邦学习的至少一个客户端设备持有的本地特征进行加密处理得到的；基于所述主任务和所述伪任务，构建并训练初始模型，得到全局模型；将所述全局模型发送至目标客户端设备，以使所述目标客户端设备从所述全局模型中去除所述伪任务对应的伪任务子模型，得到主任务子模型，所述目标客户端设备为发送所述请求的客户端设备。2.根据权利要求1所述的方法，其特征在于，所述基于所述主任务和所述伪任务，构建并训练初始模型，得到全局模型，包括：根据所述主任务和所述伪任务，构建多任务的初始模型，所述初始模型的特征和/或参数，不同于基于所述主任务构建的模型的特征和/或参数；将所述初始模型发送至参与联邦学习的各客户端设备，以使所述各客户端设备分别对所述初始模型进行训练，得到训练好的本地模型；接收所述各客户端设备发送的训练好的本地模型，并对各训练好的本地模型进行聚合处理，得到中间模型；当所述中间模型符合预设收敛条件时，将所述中间模型确定为全局模型。3.根据权利要求2所述的方法，其特征在于，所述基于所述主任务和所述伪任务，构建并训练初始模型，得到全局模型，还包括：当所述中间模型不符合预设收敛条件时，将所述中间模型发送至所述各客户端设备，以使所述各客户端设备分别对所述中间模型进行训练，得到更新后的本地模型；接收所述各客户端设备发送的更新后的本地模型，并对各更新后的本地模型进行聚合处理，得到更新后的中间模型。4.一种基于联邦学习的数据交互方法，其特征在于，应用于客户端设备，所述方法包括：根据获得的主任务生成并发送数据交互请求至服务端设备；获取所述服务端设备基于所述主任务和伪任务训练得到的全局模型，所述伪任务是根据加密特征生成的，所述加密特征由参与联邦学习的至少一个客户端设备持有的本地特征进行加密处理得到；从所述全局模型中去除所述伪任务对应的伪任务子模型，得到主任务子模型；利用所述主任务子模型对所述主任务进行处理，得到处理结果。5.根据权利要求4所述的方法，其特征在于，所述获取所述服务端设备基于所述主任务和伪任务训练得到的全局模型，包括：接收所述服务端设备发送的初始模型，所述初始模型是由所述服务端设备根据所述主任务和所述伪任务构建得到的多任务的模型，所述初始模型的特征和/或参数，不同于基于所述主任务构建的模型的特征和/或参数；利用本地数据对所述初始模型进行训练，得到训练好的本地模型；将所述训练好的本地模型发送至所述服务端设备，以使所述服务端设备基于所述训练2CN114996741A权利要求书2/3页好的本地模型确定全局模型；接收所述服务端设备发送的全局模型。6.根据权利要求5所述的方法，其特征在于，所述将所述训练好的本地模型发送至所述服务端设备，以使所述服务端设备基于所述训练好的本地模型确定全局模型，包括：将所述训练好的本地模型发送至所述服务端设备，以使所述服务端设备对参与联邦学习的各客户端设备发送的训练好的本地模型进行聚合处理，得到中间模型；当所述中间模型不符合预设收敛条件时，将所述中间模型发送至所述各客户端设备；接收所述服务端设备发送的所述中间模型；利用所述本地