一种基于安全多方计算的模型联合训练方法.pdf

(19)中华人民共和国国家知识产权局(12)发明专利申请(10)申请公布号CN112329072A(43)申请公布日2021.02.05(21)申请号202011618870.7(22)申请日2020.12.31(71)申请人支付宝（杭州）信息技术有限公司地址310000浙江省杭州市西湖区西溪路556号8层B段801-11(72)发明人谭晋王磊(74)专利代理机构成都七星天知识产权代理有限公司51253代理人袁春晓(51)Int.Cl.G06F21/62(2013.01)G06F21/60(2013.01)G06N3/04(2006.01)G06N20/00(2019.01)权利要求书2页说明书11页附图3页(54)发明名称一种基于安全多方计算的模型联合训练方法(57)摘要本说明书涉及机器学习领域，特别涉及一种基于安全多方计算的模型联合训练方法。安全多方计算包括多个参与方，该方法由其中某一参与方执行；其包括：与其他参与方协同，基于密态特征和密态标签对模型进行联合训练，在密态下对模型进行一轮或多轮迭代更新，获得更新后的密态模型参数；其中，一轮或多轮迭代更新中的至少一轮进一步包括：与其他参与方协同，确定模型的密态损失函数值；与其他参与方协同，基于所述密态损失函数值判断该模型的损失函数值是否满足预设的阈值条件，得到判断结果；基于所述判断结果确定是否停止联合训练。CN112329072ACN112329072A权利要求书1/2页1.一种基于安全多方计算的模型联合训练方法，所述安全多方计算包括多个参与方，所述方法由其中某一参与方执行，所述方法包括：与其他参与方协同，基于密态特征和密态标签对模型进行联合训练，在密态下对所述模型进行一轮或多轮迭代更新，获得更新后的密态模型参数；其中，所述一轮或多轮迭代更新中的至少一轮进一步包括：与其他参与方协同，确定模型的密态损失函数值；与其他参与方协同，基于所述密态损失函数值判断该模型的损失函数值是否满足预设的阈值条件，得到判断结果；基于所述判断结果确定是否停止联合训练。2.如权利要求1所述的方法，所述与其他参与方协同，基于所述密态损失函数值判断该模型的损失函数值是否满足预设的阈值条件，得到判断结果，包括：与其他参与方协同，解密所述密态损失函数值，得到该模型的损失函数值；判断所述损失函数值是否满足预设的阈值条件，得到所述判断结果。3.如权利要求1所述的方法，所述与其他参与方协同，基于所述密态损失函数值判断该模型的损失函数值是否满足预设的阈值条件，得到判断结果，包括：与其他参与方协同，基于所述密态损失函数值判断该模型的损失函数值是否满足预设的阈值条件，得到密态判断结果；与其他参与方协同，解密所述密态判断结果得到所述判断结果。4.如权利要求1所述的方法，所述预设的阈值条件包括大于第一阈值或者小于第二阈值；且当该模型的损失函数值满足所述预设的阈值条件，得到的判断结果用于指示停止联合训练。5.如权利要求4所述的方法，所述安全多方计算基于秘密分享加密算法实现；所述与其他参与方协同，基于所述密态损失函数值判断该模型的损失函数值是否满足预设的阈值条件，得到判断结果，包括：获得第一阈值分片与第二阈值分片；基于本地持有的损失函数值分片、第一阈值分片和第二阈值分片，与其他参与方协同完成多方条件判断运算，判断该模型的损失函数值是否大于第一阈值或者小于第二阈值，得到判断结果分片；接收其他参与方的判断结果分片，基于全部参与方的判断结果分片得到所述判断结果；或者，将本地持有的判断结果分片发送给解密方以便解密方基于全部参与方的判断结果分片得到所述判断结果。6.如权利要求1所述的方法，其中：所述模型为逻辑回归模型、线性回归模型或GBDT模型。7.如权利要求1所述的方法，所述至少一轮为所述一轮或多轮迭代更新中间隔预设更新次数的轮次。8.一种基于安全多方计算的模型联合训练系统，所述安全多方计算包括多个参与方，所述系统由其中某一参与方实现，其包括：训练模块，用于与其他参与方协同，基于密态特征和密态标签对模型进行联合训练，在2CN112329072A权利要求书2/2页密态下对所述模型进行一轮或多轮迭代更新，获得更新后的密态模型参数；其中，所述训练模块进一步包括：损失函数确定单元，用于在所述一轮或多轮迭代更新中的至少一轮中与其他参与方协同，确定模型的密态损失函数值；判断结果获取单元，用于在所述至少一轮中与其他参与方协同，基于所述密态损失函数值判断该模型的损失函数值是否满足预设的阈值条件，得到判断结果；判断结果执行单元，用于在所述至少一轮中基于所述判断结果确定是否停止联合训练。9.如权利要求8所述的系统，所述判断结果获取单元还用于在所述至少一轮中：与其他参与方协同，解密所述密态损失函数值，得到该模型的损失函数值；判断所述损失函数值是否满足预设的阈值