基于多方安全计算训练模型的方法及装置.pdf

(19)国家知识产权局(12)发明专利申请(10)申请公布号CN116011012A(43)申请公布日2023.04.25(21)申请号202211735546.2G06N3/08(2023.01)(22)申请日2022.12.31(71)申请人支付宝（杭州）信息技术有限公司地址310000浙江省杭州市西湖区西溪路556号8层B段801-11(72)发明人赵得润方文静谭晋王磊(74)专利代理机构北京亿腾知识产权代理事务所(普通合伙)11309专利代理师陈霁周良玉(51)Int.Cl.G06F21/62(2013.01)G06F18/214(2023.01)G06F18/241(2023.01)G06N3/04(2023.01)G06N3/048(2023.01)权利要求书2页说明书11页附图3页(54)发明名称基于多方安全计算训练模型的方法及装置(57)摘要本说明书实施例提供一种基于多方安全计算训练模型的方法及装置，在多方联合利用各自的隐私数据进行基于逻辑回归的分类模型训练过程中，通过目标映射函数代替常规的sigmoid函数进行数据分类，以减少基于逻辑回归进行分类的分类模型在多方安全计算场景下的数据处理的复杂度，提高模型训练效率。其中，在目标映射函数满足在远离0的位置具有较高准确度的条件的情况下，可以提高分类准确度。如此，可以提高多方安全计算场景下联合训练基于逻辑回归的分类模型的可行性。CN116011012ACN116011012A权利要求书1/2页1.一种基于多方安全计算训练模型的方法，其中，所述模型为逻辑回归模型，所述方法由进行基于多方安全计算训练模型的多个数据方中的第一方执行，包括：基于对本地业务数据的处理，得到各个训练样本分别对应的第一特征分片，所述第一特征分片是用于逻辑回归映射的输入特征的分片；利用所述第一特征分片，与其他方安全联合通过目标映射函数对所述输入特征进行计算，以确定针对各个训练样本分别对应的各个预测值，从而得到各个预测值的第一预测分片，其中，目标映射函数满足以下条件：在输入特征的模大于预定值的情况下，经由目标映射函数的映射结果与经由sigmoid函数的映射结果之间的偏差小于预定阈值；根据各个预测值的第一预测分片，与其他方安全检测预测值与样本标签的差异，从而得到模型损失的第一损失分片；与其他方安全地向模型损失减小的方向调整模型参数，得到调整后的模型参数的第一分片。2.如权利要求1所述的方法，其中，第一方持有当前模型参数的第一参数分片，所述基于对本地业务数据的处理，得到各个训练样本分别对应的第一特征分片包括：获取从本地业务数据中提取的各个训练样本的第一属性特征；基于所述第一属性特征和所述第一参数分片，与其他方联合安全地通过模型参数对各个训练样本的特征数据进行融合，从而得到各个训练样本分别对应的第一特征分片。3.如权利要求1所述的方法，其中，所述目标映射函数通过关于原点对称的s型函数经由伸缩项的伸缩和偏移项的偏移得到。4.如权利要求3所述的方法，其中，在s型函数的取值在‑1至1区间的情况下，偏移项为常数值0.5，伸缩项与输入特征的0.5倍正相关，与输入特征的以下之一项负相关：1与输入特征的模之和；1与输入特征的平方和的平方根。5.如权利要求1所述的方法，其中，目标映射函数的映射结果与经由sigmoid函数的映射结果之间的偏差通过以下方式确定：在模大于预定值的区间内采样多个输入特征值；针对各个输入特征值，分别利用目标映射函数和sigmoid函数进行处理得到相应的两个映射值序列；根据两个映射值序列的相似程度确定所述偏差。6.如权利要求1所述的方法，其中，第一方持有模型参数的第一参数分片，所述与其他方安全地向模型损失减小的方向调整模型参数，得到调整后的模型参数的第一分片包括：基于所述第一损失分片，与其他数据方安全确定模型损失对模型参数的梯度，得到模型参数的第一梯度分片；利用所述第一梯度分片调整模型参数的第一参数分片，调整后的第一参数分片即为模型参数的第一分片。7.如权利要求1所述的方法，其中，所述利用所述第一特征分片，与其他方安全联合通过目标映射函数对输入特征进行计算，以确定针对各个训练样本分别对应的各个预测值，从而得到各个预测值的第一预测分片还包括：针对模小于所述预定值的输入特征，与其他方安全联合通过第一线性多项式处理所述输入特征，得到相应训练样本的预测值的第一预测分片；2CN116011012A权利要求书2/2页针对模大于所述预定值的输入特征，与其他方安全联合通过第一线性多项式处理所述输入特征，得到相应训练样本的预测值的第一预测分片。8.如权利要求7所述的方法，其中，所述方法还包括：与其他方基于安全计算对逻辑回归模型进行特征系数的显著性检验；删除显著性检验结果为显著性不明显的模型参数，并训练包含其余的模型参数的