基于联邦学习的特征提取方法和装置、电子设备、介质.pdf

(19)中华人民共和国国家知识产权局(12)发明专利申请(10)申请公布号CN113935050A(43)申请公布日2022.01.14(21)申请号202111131968.4(22)申请日2021.09.26(71)申请人平安科技（深圳）有限公司地址518000广东省深圳市福田区福田街道福安社区益田路5033号平安金融中心23楼(72)发明人黄晨宇王健宗(74)专利代理机构广州嘉权专利商标事务所有限公司44205代理人廖慧贤(51)Int.Cl.G06F21/60(2013.01)G06K9/00(2022.01)G06N20/00(2019.01)权利要求书2页说明书17页附图4页(54)发明名称基于联邦学习的特征提取方法和装置、电子设备、介质(57)摘要本实施例提供基于联邦学习的特征提取方法和装置、电子设备、介质，属于机器学习技术领域。该方法包括：与第二参与方相互发送己方的原始特征数据；根据特征数据集的特征维度从特征数据集提取出目标特征；根据目标特征和原始本地模型的模型参数计算出原始本地模型的预测值；对己方的预测值进行加密处理得到加密目标梯度，并与第二参与方相互发送己方的加密目标梯度；根据第二参与方发送的加密目标梯度计算目标损失；根据己方的目标损失计算共线性量化因子；根据己方计算的共线性量化因子将相应的目标特征确定为待分析的最终特征。本公开实施例可以针对性地提取特征，提高特征提取的准确性和效率，为后续的模型训练提升训练速度、提高模型的准确率。CN113935050ACN113935050A权利要求书1/2页1.一种基于联邦学习的特征提取方法，应用于第一参与方，其特征在于，包括：与第二参与方相互发送己方的原始特征数据；根据特征数据集的特征维度从所述特征数据集提取出目标特征；其中，所述特征数据集包括己方的原始特征数据和第二参与方发送的原始特征数据；根据所述目标特征和原始本地模型的模型参数计算出所述原始本地模型的预测值；对己方的预测值进行加密处理得到加密目标梯度，并与所述第二参与方相互发送己方的加密目标梯度；根据所述第二参与方发送的加密目标梯度计算目标损失；根据己方的目标损失计算共线性量化因子；根据己方计算的共线性量化因子将相应的目标特征确定为待分析的最终特征。2.根据权利要求1所述的方法，其特征在于，所述对己方的预测值进行加密处理得到加密目标梯度，并与所述第二参与方相互发送己方的加密目标梯度，包括：对己方的预测值进行同态加密处理，得到加密梯度；与所述第二参与方相互发送己方的加密梯度；根据己方的预测值和所述第二参与方发送的加密梯度，计算目标梯度；与所述第二参与方相互发送己方的目标梯度；根据所述第二参与方发送的目标梯度和己方的目标特征计算出所述加密目标梯度；与所述第二参与方相互发送己方的加密目标梯度。3.根据权利要求2所述的方法，其特征在于，所述对所述预测值进行加密处理得到加密目标梯度，并与所述第二参与方相互发送己方的加密目标梯度，还包括：获取所述第二参与方发送的公钥；根据所述第二参与方发送的公钥对己方的预测值进行同态加密处理得到加密掩码；将己方的加密掩码添加到己方的加密目标梯度中，得到加密掩码梯度，并将己方的加密掩码梯度作为己方的加密目标梯度。4.根据权利要求1至3任一项所述的方法，其特征在于，所述根据所述第二参与方发送的加密目标梯度计算目标损失，包括：根据己方的私钥对己方的加密目标梯度进行解密，得到目标梯度，并与所述第二参与方相互发送解密得到的目标梯度；根据己方解密得到的目标梯度计算出第一损失，并与所述第二参与方相互发送第一损失；根据己方计算出的第一损失与所述第二参与方发送的第一损失计算出目标损失。5.根据权利要求4所述的方法，其特征在于，所述根据己方计算出的第一损失与所述第二参与方发送的第一损失计算出目标损失，包括：对己方计算出的第一损失进行加密，得到第一加密损失，并与所述第二参与方相互发送所述第一加密损失；根据第二参与方发送的加密梯度，得到第二损失；其中，己方的加密梯度由己方的预测值进行同态加密处理得到，所述第二损失不包括正则项；根据己方的第一损失、第二参与方发送的第一损失、己方的第二损失，计算出目标加密损失；2CN113935050A权利要求书2/2页根据己方的私钥对己方计算的目标加密损失进行解密，得到第三损失；根据根据己方的正则项、己方得到的第三损失，计算出目标损失。6.根据权利要求1至3任一项所述的方法，其特征在于，所述根据所述目标损失计算共线性量化因子，包括：获取所述第二参与方发送的预测值；若根据己方计算的目标损失确定己方的原始本地模型拟合，则根据己方的预测值和第二参与方发送的预测值计算拟合值；根据己方计算的拟合值和己方的真实值计算残差平方和，并根据己方的真实值、己方的真实值的平均值计算总离差平方和；计算己方的