模型处理方法、装置、存储介质及电子设备.pdf

(19)国家知识产权局(12)发明专利申请(10)申请公布号CN115496250A(43)申请公布日2022.12.20(21)申请号202210581616.7G06Q30/06(2012.01)(22)申请日2022.05.26(71)申请人支付宝（杭州）信息技术有限公司地址310000浙江省杭州市西湖区西溪路556号8层B段801-11(72)发明人谢世明陈鸿吴军曾多袁心如沈僮元野(74)专利代理机构北京恒博知识产权代理有限公司11528专利代理师侯世俭(51)Int.Cl.G06Q10/04(2012.01)G06N20/00(2019.01)G06N3/04(2006.01)G06N3/08(2006.01)权利要求书3页说明书20页附图7页(54)发明名称模型处理方法、装置、存储介质及电子设备(57)摘要本说明书公开了一种模型处理方法、装置、存储介质及电子设备，其中，方法包括：通过将针对初始神经网络模型的第一训练数据进行数据复制处理，得到第二训练数据，并将第一训练数据和第二训练数据输入初始神经网络模型进行模型训练以确定针对第一训练数据的第一表征信息以及针对第二训练数据的第二表征信息，然后基于第一表征信息以及第二表征信息对初始神经网络模型进行模型训练就可以得到训练好的目标神经网络模型。CN115496250ACN115496250A权利要求书1/3页1.一种模型处理方法，所述方法包括：将针对初始神经网络模型的第一训练数据进行数据复制处理，得到第二训练数据；将所述第一训练数据和所述第二训练数据输入所述初始神经网络模型，以确定针对第一训练数据的第一表征信息以及针对第二训练数据的第二表征信息；基于所述第一表征信息以及所述第二表征信息对所述初始神经网络模型进行模型训练，得到目标神经网络模型。2.根据权利要求1所述的方法，所述将所述第一训练数据和所述第二训练数据输入所述初始神经网络模型，以确定针对第一训练数据的第一表征信息以及针对第二训练数据的第二表征信息，包括：将所述第一训练数据和所述第二训练数据输入所述初始神经网络模型；通过对所述初始神经网络模型进行随机隐退处理，基于随机隐退处理后的所述初始神经网络模型确定针对第一训练数据的第一表征信息以及针对第二训练数据的第二表征信息。3.根据权利要求2所述的方法，所述通过对所述初始神经网络模型进行随机隐退处理，基于随机隐退处理后的所述初始神经网络模型确定针对第一训练数据的第一表征信息以及针对第二训练数据的第二表征信息，包括：对所述初始神经网络模型中的至少一个第一神经元进行第一随机隐退处理，基于第一随机隐退处理后的所述初始神经网络模型输出针对第一训练数据的第一表征信息；对所述初始神经网络模型中的至少一个第二神经元进行第二随机隐退处理，基于第二随机隐退处理后的所述初始神经网络模型输出针对第二训练数据的第二表征信息。4.根据权利要求3所述的方法，所述初始神经网络模型包括隐层网络，所述隐层网络中包括至少一个随机隐退层和至少一个隐层，所述对所述初始神经网络模型中的至少一个第一神经元进行第一随机隐退处理，包括：通过所述随机隐退层对下层的所述隐层中的至少一个第一神经元进行第一随机隐退处理；所述对所述初始神经网络模型中的至少一个第二神经元进行第二随机隐退处理，包括：通过所述随机隐退层对下层的所述隐层中的至少一个第二神经元进行第二随机隐退处理。5.根据权利要求1所述的方法，所述基于所述第一表征信息以及所述第二表征信息对所述初始神经网络模型进行模型训练，得到目标神经网络模型，包括：基于所述第一表征信息以及所述第二表征信息，确定模型损失；基于所述模型损失对所述初始神经网络模型进行模型训练，得到目标神经网络模型。6.根据权利要求5所述的方法，所述基于所述第一表征信息以及所述第二表征信息，确定模型损失，包括：从所述第一表征信息获取针对第一无标签数据的第三表征信息，以及获取针对第二无标签数据的第四表征信息，所述第二无标签数据为针对所述第一标签数据进行数据复制生成的无标签数据；2CN115496250A权利要求书2/3页基于所述第三表征信息以及所述第四表征信息，确定针对无标签数据的第一损失；所述基于所述模型损失对所述初始神经网络模型进行模型训练，包括：基于所述第一损失对所述初始神经网络模型进行模型训练。7.根据权利要求6所述的方法，所述基于所述第三表征信息以及所述第四表征信息，确定针对无标签数据的第一损失，包括：将所述第三表征信息以及所述第四表征信息输入至第一损失计算式中，确定针对无标签数据的第一损失；所述第一损失计算式满足以下公式：其中，L1为第一损失，Ai为第三表征信息，Bi为第四表征信息，kl()为相对熵函数，n为所述无标签数据的数据数量。8.根据权利要求6所述的方法，所述方法还包括：从所述第一表征信息和所