对抗样本生成模型的训练方法及装置.pdf

(19)中华人民共和国国家知识产权局(12)发明专利申请(10)申请公布号CN113222480A(43)申请公布日2021.08.06(21)申请号202110656184.7(22)申请日2021.06.11(71)申请人支付宝（杭州）信息技术有限公司地址310000浙江省杭州市西湖区西溪路556号8层B段801-11(72)发明人李辉王维强(74)专利代理机构北京亿腾知识产权代理事务所(普通合伙)11309代理人陈霁周良玉(51)Int.Cl.G06Q10/06(2012.01)G06Q10/04(2012.01)G06N20/00(2019.01)G06K9/62(2006.01)权利要求书3页说明书9页附图4页(54)发明名称对抗样本生成模型的训练方法及装置(57)摘要本说明书实施例提供一种生成对抗样本的生成模型的训练方法和装置，该方法包括，首先获取原始样本构成的样本集，其中包括正常样本和风险样本；还获取风险检测模型及其对应的损失函数。针对样本集中各个原始样本，利用生成模型生成扰动变换，并将其叠加在对应原始样本上，得到各个原始样本对应的各个变换样本；利用风险检测模型确定各个变换样本的各个风险预测值；以正常样本对应的标签值为比对标签值，分别将各个风险预测值代入前述损失函数，得到各个变换样本的对抗损失；至少根据各个变换样本的对抗损失的综合确定总对抗损失；以最小化总对抗损失为目标，调整生成模型中的参数。CN113222480ACN113222480A权利要求书1/3页1.一种用于生成对抗样本的生成模型的训练方法，包括：获取原始样本构成的样本集，其中包括正常样本和风险样本；获取风险检测模型及其对应的损失函数，所述风险检测模型为生成模型所所针对的模型；针对所述样本集中各个原始样本，利用所述生成模型生成扰动变换，并将其叠加在对应原始样本上，得到各个原始样本对应的各个变换样本；利用所述风险检测模型确定所述各个变换样本的各个风险预测值；以正常样本对应的标签值为比对标签值，分别将所述各个风险预测值代入所述损失函数，得到各个变换样本的对抗损失；至少根据所述各个变换样本的对抗损失的综合确定总对抗损失；以最小化总对抗损失为目标，调整所述生成模型中的参数。2.根据权利要求1所述的方法，其中，所述各个变换样本包括，原始风险样本对应的变换风险样本，和原始正常样本对应的变换正常样本；至少根据所述各个变换样本的对抗损失的综合确定总对抗损失，包括：根据各个变换风险样本的对抗损失之和，确定第一损失项；根据各个变换正常样本的对抗损失之和，确定第二损失项；根据第一损失项和第二损失项的组合，确定所述总对抗损失。3.根据权利要求2所述的方法，其中，确定第一损失项，包括：根据各个变换风险样本的对抗损失之和，以及各个变换风险样本对应的扰动变换的大小度量值之和，确定所述第一损失项；确定第二损失项，包括：根据各个变换正常样本的对抗损失之和，以及各个变换正常样本对应的扰动变换的大小度量值之和，确定所述第二损失项。4.根据权利要求3所述的方法，其中，所述扰动变换的大小度量值为，所述扰动变换的二阶范数，或者二阶范数的平方。5.根据权利要求2或3所述的方法，其中，根据第一损失项和第二损失项的组合，确定所述总对抗损失，包括：根据所述第一损失项和第二损失项的加权求和，得到所述总对抗损失。。6.根据权利要求1所述的方法，其中，所述样本为以下之一：账号、交易、文本片段、用户操作。7.一种优化风险检测模型的方法，包括：获取原始样本构成的样本集，其中包括正常样本和风险样本；获取根据权利要求1的方法训练的生成模型；对于所述样本集中各个原始样本，利用所述生成模型生成扰动变换，并将其叠加在对应原始样本上，得到各个原始样本对应的各个变换样本；利用所述样本集中各个原始样本对应的原始标签和各个变换样本，更新风险检测模型。8.根据权利要求7所述的方法，其中，利用所述样本集中各个原始样本对应的原始标签2CN113222480A权利要求书2/3页和各个变换样本，更新风险检测模型，包括：利用损失函数，针对所述原始标签，确定风险检测模型针对包含所述各个变换样本的样本总集的总预测损失；以总预测损失最小化为目标，调整风险检测模型的模型参数。9.一种用于生成对抗样本的生成模型的训练装置，包括：第一获取单元，配置为获取原始样本构成的样本集，其中包括正常样本和风险样本；第二获取单元，配置为获取风险检测模型及其对应的损失函数，所述风险检测模型为生成模型所所针对的模型；变换单元，配置为针对所述样本集中各个原始样本，利用所述生成模型生成扰动变换，并将其叠加在对应原始样本上，得到各个原始样本对应的各个变换样本；预测单元，配置为利用所述风险检测模型确定所述各个变换样本的各个风险预测值；对抗损失确定单元，配置为以正常样本对应的标签值