生成对抗样本的方法及装置.pdf

(19)中华人民共和国国家知识产权局(12)发明专利申请(10)申请公布号CN113313404A(43)申请公布日2021.08.27(21)申请号202110662087.9(22)申请日2021.06.15(71)申请人支付宝（杭州）信息技术有限公司地址310000浙江省杭州市西湖区西溪路556号8层B段801-11(72)发明人李辉吴若凡李志峰崔世文孟昌华王维强(74)专利代理机构北京亿腾知识产权代理事务所(普通合伙)11309代理人陈霁周良玉(51)Int.Cl.G06Q10/06(2012.01)G06N3/04(2006.01)G06N3/08(2006.01)G06K9/62(2006.01)权利要求书3页说明书12页附图7页(54)发明名称生成对抗样本的方法及装置(57)摘要本说明书实施例提供一种生成对抗样本的方法和装置，其中方法包括，首先获取目标风险样本的原始样本特征以及风险检测模型。针对该目标风险样本，在预定特征空间中，确定预定数目T个基准方向；依次按照T个基准方向中的不同基准方向，以预设的第一步长，执行若干轮特征变换，直到得到第一变换特征，其中风险检测模型针对该第一变换特征的预测值落入非风险样本对应的预定区间。然后，针对该第一变换特征，沿最后一次特征变换方向的逆向，以依次增大的回退幅度执行若干次回退操作，直到得到第二变换特征，该风险检测模型针对第二变换特征的预测值达到前述预定区间的边界。于是，可以根据该第二变换特征，形成目标风险样本对应的对抗样本。CN113313404ACN113313404A权利要求书1/3页1.一种生成对抗样本的方法，包括：获取目标风险样本的原始样本特征以及风险检测模型；在预定特征空间中，确定预定数目T个基准方向；针对所述原始样本特征，依次按照所述T个基准方向中的不同基准方向，以预设的第一步长，执行若干轮特征变换，直到得到第一变换特征，所述风险检测模型针对所述第一变换特征的预测值落入非风险样本对应的预定区间；针对所述第一变换特征，沿所述若干次特征变换中最后一次特征变换方向的逆向，以依次增大的回退幅度执行若干次回退操作，直到得到第二变换特征，所述风险检测模型针对第二变换特征的预测值达到所述预定区间的边界；所述回退幅度小于所述第一步长；根据所述第二变换特征，形成所述目标风险样本对应的对抗样本。2.根据权利要求1所述的方法，其中，所述T个基准方向在所述特征空间中彼此正交。3.根据权利要求1所述的方法，其中，所述若干轮特征变换中的第t轮特征变换包括：获取第t个基准方向；以上一轮得到的特征作为当前特征，基于当前特征，以所述第一步长，按照所述第t个基准方向进行特征变换，得到中间特征；在所述风险检测模型针对所述中间特征的第一预测值相较于针对当前特征的第二预测值更加远离风险标签值的情况下，用所述中间特征更新当前特征。4.根据权利要求3所述的方法，其中，按照所述第t个基准方向进行特征变换，得到中间特征，包括：分别将正向和反向作为选定方向；沿着所述第t个基准方向的选定方向，在当前特征上叠加大小为第一步长的扰动变换，将得到的特征作为所述中间特征。5.根据权利要求3所述的方法，其中，按照所述第t个基准方向进行特征变换，得到中间特征，包括：分别将正向和反向作为选定方向；沿着所述第t个基准方向的选定方向，在当前特征上叠加大小为第一步长的扰动变换，得到临时特征；如果所述临时特征相对于所述原始样本特征的变换大小超出预定变换边界，则通过预设投影函数，将所述临时特征投影到所述预定变换边界之内，作为所述中间特征。6.根据权利要求3所述的方法，其中，所述第t轮特征变换还包括：判断所述风险检测模型针对更新后的当前特征的预测值是否落入所述预定区间；若没有落入所述预定区间，则进入下一轮特征变换；若落入所述预定区间，则将所述当前特征作为所述第一变换特征。7.根据权利要求1所述的方法，其中，所述若干次回退操作中的第i次回退操作包括：确定本次回退幅度；沿所述最后一次特征变换方向的逆向，基于所述第一变换特征回退所述本次回退幅度，得到中间特征；在所述风险检测模型针对所述中间特征的第一预测值，相较于针对前次记录的当前特征的第二预测值更加接近风险标签值的情况下，用所述中间特征更新该当前特征。2CN113313404A权利要求书2/3页8.根据权利要求7所述的方法，其中，确定本次回退幅度，包括：在上一次回退操作的回退幅度上，叠加预定的第二步长，得到本次回退幅度。9.根据权利要求7所述的方法，其中，确定本次回退幅度，包括：在上一次回退操作的回退系数上乘以预设的衰减系数，作为本次回退系数；所述衰减系数小于1；确定1减去本次回退系数的差值，将该差值与第一步长的乘积作为本次回退幅度。10.根据权利要求7所述的方法，其中，基于所述第一变换特征回退所述本