一种获取对抗样本生成模型的方法和系统.pdf

(19)中华人民共和国国家知识产权局(12)发明专利申请(10)申请公布号CN111340143A(43)申请公布日2020.06.26(21)申请号202010409787.2(22)申请日2020.05.15(71)申请人支付宝（杭州）信息技术有限公司地址310000浙江省杭州市西湖区西溪路556号8层B段801-11(72)发明人任彦昆(74)专利代理机构成都七星天知识产权代理有限公司51253代理人袁春晓(51)Int.Cl.G06K9/62(2006.01)权利要求书2页说明书10页附图4页(54)发明名称一种获取对抗样本生成模型的方法和系统(57)摘要本说明书实施例公开了一种获取对抗样本生成模型的方法和系统，所述方法包括：获取多个训练样本；对于多个训练样本的每一个进行以下处理，迭代更新对抗样本生成模型的参数，获取训练完成的对抗样本生成模型：输入对抗样本生成模型，以获取该训练样本相对应的构造样本；将所述构造样本输入到目标模型，以得到目标模型对所述构造样本的处理结果，并基于所述处理结果确定惩罚值；基于构造样本与其对应的训练样本的差异、以及惩罚值构造第一损失函数；所述第一损失函数与所述差异以及所述惩罚值均正相关；调节对抗样本生成模型的参数，以减小第一损失函数。CN111340143ACN111340143A权利要求书1/2页1.一种获取对抗样本生成模型的方法，其中，所述方法包括：获取多个训练样本；对于多个训练样本的每一个进行以下处理，迭代更新对抗样本生成模型的参数，获取训练完成的对抗样本生成模型：输入对抗样本生成模型，以获取该训练样本相对应的构造样本；将所述构造样本输入到目标模型，以得到目标模型对所述构造样本的处理结果，并基于所述处理结果确定惩罚值；基于构造样本与其对应的训练样本的差异、以及惩罚值构造第一损失函数；所述第一损失函数与所述差异以及所述惩罚值均正相关；调节对抗样本生成模型的参数，以减小第一损失函数。2.根据权利要求1所述的方法，其中，在所述对于多个训练样本的每一个进行以下处理，迭代更新对抗样本生成模型的参数，获取训练完成的对抗样本生成模型之前，还包括：利用多个训练样本对所述对抗样本生成模型进行预训练，以减小所述对抗样本生成模型输出的构造样本与其对应的训练样本之间的差异。3.根据权利要求1或2所述的方法，其中，所述训练样本为文本样本，所述对抗样本生成模型至少包括序列到序列模型；所述构造样本与其对应的训练样本的差异包括构造样本对应的向量表示与其对应的训练样本对应的向量表示之间的距离。4.根据权利要求1所述的方法，其中，所述基于所述处理结果确定惩罚值，包括：当目标模型对所述构造样本的处理结果与该目标模型对所述构造样本对应的训练样本的处理结果一致时，将所述惩罚值设为正值，否则将所述惩罚值设为负值。5.根据权利要求4所述的方法，其中，所述训练样本为文本样本，所述对抗样本生成模型至少包括序列到序列模型，所述序列到序列模型还输出构造样本为其对应的训练样本的对抗样本的概率；所述惩罚值的绝对值与所述概率正相关。6.一种对抗样本生成方法，其中，所述方法包括：获取原始样本；利用对抗样本生成模型处理所述原始样本，得到构造样本，并将所述构造样本确定为对应于原始样本的对抗样本，其中，所述对抗样本生成模型基于如权利要求1至5中任意一项所述的方法确定。7.一种获取对抗样本生成模型的系统，其中，所述系统包括：第一获取模块，用于获取多个训练样本；第一处理模块，用于对于多个训练样本的每一个进行以下处理，迭代更新对抗样本生成模型的参数，获取训练完成的对抗样本生成模型，包括：输入对抗样本生成模型，以获取该训练样本相对应的构造样本；将所述构造样本输入到目标模型，以得到目标模型对所述构造样本的处理结果，并基于所述处理结果确定惩罚值；基于构造样本与其对应的训练样本的差异、以及惩罚值构造第一损失函数；调节对抗样本生成模型的参数，以减小第一损失函数。2CN111340143A权利要求书2/2页8.根据权利要求7所述的系统，其中，所述系统还包括：预训练模块，用于利用多个训练样本对所述对抗样本生成模型进行预训练，以减小所述对抗样本生成模型输出的构造样本与其对应的训练样本之间的差异。9.根据权利要求7或8所述的系统，其中，所述训练样本为文本样本，所述对抗样本生成模型至少包括序列到序列模型；所述构造样本与其对应的训练样本的差异包括构造样本对应的向量表示与其对应的训练样本对应的向量表示之间的距离。10.根据权利要求7所述的系统，其中，为基于所述处理结果确定惩罚值，所述第一处理模块用于：当目标模型对所述构造样本的处理结果与该目标模型对所述构造样本对应的训练样本的处理结果一致时，将所述惩罚值设为正值，否则将所述惩罚值设为负值。11.根据权利要求10所述的系统，其中，所述训练