预览加载中,请您耐心等待几秒...
1/10
2/10
3/10
4/10
5/10
6/10
7/10
8/10
9/10
10/10

亲,该文档总共28页,到这已经超出免费预览范围,如果喜欢就直接下载吧~

如果您无法下载资料,请参考说明:

1、部分资料下载需要金币,请确保您的账户上有足够的金币

2、已购买过的文档,再次下载不重复扣费

3、资料包下载后请先用软件解压,在使用对应软件打开

(19)中华人民共和国国家知识产权局(12)发明专利申请(10)申请公布号CN114299313A(43)申请公布日2022.04.08(21)申请号202111596061.5(22)申请日2021.12.24(71)申请人北京瑞莱智慧科技有限公司地址100084北京市海淀区中关村东路1号院8号楼19层A1901(72)发明人田天其他发明人请求不公开姓名(74)专利代理机构北京箴思知识产权代理有限公司11913代理人李春晖曾晓波(51)Int.Cl.G06V10/74(2022.01)G06V10/774(2022.01)G06V10/778(2022.01)G06K9/62(2022.01)权利要求书2页说明书18页附图7页(54)发明名称对抗扰动生成方法、装置及存储介质(57)摘要本申请实施例涉及计算机视觉领域,一些实施例提供了一种对抗扰动生成方法、装置及存储介质。该方法包括:获取原始图像、第一图像识别模型和对抗扰动;将所述原始图像与所述对抗扰动叠加后,输入所述第一图像识别模型,得到输出结果;计算所述输出结果与攻击目标标签之间的相似度;若所述输出结果与攻击目标标签之间的相似度未达到第一预设阈值,则更新所述对抗扰动,直至所述输出结果与攻击目标标签之间的相似度达到第一预设阈值,并将更新后的对抗扰动作为目标对抗扰动。本申请实施例可以基于知识蒸馏得到的代理模型生成对抗图像,由于知识蒸馏时,代理模型学习到了更加全面的特征,从而生成的对抗图像能够迁移攻击多更多不同的图像识别模型。CN114299313ACN114299313A权利要求书1/2页1.一种对抗扰动生成方法,包括:获取原始图像、第一图像识别模型和对抗扰动,其中,所述第一图像识别模型通过知识蒸馏得到,在进行知识蒸馏时,仅通过第二图像识别模型的预测概率分布指导所述第一图像识别模型的训练;将所述原始图像与所述对抗扰动叠加后,输入所述第一图像识别模型,得到输出结果;计算所述输出结果与攻击目标标签之间的相似度;若所述输出结果与攻击目标标签之间的相似度未达到第一预设阈值,则更新所述对抗扰动,直至所述第一图像识别模型的输出结果与攻击目标标签之间的相似度达到第一预设阈值,并将更新后的对抗扰动作为目标对抗扰动;其中,所述目标对抗扰动用于叠加所述原始图像,生成对抗图像,所述对抗图像用于迁移攻击多个与所述第一图像识别模型不同的图像识别模型。2.如权利要求1所述的对抗扰动生成方法,其中,所述第一图像识别模型通过以下步骤迭代地进行知识蒸馏得到,包括:获取待训练的第一图像识别模型、第二图像识别模型和第一图像样本;将所述第一图像样本输入所述第二图像识别模型,得到所述第二图像识别模型基于所述第一图像样本输出的第一预测概率分布;将所述第一图像样本输入所述第一图像识别模型,得到所述第一图像识别模型基于所述第一图像样本输出的第二预测概率分布;计算所述第二预测概率分布与所述第一预测概率分布的相似度;若所述第二预测概率分布与所述第一预测概率分布的相似度小于第二预设阈值,则更新所述第一图像识别模型的参数,直至所述第二预测概率分布与所述第一预测概率分布的相似度大于第二预设阈值,并将更新后的第一图像识别模型作为知识蒸馏得到的第一图像识别模型。3.如权利要求2所述的对抗扰动生成方法,其中,所述第二图像识别模型通过以下方式训练得到:获取第二图像样本集以及所述第二图像样本集中各个第二图像样本对应的标签;采用所述第二图像样本集迭代优化所述第二图像识别模型,直到达到第一预设终止条件,在每个迭代轮次:获取一个第二图像样本输入所述第二图像识别模型,得到对应的输出结果;将所述第二图像样本的标签转换为独热编码向量,所述独热编码向量包括预设数量的维度,所述预设数量为所述第二图像样本集中的标签空间中的标签数量,所述标签空间为所述第二图像样本集中各个图像的标签的集合,且不存在重复的标签;计算所述独热编码向量与所述输出结果之间的相似度;更新所述第二图像识别模型的参数,以使所述独热编码向量与所述输出结果之间的相似度变大;其中,所述第一预设终止条件至少包括以下中的一个:遍历第二图像样本集、迭代预设轮次和所述第二图像识别模型收敛。4.如权利要求2所述的对抗扰动生成方法,其中,计算所述第二预测概率分布与所述第一预测概率分布的相似度,包括:2CN114299313A权利要求书2/2页通过第一预设温度因子将所述第一预测概率分布放缩,得到第一放缩概率分布;通过第二预设温度因子将所述第二预测概率分布放缩,得到第二放缩概率分布;计算所述第二放缩概率分布与所述第一放缩概率分布的相似度,作为所述第二预测概率分布与所述第一预测概率分布的相似度;或者通过第三预设温度因子将所述第二放缩概率分布与所述第一放缩概率分布的相似度进行放缩,作为所述第二预测概率分布与所述第一预测概