对抗攻击的检测方法和系统.pdf

(19)国家知识产权局(12)发明专利申请(10)申请公布号CN115953709A(43)申请公布日2023.04.11(21)申请号202211537847.4(22)申请日2022.12.02(71)申请人支付宝（杭州）信息技术有限公司地址310000浙江省杭州市西湖区西溪路556号8层B段801-11(72)发明人曹佳炯丁菁汀(74)专利代理机构北京留理知识产权代理事务所(普通合伙)16049专利代理师李哲王哲(51)Int.Cl.G06V20/40(2022.01)G06V10/764(2022.01)G06V10/74(2022.01)G06V10/80(2022.01)G06F21/55(2013.01)权利要求书4页说明书18页附图2页(54)发明名称对抗攻击的检测方法和系统(57)摘要本说明书提供的对抗攻击的检测方法和系统，在获取目标用户的目标用户视频后，将目标用户视频中的多帧用户视频帧分别与目标用户的预设用户图像进行分块比对，并基于得到的比对信息，确定目标用户对应的比对波动特征，该比对波动特征包括不同用户视频帧与所述预设用户图像的同一图像区块之间的比对差异波动的特征，以及基于比对信息与比对波动特征，确定目标用户的对抗攻击检测结果，并输出对抗攻击检测结果；该方案可以提升对抗攻击的检测准确率。CN115953709ACN115953709A权利要求书1/4页1.一种对抗攻击的检测方法，包括：获取目标用户的目标用户视频，所述目标用户视频包括多帧用户视频帧；将所述多帧用户视频帧分别与所述目标用户的预设用户图像进行分块比对，并基于得到的比对信息，确定所述目标用户对应的比对波动特征，所述比对波动特征包括不同用户视频帧与所述预设用户图像的同一图像区块之间的比对信息波动的特征；以及基于所述比对信息与所述比对波动特征，确定所述目标用户的对抗攻击检测结果，并输出所述对抗攻击检测结果。2.根据权利要求1所述的对抗攻击的检测方法，其中，所述获取目标用户的目标用户视频，包括：获取所述目标用户的初始用户视频，所述初始用户视频包括所述目标用户完成至少一个目标动作后采集的用户视频；对所述初始用户视频进行人脸检测，并对所述初始用户视频进行人脸校准；以及在所述初始用户视频的所述人脸检测和所述人脸校准通过时，在所述初始用户视频中提取出预设位置的所述多帧用户视频帧，得到所述目标用户视频。3.根据权利要求2所述的对抗攻击的检测方法，其中，所述获取所述目标用户的初始用户视频，包括：在预设动作类型集合中选取出目标动作类型；展示所述目标动作类型对应的动作提示信息，以便所述目标用户基于所述动作提示信息完成所述目标动作类型对应的至少一个目标动作；以及采集所述目标用户在完成所述至少一个目标动作的实时视频，得到所述初始用户视频。4.根据权利要求3所述的对抗攻击的检测方法，其中，所述目标动作类型包括摇头、眨眼、点头、张嘴或皱眉中的至少一种。5.根据权利要求3所述的对抗攻击的检测方法，其中，所述采集所述目标用户在完成所述至少一个目标动作的实时视频，得到所述初始用户视频，包括：采集所述目标用户的实时视频，并在所述实时视频中识别出当前动作；以及在所述当前动作包括所述至少一个目标动作时，停止采集所述实时视频，并将所述实时视频作为所述初始用户视频。6.根据权利要求1所述的对抗攻击检测方法，其中，所述将所述多帧用户视频帧分别与所述目标用户的预设用户图像进行分块比对，包括：采用分块比对模型分别对所述多帧用户视频帧和所述目标用户的预设用户图像进行分块特征提取，得到所述图像区块对应的区域特征集合；在所述区域特征集合中选取出同一所述图像区块分别对应的目标区域特征和对照区域特征，所述目标区域特征为所述多帧用户视频帧对应的区域特征，所述对照区域特征为所述预设用户图像对应的区域特征；以及将所述目标区域特征和所述对照区域特征进行比对，以得到所述比对信息。7.根据权利要求6所述的对抗攻击的检测方法，其中，所述采用分块比对模型分别对所述多帧用户视频帧和所述目标用户的预设用户图像进行分块特征提取，得到所述图像区块对应的区域特征集合，包括：2CN115953709A权利要求书2/4页将所述多帧用户视频帧中每一用户视频帧和所述预设用户图像分割为第一预设数量的所述图像区块；采用所述分块比对模型分别对所述每一用户视频帧和所述预设用户图像进行特征提取，以及基于提取出的特征图谱分别选取出每一所述图像区块对应的目标特征图谱，并对所述目标特征图谱进行特征编码，得到所述区域特征集合。8.根据权利要求6所述的对抗攻击的检测方法，其中，所述将所述目标区域特征和所述对照区域特征进行对比，以得到比对信息，包括：将所述目标区域特征和所述对照区域特征进行对比，得到所述目标区域特征对应的目标图像区块的比对值，所述比对值表征所述多