一种对抗攻击检测方法、装置以及设备.pdf

(19)国家知识产权局(12)发明专利申请(10)申请公布号CN115966007A(43)申请公布日2023.04.14(21)申请号202211695691.2G06V10/80(2022.01)(22)申请日2022.12.28G06V10/94(2022.01)G06N3/045(2023.01)(71)申请人支付宝（杭州）信息技术有限公司G06N3/0464(2023.01)地址310000浙江省杭州市西湖区西溪路G06N3/0495(2023.01)556号8层B段801-11G06N3/094(2023.01)(72)发明人曹佳炯G06N3/091(2023.01)(74)专利代理机构北京君慧知识产权代理事务G06N3/096(2023.01)所(普通合伙)11716专利代理师肖鹏(51)Int.Cl.G06V40/16(2022.01)G06V10/82(2022.01)G06V10/778(2022.01)G06V10/764(2022.01)G06V10/774(2022.01)权利要求书2页说明书10页附图3页(54)发明名称一种对抗攻击检测方法、装置以及设备(57)摘要本说明书实施例公开了一种对抗攻击检测方法、装置以及设备。通过训练生成第一模型，其中，所述第一模型基于五官特征和五官特征之间的相互关系训练得到；根据所述第一模型训练生成第二模型，其中，所述第二模型为与所述第一模型的结构相同的轻量级模型；将所述第二模型部署至客户端侧，所述第一模型部署至服务端侧；接收待识别图片，联合所述第二模型和所述第一模型对所述待识别图片进行对抗攻击检测，从而实现基于官特征和五官特征之间的相互关系训练得到服务端和客户端可以同时适应的两个模型。CN115966007ACN115966007A权利要求书1/2页1.一种对抗攻击检测方法，包括：训练生成第一模型，其中，所述第一模型基于五官特征和五官特征之间的相互关系训练得到；根据所述第一模型训练生成第二模型，其中，所述第二模型为与所述第一模型的结构相同的轻量级模型；将所述第二模型部署至客户端侧，所述第一模型部署至服务端侧；接收待识别图片，联合所述第二模型和所述第一模型对所述待识别图片进行对抗攻击检测。2.如权利要求1所述的方法，其中，所述第一模型基于五官特征和五官特征之间的关系训练得到，包括：获取训练样本中所包含的五官图像，对所述五官图像进行编码，并生成五官特征，根据所述五官特征生成五官特征分类结果，并确定五官特征分类损失；根据所述五官特征生成表征五官特征之间的相互关系的五官特征关系矩阵，根据所述五官特征关系矩阵生成特征关系分类结果，并确定五官特征关系的分类损失；融合所述五官特征分类损失和所述五官特征关系的分类损失对模型进行训练，生成第一模型。3.如权利要求2所述的方法，其中，根据所述五官特征生成表征五官特征之间的相互关系的五官特征关系矩阵，包括：确定任意的两个五官特征所对应的两个五官特征向量；采用所述两个五官特征向量之间的余弦相似度表征所述两个五官特征的相互关系，生成五官特征关系矩阵。4.如权利要求2所述的方法，其中，融合所述五官特征分类损失和所述五官特征关系的分类损失对模型进行训练，生成第一模型，包括：获取训练样本中所包含的人脸图像，确定所述人脸图像所对应的人脸分类结果，冰确定人脸分类损失；融合所述人脸分类损失、所述五官特征分类损失和所述五官特征关系的分类损失对模型进行训练，生成第一模型。5.如权利要求1所述的方法，其中，根据所述第一模型训练生成第二模型，包括：确定所述第一模型对所述训练样本的第一分类结果，以及，确定所述第二模型对所述训练样本的第二分类结果；确定所述第一分类结果和所述第二分类结果之间的差异所产生的分类蒸馏损失，根据所述分类蒸馏损失训练生成第二模型。6.如权利要求5所述的方法，其中，根据所述第一模型训练生成第二模型，包括：获取训练样本中所包含的五官图像，获取所述第一模型根据所述五官图像所生成的第一五官特征和第一五官特征关系矩阵；获取所述第二模型根据所述五官图像所生成的第二五官特征和第二五官特征关系矩阵；确定所述第一五官特征和所述第二五官特征所产生的五官特征蒸馏损失，以及，确定所述第一五官特征关系矩阵和所述第二五官特征关系矩阵所产生的特征关系蒸馏损失；2CN115966007A权利要求书2/2页融合所述五官特征蒸馏损失和特征关系蒸馏损失训练得到第二模型。7.如权利要求1所述的方法，其中，联合所述第二模型和所述第一模型对所述待识别图片进行对抗攻击检测，包括：采用所述第二模型对所述待识别图片进行对抗攻击检测，生成第二检测结果；当所述第二检测结果表征风险过大时，发送所述待识别图片值所述服务端，以便所述服务端采用所述第一模型对所述待识别图片进行对抗攻击检测，生成第一检测结果