攻击对象检测方法及装置、介质、设备及产品.pdf

(19)国家知识产权局(12)发明专利申请(10)申请公布号CN115482590A(43)申请公布日2022.12.16(21)申请号202210996348.5G06V10/82(2022.01)(22)申请日2022.08.18(71)申请人支付宝（杭州）信息技术有限公司地址310000浙江省杭州市西湖区西溪路556号8层B段801-11(72)发明人曹佳炯丁菁汀(74)专利代理机构北京恒博知识产权代理有限公司11528专利代理师侯世俭(51)Int.Cl.G06V40/40(2022.01)G06V10/764(2022.01)G06N3/04(2006.01)G06N3/08(2006.01)G06V10/44(2022.01)权利要求书3页说明书14页附图6页(54)发明名称攻击对象检测方法及装置、介质、设备及产品(57)摘要本说明书实施例提供一种攻击对象检测方法、攻击对象检测装置、计算机可读存储介质、电子设备以及计算机程序产品，该方法包括：获取关于待检测对象的至少一种图像类型的待测图像，其中，对于每一种图像类型设置有对应的预测模型。将目标待测图像输入至与其类型相对应的预测模型(记作，目标预测模型)，以预测目标待测图像为攻击对象的概率(记作，目标攻击概率)，还预测关于上述目标攻击概率的置信度(记作，目标置信度)。其中，上述目标置信度用于确定是否对上述目标待测图像进行筛除处理，从而实现对待检测图像的筛选处理。进一步地，根据经过筛选处理之后剩余的待测图像所对应的攻击概率，来确定对所述待检测对象的检测结果。CN115482590ACN115482590A权利要求书1/3页1.一种攻击对象检测方法，其中，所述方法包括：获取关于待检测对象的至少一种图像类型的待测图像；基于目标预测模型，获取关于目标待测图像的目标攻击概率，以及获取关于所述目标攻击概率的目标置信度，其中，所述目标预测模型的训练样本图像的图像类型与所述目标待测图像的图像类型一致，所述攻击概率表示所述目标待测图像为攻击对象的概率；根据所述目标置信度确定是否对所述目标待测图像进行筛除处理；根据经过所述筛除处理之后剩余的待测图像所对应的攻击概率，确定对所述待检测对象的检测结果。2.根据权利要求1所述的方法，其中，所述目标置信度为置信度矩阵；所述根据所述目标置信度确定是否对所述目标待测图像进行筛除处理，包括：确定所述目标置信度矩阵中是否存在小于第一预设值的矩阵元素；其中，在所述目标置信度矩阵中存在小于所述第一预设值的矩阵元素的情况下，对所述目标待测图像进行筛除处理；在所述目标置信度矩阵中不存在小于所述第一预设值的矩阵元素的情况下，保留所述目标待测图像。3.根据权利要求2所述的方法，其中，所述目标待测图像的图像特征矩阵与所述目标置信度均为M×N的矩阵，且所述目标置信度的矩阵元素Axy表示：预测所述图像特征矩阵的矩阵元素Bxy属于攻击对象的概率为目标攻击概率的置信度值，x取值为不大于M的正整数，y取值为不大于N的正整数，M、N为正整数。4.根据权利要求1所述的方法，其中，在所述基于目标预测模型，获取关于目标待测图像的目标攻击概率之前，所述方法还包括：获取目标图像类型的K个训练样本图像，并通过所述K个训练样本图像训练改进后的分类模型，得到所述目标图像类型对应的预测模型，K为正整数。5.根据权利要求4所述的方法，其中，所述改进后的分类模型包括：预测部分，所述预测部分包括：第一预测分支和第二预测分支；所述通过所述K个训练样本图像训练改进后的分类模型，包括：将第i个训练样本图像输入至所述改进后的分类模型，从所述第一预测分支输出第i攻击概率，以及从所述第二预测分支输出第i置信度，i取值为不大于K的正整数；根据所述第i攻击概率、所述第i置信度以及所述第i个训练样本图像对应的标签，确定损失函数，并通过所述损失函数优化所述改进后的分类模型的模型参数，以训练所述改进后的分类模型。6.根据权利要求5所述的方法，其中，所述改进后的分类模型还包括：特征提取部分；所述将第i个训练样本图像输入至所述改进后的分类模型，包括：将第i个训练样本图像输入至所述改进后的分类模型的特征提取部分，得到第i图像特征矩阵；所述从所述第一预测分支输出第i攻击概率，包括：通过所述第一预测分支对所述第i图像特征矩阵进行特征处理，以确定所述第i个训练样本图像为攻击对象的概率，得到所述第i攻击概率；所述从所述第二预测分支输出第i置信度，包括：通过所述第二预测分支输出第i置信度矩阵，其中，所述第i置信度矩阵的矩阵元素Si,xy2CN115482590A权利要求书2/3页表示：预测所述第i图像特征矩阵的矩阵元素Bi,xy属于攻击对象的概率为所述第i攻击概率的置信度值；其中，所述第i图像特征矩阵与所述第i置信度矩阵均为M×N的矩阵，x取