一种内容伪造攻击检测方法、装置以及设备.pdf

(19)国家知识产权局(12)发明专利申请(10)申请公布号CN115952458A(43)申请公布日2023.04.11(21)申请号202310019869.X(22)申请日2023.01.06(71)申请人支付宝（杭州）信息技术有限公司地址310000浙江省杭州市西湖区西溪路556号8层B段801-11(72)发明人曹佳炯(74)专利代理机构北京君慧知识产权代理事务所(普通合伙)11716专利代理师肖鹏(51)Int.Cl.G06F18/2431(2023.01)G06N3/0455(2023.01)G06N3/082(2023.01)G06N3/09(2023.01)权利要求书4页说明书13页附图3页(54)发明名称一种内容伪造攻击检测方法、装置以及设备(57)摘要本说明书实施例公开了内容伪造攻击检测方法。包括：确定训练得到的端云一体模型，端云一体模型包括端侧特征编码器、端侧伪造攻击分类器、云端特征编码器、云端伪造攻击分类器，是根据相应的分类损失和端侧稀疏约束训练得到的；确定拆分部署了端云一体模型的客户端和云端；在客户端上获得待检测内容，通过端侧特征编码器对待检测内容进行编码，得到端侧特征，输入端侧伪造攻击分类器进行分类，得到第一分类结果；若确定需要云端也参与检测，则将端侧特征转换后从客户端传输至云端，通过云端特征编码器进行编码，得到云端特征，输入云端伪造攻击分类器进行分类，得到第二分类结果；根据分类结果判断待检测内容是否属于伪造攻击。CN115952458ACN115952458A权利要求书1/4页1.一种内容伪造攻击检测方法，包括：确定训练得到的端云一体模型，所述端云一体模型包括端侧特征编码器、端侧伪造攻击分类器、云端特征编码器、云端伪造攻击分类器，所述端云一体模型是根据相应的分类损失和端侧稀疏约束训练得到的；确定拆分部署了所述端云一体模型的客户端和云端，所述端侧特征编码器、所述端侧伪造攻击分类器部署于所述客户端，所述云端特征编码器、所述云端伪造攻击分类器部署于所述云端；在所述客户端上获得待检测内容，通过所述端侧特征编码器对所述待检测内容进行编码，得到端侧特征，输入所述端侧伪造攻击分类器进行分类，得到第一分类结果；若确定需要所述云端也参与检测，则将所述端侧特征转换后从所述客户端传输至所述云端，通过所述云端特征编码器进行编码，得到云端特征，输入所述云端伪造攻击分类器进行分类，得到第二分类结果；根据所述第一分类结果和/或所述第二分类结果，判断所述待检测内容是否属于伪造攻击。2.如权利要求1所述的方法，所述相应的分类损失包括以下至少一种：所述端侧伪造攻击分类器和所述云端伪造攻击分类器分别对训练样本的分类损失、所述端侧伪造攻击分类器和所述云端伪造攻击分类器加权后的对训练样本的联合分类损失；所述端侧稀疏约束包括以下至少一种：所述端侧特征编码器的多个通道的权重稀疏约束、所述端侧特征编码器对训练样本编码得到的端侧特征的稀疏约束。3.如权利要求2所述的方法，所述端侧稀疏约束至少包括所述端侧特征编码器的多个通道的权重稀疏约束；所述确定训练得到的端云一体模型之前，所述方法还包括：对于根据所述权重稀疏约束训练过的所述端侧特征编码器，将其多个通道中权重不高于相应的设定阈值的通道进行裁剪。4.如权利要求1所述的方法，所述得到第一分类结果之后，所述方法还包括：判断所述第一分类结果是否反映了所述待检测内容属于伪造攻击的可能性高于相应的设定阈值；若是，则判断所述待检测内容属于伪造攻击；否则，确定需要所述云端也参与检测。5.如权利要求1所述的方法，所述根据所述第二分类结果，判断所述待检测内容是否属于伪造攻击，具体包括：判断所述第二分类结果是否反映了所述待检测内容属于伪造攻击的可能性高于相应的设定阈值；若是，则判断所述待检测内容属于伪造攻击。6.如权利要求1所述的方法，所述将所述端侧特征转换后从所述客户端传输至所述云端，通过所述云端特征编码器进行编码，得到云端特征，具体包括：确定训练得到的特征压缩模型；将所述端侧特征输入所述特征压缩模型进行压缩；将所述压缩得到的转换特征，从所述客户端传输至所述云端，通过相应的解码处理进2CN115952458A权利要求书2/4页行特征重建，再由所述云端特征编码器对所述重建得到的特征进行编码，得到云端特征。7.如权利要求6所述的方法，所述特征压缩模型包括输入扰动器、特征压缩器、信道扰动模拟器、特征解码器，所述特征压缩模型是根据所述特征解码器对应的特征重建损失、所述输入扰动器对应的输入扰动一致性损失、所述信道扰动模拟器对应的信道扰动一致性损失训练得到的；所述将所述端侧特征输入所述特征压缩模型进行压缩，具体包括：将所述端侧特征输入所述特征压缩器进行压缩；所述通过相应的解码处理进行特征重建，具体包括：在所述云端输入所述特征解