后门样本的检测方法、装置和电子设备.pdf

(19)中华人民共和国国家知识产权局(12)发明专利申请(10)申请公布号CN111242322A(43)申请公布日2020.06.05(21)申请号202010335295.3(22)申请日2020.04.24(71)申请人支付宝（杭州）信息技术有限公司地址310007浙江省杭州市西湖区西溪路556号8层B段801-11(72)发明人任彦昆(74)专利代理机构北京汇思诚业知识产权代理有限公司11444代理人冯伟(51)Int.Cl.G06N20/00(2019.01)G06K9/62(2006.01)权利要求书3页说明书12页附图6页(54)发明名称后门样本的检测方法、装置和电子设备(57)摘要本说明书实施例提出了一种后门样本的检测方法、装置和电子设备，其中，上述后门样本的检测方法中，获取待检测的样本之后，利用预先训练的第一模型对上述待检测的样本进行分类，获得上述待检测的样本所属的第一类别，然后获取第一模型对上述待检测的样本进行分类之后获得的第一输出向量，利用预先训练的第二模型对上述第一输出向量进行分类，获得上述第一输出向量所属的第二类别，其中，上述第二类别不同于上述第一类别，最后，利用上述第一模型获得上述待检测的样本分别属于第一类别和第二类别的概率，以及利用上述第二模型获得上述第一输出向量分别属于第一类别和第二类别的概率，根据上述概率，获得上述待检测的样本是否为后门样本的检测结果。CN111242322ACN111242322A权利要求书1/3页1.一种后门样本的检测方法，包括：获取待检测的样本；利用预先训练的第一模型对所述待检测的样本进行分类，获得所述待检测的样本所属的第一类别；其中，所述第一模型是利用包括正常样本和后门样本的训练样本训练的；获取所述待检测的样本对应的第一输出向量，所述第一输出向量是所述第一模型对所述待检测的样本进行分类之后获得的；利用预先训练的第二模型对所述第一输出向量进行分类，获得所述第一输出向量属于各类别的概率，根据所述概率选择所述第一输出向量所属的第二类别，所述第二类别不同于所述第一类别；其中，所述第二模型是利用包括正常样本的训练样本训练的；利用所述第一模型获得所述待检测的样本分别属于所述第一类别和所述第二类别的概率，以及利用所述第二模型获得所述第一输出向量分别属于所述第一类别和所述第二类别的概率；根据所述概率，获得所述待检测的样本是否为后门样本的检测结果。2.根据权利要求1所述的方法，其中，所述待检测的样本属于所述第一类别的概率为第一概率，所述待检测的样本属于所述第二类别的概率为第二概率；所述第一输出向量属于所述第一类别的概率为第三概率，所述第一输出向量属于所述第二类别的概率为第四概率；所述根据所述概率，获得所述待检测的样本是否为后门样本的检测结果包括：根据所述第一概率和所述第二概率计算第一概率分布，根据所述第三概率和所述第四概率计算第二概率分布；计算所述第一概率分布和所述第二概率分布的相对熵；根据所述相对熵，获得所述待检测的样本是否为后门样本的检测结果。3.根据权利要求2所述的方法，其中，所述根据所述相对熵，获得所述待检测的样本是否为后门样本的检测结果包括：将所述相对熵与预先设定的阈值进行对比；如果所述相对熵大于或等于所述预先设定的阈值，则确定所述待检测的样本为后门样本；如果所述相对熵小于所述预先设定的阈值，则确定所述待检测的样本为正常样本。4.根据权利要求1-3任意一项所述的方法，其中，所述利用预先训练的第一模型对所述待检测的样本进行分类，获得所述待检测的样本所属的第一类别之前，还包括：利用包括正常样本和后门样本的训练样本进行训练，获得第一模型。5.根据权利要求4所述的方法，其中，所述利用预先训练的第二模型对所述输出向量进行分类，获得所述输出向量属于各类别的概率之前，还包括：获取各类别的正常样本；利用所述第一模型对所述各类别的正常样本进行分类，获得所述各类别的正常样本对应的第二输出向量，所述第二输出向量所属的类别为对应的正常样本所属的类别；利用所述第二输出向量和所述第二输出向量所属的类别进行训练，获得所述第二模型。6.一种后门样本的检测装置，包括：2CN111242322A权利要求书2/3页获取模块，用于获取待检测的样本；分类模块，用于利用预先训练的第一模型对所述待检测的样本进行分类，获得所述待检测的样本所属的第一类别；其中，所述第一模型是利用包括正常样本和后门样本的训练样本训练的；所述获取模块，还用于获取所述待检测的样本对应的第一输出向量，所述第一输出向量是所述第一模型对所述待检测的样本进行分类之后获得的；所述分类模块，还用于利用预先训练的第二模型对所述第一输出向量进行分类，获得所述第一输出向量属于各类别的概率，根据所述概率选择所述第一输出向量所属的第二类别，所述第二类别不同于所述第一类别