预览加载中,请您耐心等待几秒...
1/10
2/10
3/10
4/10
5/10
6/10
7/10
8/10
9/10
10/10

亲,该文档总共20页,到这已经超出免费预览范围,如果喜欢就直接下载吧~

如果您无法下载资料,请参考说明:

1、部分资料下载需要金币,请确保您的账户上有足够的金币

2、已购买过的文档,再次下载不重复扣费

3、资料包下载后请先用软件解压,在使用对应软件打开

(19)中华人民共和国国家知识产权局(12)发明专利申请(10)申请公布号CN111539520A(43)申请公布日2020.08.14(21)申请号202010442837.7(22)申请日2020.05.22(71)申请人支付宝(杭州)信息技术有限公司地址310000浙江省杭州市西湖区西溪路556号8层B段801-11(72)发明人邱伟峰(74)专利代理机构北京国昊天诚知识产权代理有限公司11315代理人赵微朱文杰(51)Int.Cl.G06N3/04(2006.01)G06N3/08(2006.01)权利要求书3页说明书13页附图3页(54)发明名称增强深度学习模型鲁棒性的方法及装置(57)摘要本说明书实施例提供了一种增强深度学习模型鲁棒性的方法及装置,该方法应用于深度学习模块,包括:提取目标样本的样本特征向量;重复执行多次设定操作;针对每次执行设定操作所得到的随机失活处理后的样本特征向量,使用随机失活处理后的样本特征向量进行预测,得到其所对应的子预测结果;根据多个子预测结果确定目标样本的预测结果和针对该预测结果的预测误差;其中,上述设定操作包括获取样本特征向量,并对该样本特征向量进行随机失活处理。CN111539520ACN111539520A权利要求书1/3页1.一种增强深度学习模型鲁棒性的方法,应用于深度学习模型,所述方法包括:提取目标样本的样本特征向量;重复执行多次设定操作;其中,所述设定操作包括获取所述样本特征向量,并对所述样本特征向量进行随机失活处理,得到随机失活处理后的样本特征向量;针对每次执行所述设定操作所得到的所述随机失活处理后的样本特征向量,使用所述随机失活处理后的样本特征向量进行预测,得到所述随机失活处理后的样本特征向量所对应的子预测结果;根据多个所述子预测结果确定所述目标样本的预测结果和针对所述预测结果的预测误差;其中,所述预测误差用于指示所述预测结果的可靠程度。2.如权利要求1所述的方法,所述预测结果包括预测概率值;相应的,所述根据多个所述子预测结果确定所述目标样本的预测结果和针对所述预测结果的预测误差,包括:确定多个所述子预测结果所对应的各个子预测概率值的平均值,并将所述平均值确定为所述预测概率值;以及,确定多个所述子预测结果所对应的各个子预测概率值的标准差,并将所述标准差确定为所述预测误差。3.如权利要求1或2所述的方法,所述深度学习模型由特征提取器和分类器构成;相应的,所述提取目标样本的样本特征向量,包括:通过所述特征提取器提取所述目标样本的样本特征向量;所述重复执行多次设定操作,包括:通过所述分类器重复执行多次设定操作;所述针对每次执行所述设定操作所得到的所述随机失活处理后的样本特征向量,使用所述随机失活处理后的样本特征向量进行预测,得到所述随机失活处理后的样本特征向量所对应的子预测结果,包括:针对每次执行所述设定操作所得到的所述随机失活处理后的样本特征向量,通过所述分类器使用所述随机失活处理后的样本特征向量进行预测,得到所述随机失活处理后的样本特征向量所对应的子预测结果;所述根据多个所述子预测结果确定所述目标样本的预测结果和针对所述预测结果的预测误差,包括:通过所述分类器根据多个所述子预测结果确定所述目标样本的预测结果和针对所述预测结果的预测误差。4.如权利要求3所述的方法,所述分类器包括随机失活dropout层和全连接层;所述重复执行多次设定操作,包括:通过所述dropout层重复执行多次所述设定操作;所述针对每次执行所述设定操作所得到的所述随机失活处理后的样本特征向量,使用所述随机失活处理后的样本特征向量进行预测,得到所述随机失活处理后的样本特征向量所对应的子预测结果,包括:针对所述dropout层每次执行所述设定操作所得到的所述随机失活处理后的样本特征向量,通过所述全连接层使用所述随机失活处理后的样本特征向量进行预测,得到所述随机失活处理后的样本特征向量所对应的子预测结果;所述根据多个所述子预测结果确定所述目标样本的预测结果和针对所述预测结果的2CN111539520A权利要求书2/3页预测误差,包括:通过所述全连接层根据多个所述子预测结果确定所述目标样本的预测结果和针对所述预测结果的预测误差。5.如权利要求3所述的方法,所述特征提取器为卷积神经网络,且所述卷积神经网络包括多层卷积层。6.一种增强深度学习模型鲁棒性的装置,应用于深度学习模型,所述装置包括:提取模块,提取目标样本的样本特征向量;执行模块,重复执行多次设定操作;其中,所述设定操作包括获取所述样本特征向量,并对所述样本特征向量进行随机失活处理,得到随机失活处理后的样本特征向量;预测模块,针对每次执行所述设定操作所得到的所述随机失活处理后的样本特征向量,使用所述随机失活处理后的样本特征向量进行预测,得到所述随机失活处理后