标定器生成方法和装置、对抗鲁棒性标定方法和装置.pdf

(19)国家知识产权局(12)发明专利申请(10)申请公布号CN115034362A(43)申请公布日2022.09.09(21)申请号202210628983.8(22)申请日2022.06.06(71)申请人北京沃东天骏信息技术有限公司地址100176北京市大兴区经济技术开发区科创十一街18号院2号楼4层A402室申请人北京京东世纪贸易有限公司(72)发明人何凤翔高一涛(74)专利代理机构北京英赛嘉华知识产权代理有限责任公司11204专利代理师王达佐马晓亚(51)Int.Cl.G06N3/04(2006.01)G06N3/08(2006.01)G06N20/00(2019.01)权利要求书2页说明书14页附图5页(54)发明名称标定器生成方法和装置、对抗鲁棒性标定方法和装置(57)摘要本公开提供了一种标定器生成方法和装置，涉及可信人工智能领域。该方法的一具体实施方式包括：从采样空间采样至少一个网络结构，得到网络结构样本集；对网络结构样本集中的各个网络结构进行训练，得到各个网络结构的对抗鲁棒性精度值，对抗鲁棒性精度值用于表征网络结构对对抗样本的鲁棒性；对网络结构样本集中的各个网络结构进行矩阵化编码，得到与各个网络结构对应的编码矩阵；基于网络结构样本集中各个网络结构的编码矩阵以及对抗鲁棒性精度值，得到对抗鲁棒性标定器。该实施方式提高了对抗鲁棒性标定的效率。CN115034362ACN115034362A权利要求书1/2页1.一种标定器生成方法，所述方法包括：从采样空间采样至少一个网络结构，得到网络结构样本集；对所述网络结构样本集中的各个网络结构进行训练，得到各个网络结构的对抗鲁棒性精度值，所述对抗鲁棒性精度值用于表征网络结构对对抗样本的鲁棒性；对所述网络结构样本集中的各个网络结构进行矩阵化编码，得到与各个网络结构对应的编码矩阵；基于所述网络结构样本集中各个网络结构的编码矩阵以及所述对抗鲁棒性精度值，得到对抗鲁棒性标定器。2.根据权利要求1所述的方法，其中，所述采样空间采用以下步骤构建得到：确定可组成网络结构的结构单元以及所述结构单元中节点间的操作种类；对所述结构单元的节点间的有向边执行与所述操作种类对应的操作，得到采样空间。3.根据权利要求1所述的方法，其中，所述对所述网络结构样本集中的各个网络结构进行训练，得到各个网络结构的对抗鲁棒性精度值，包括：基于预设的鲁棒性样本，采用对抗算法对所述网络结构样本集中的各个网络结构进行对抗训练，得到各个网络结构的对抗鲁棒性精度值。4.根据权利要求2所述的方法，其中，所述对所述网络结构样本集中的各个网络结构进行矩阵化编码，得到与各个网络结构对应的编码矩阵，包括：采用稀疏编码公式对所述网络结构样本集中的各个网络结构进行矩阵化编码，得到与各个网络结构对应的编码矩阵；所述稀疏编码公式为：其中，αi，j表示网络结构的第i条有向边上，是否具有操作j，如果有，那么稀疏编码矩阵α的i行j列的元素将被置为1，否则将被置为0。5.根据权利要求4所述的方法，其中，所述基于所述网络结构样本集中各个网络结构的编码矩阵以及所述对抗鲁棒性精度值，得到对抗鲁棒性标定器，包括：采用多层感知机构建对抗鲁棒性标定器的感知网络；采用所述网络结构样本集中的各个网络结构的编码矩阵以及所述对抗鲁棒性精度值训练所述感知网络，得到训练完成的对抗鲁棒性标定器，所述对抗鲁棒性标定器用于对输入的编码矩阵进行对抗鲁棒性精度标定，得到与输入的编码矩阵相对应的对抗鲁棒性精度值。6.根据权利要求5所述的方法，其中，所述采用所述网络结构样本集中的各个网络结构的编码矩阵以及所述对抗鲁棒性精度值训练所述感知网络，得到训练完成的对抗鲁棒性标定器，包括：针对所述网络结构样本集中的各个网络结构，将该网络结构的编码矩阵输入所述感知网络，得到所述感知网络输出的、该网络结构对应的预测精度值；基于所述网络结构样本集中所有网络结构的预测精度值以及所有网络结构的鲁棒性精度值，调整所述感知网络的参数；2CN115034362A权利要求书2/2页响应于所述感知网络满足训练完成条件，得到训练完成的对抗鲁棒性标定器。7.一种对抗鲁棒性标定方法，所述方法包括：获取待标定的网络结构；响应于所述网络结构属于预设的采样空间，采用与所述采样空间对应的对抗鲁棒性标定器进行标定，得到所述网络结构的对抗鲁棒性精度值，所述对抗鲁棒性标定器采用权利要求1‑6中任一项所述的标定器生成方法得到。8.根据权利要求7所述的方法，所述方法还包括：采用所述对抗鲁棒性标定器确定所述采样空间中的各个网络结构的对抗鲁棒性精度值。9.一种标定器生成装置，所述装置包括：采样单元，被配置成从采样空间采样至少一个网络结构，得到网络结构样本集；训练单元，被配置成对所述网络结构样本集中的各个网络结构进行训练，得到各个网络结构的对抗鲁