一种基于解耦特征和对抗特征的知识蒸馏方法.pdf

(19)国家知识产权局(12)发明专利申请(10)申请公布号CN115953648A(43)申请公布日2023.04.11(21)申请号202211708089.8G06V10/40(2022.01)(22)申请日2022.12.29G06V10/42(2022.01)G06N3/084(2023.01)(71)申请人江苏方天电力技术有限公司G06N3/045(2023.01)地址211102江苏省南京市江宁区科学园G06N3/0464(2023.01)天元中路19号G06N3/094(2023.01)(72)发明人吴媚王红星王海楠孟悦陈玉权张欣(74)专利代理机构南京钟山专利代理有限公司32252专利代理师张明浩(51)Int.Cl.G06V10/774(2022.01)G06V10/82(2022.01)G06V10/764(2022.01)G06V10/766(2022.01)权利要求书3页说明书8页附图2页(54)发明名称一种基于解耦特征和对抗特征的知识蒸馏方法(57)摘要本发明提供一种基于解耦特征和对抗特征的知识蒸馏方法，属于目标检测技术领域，包括以下步骤：首先构建教师网络和学生网络，然后先对教师网络进行训练，使其达到设定的要求；再利用训练好的教师网络，结合解耦特征模块和对抗特征模块，使学生网络进行第一阶段学习，使学生网络的骨干网络达到设定要求；然后再利用教师网络和候选框特征学习模块对学生网络的区域建议网络进行第二阶段学习；反复迭代进行两阶段学习，使学生网络对目标的检测能力达到设定要求；本发明提供的方法使得学生网络实现对缺陷的高速检测，同时还保证检测的高精度。CN115953648ACN115953648A权利要求书1/3页1.一种基于解耦特征和对抗特征的知识蒸馏方法，其特征在于，包括以下步骤：S1、构建教师网络和学生网络；使用样本图像对教师网络训练，直至教师网络达到设定要求；S2、将样本图像输入步骤S1训练完成的教师网络，以及学生网络，得到两个网络的骨干网络输出的第一特征图；S3、将步骤S2得到的第一特征图作为解耦特征模块的输入，根据解耦特征模块的结果进行梯度回传更新学生网络参数；所述解耦特征模块用于让学生网络同时分别学习教师网络的目标特征信息和背景特征信息；S4、将步骤S2得到的第一特征图作为对抗特征模块的输入，训练对抗特征模块，同时根据对抗特征模块结果进行梯度回传更新学生网络参数；所述对抗特征模块用于让学生网络学习教师网络输出的特征图的全局分布特性；S5、将样本图像输入步骤S1训练完成的教师网络和步骤S4训练后的学生网络，将两个网络的骨干网络输出的第一特征图输入到各自的区域建议网络，得到包含分类和回归的候选框的第二特征图；将上述第二特征图作为候选框特征学习模块的输入，根据候选框特征学习模块的结果进行梯度回传并更新学生网络的参数；所述候选框特征学习模块用于让学生网络学习教师网络候选框的特征信息；S6、检测头网络根据第二特征图中的候选框截取的信息，做进一步的分类和回归，得到最终的检测结果；并根据结果进行梯度回传更新学生网络的参数；S7、重复步骤S2‑S6，直至学生网络达到设定要求。2.根据权利要求1所述的一种基于解耦特征和对抗特征的知识蒸馏方法，其特征在于：所述教师网络和学生网络都采用目标检测网络FasterRCNN，其中教师网络使用骨干网络为ResNet101的FasterRCNN，学生网络使用骨干网络为ResNet18的FasterRCNN。3.根据权利要求1所述的一种基于解耦特征和对抗特征的知识蒸馏方法，其特征在于：所述样本图像在输入教师网络和学生网络前，短边缩放至设定长度，长边按照原图的长宽比进行相应的缩放；所述梯度回传采用随机梯度下降法。4.根据权利要求1所述的一种基于解耦特征和对抗特征的知识蒸馏方法，其特征在于：所述教师网络和学生网络对输入的样本图像具有相同的下采样倍数；所述学生网络最后一层设置为1*1卷积层用以调整其输出特征图的通道数等于教师网络输出特征图的通道数。5.根据权利要求1‑4任一项所述的一种基于解耦特征和对抗特征的知识蒸馏方法，其特征在于：所述样本图像人工标注有若干标注框，根据标注框为教师网络和学生网络输出的第一特征图设置一个二值掩码M，M取值为1或0，当M取值为1表示第一特征图的该区域包含的是目标特征信息；当M取值为0表示第一特征图的该区域包含的是背景特征信息；所述解耦特征模块的输出结果为解耦特征损失函数LDF用于表示学生网络和教师网络输出的第一特征图中目标特征信息和背景特征信息的偏差，LDF计算公式如下：其中，Ft为教师网络输出的第一特征图对应区域的图片特征，Fs为学生网络输出的第一特征图对应区域的图片特征；和分别为目标特征信息和背景特征信息的调整系数；2CN115953648A权利要