一种基于Swin-Transformer的农作物病害细粒度分类方法.pdf

(19)国家知识产权局(12)发明专利申请(10)申请公布号CN114937021A(43)申请公布日2022.08.23(21)申请号202210605763.3G06V10/82(2022.01)(22)申请日2022.05.31(71)申请人哈尔滨工业大学地址150001黑龙江省哈尔滨市南岗区西大直街92号(72)发明人李大森尹振东赵延龙吴芝路李继卿(74)专利代理机构黑龙江立超同创知识产权代理有限责任公司23217专利代理师杨立超(51)Int.Cl.G06T7/00(2017.01)G06V10/764(2022.01)G06N3/08(2006.01)G06N3/04(2006.01)权利要求书2页说明书6页附图4页(54)发明名称一种基于Swin-Transformer的农作物病害细粒度分类方法(57)摘要本发明提供了一种基于Swin‑Transformer的农作物病害细粒度分类方法，涉及深度学习技术领域，主要针对农作物病害细粒度分类任务中由于类别差异较为细微，不能提取到不同病害独有的特征而引发误分类问题。包括以下步骤：步骤一、采集农作物病害图像，对图像标注病害标签，对标注后的病害图像进行预处理，再随机划分得到训练样本和测试样本；步骤二、设计Swin‑Transformer网络结构，输入训练样本对Swin‑Transformer网络进行迭代训练并更新网络参数，同时采用测试样本对每轮训练的网络结构进行测试，记录并保存训练结果和测试结果，根据最优的测试结果确定网络模型；步骤三：将待检测样本进行预处理，再将待检测样本输入至网络模型得到相应的类别评分，选取最高评分的类别作为输出结果。CN114937021ACN114937021A权利要求书1/2页1.一种基于Swin‑Transformer的农作物病害细粒度分类方法，其特征在于所述方法包括以下步骤：步骤一、采集农作物病害图像，对每张病害图像标注病害标签，对标注后的病害图像进行训练预处理，将处理后的病害图像随机划分得到训练样本和测试样本；步骤二、设计Swin‑Transformer网络结构，预设训练参数和迭代次数，输入训练样本对Swin‑Transformer网络进行迭代训练并更新网络参数，同时采用测试样本对每轮训练的网络结构进行测试，记录并保存训练结果和测试结果，根据最优的测试结果确定Swin‑Transformer网络模型；步骤三：将待检测样本进行检测预处理，将处理后的待检测样本输入至步骤二得到的网络模型得到相应的类别评分，选取最高评分的类别作为输出结果；步骤二中的Swin‑Transformer网络结构具体为：步骤二一：将输入特征图分割为特定尺寸的窗口；步骤二二：基于窗口的多头自注意机制和移位多头自注意机制计算各窗口中的元素权重信息，将输出结果正则化；步骤二三：变换窗口尺寸，重复步骤二二的计算，共重复计算三次；步骤二四：将得到结果通过全连接层与类别标签关联；步骤二五：设置损失函数，通过反向传播训练并得到病害的最佳分类模型。2.根据权利要求1所述的一种基于Swin‑Transformer的农作物病害细粒度分类方法，其特征在于所述训练预处理包括对数据集的下采样、中心裁剪、亮度变换和旋转变换处理；所述检测预处理包括对待检测样本进行下采样和中心裁剪处理。3.根据权利要求2所述的一种基于Swin‑Transformer的农作物病害细粒度分类方法，其特征在于调用CenterCrop函数对下采样后的图像样本中心裁剪，裁剪后的图像尺寸为统一格式；采用线性变换方法对图像样本进行亮度变换；采用随机角度旋转方法对图像样本进行旋转变换。4.根据权利要求3所述的一种基于Swin‑Transformer的农作物病害细粒度分类方法，其特征在于步骤二中的网络结构还包括通过层标准化操作将输入在通道方向上归一化，再进行多头自注意力计算。5.根据权利要求4所述的一种基于Swin‑Transformer的农作物病害细粒度分类方法，其特征在于步骤二中，多头自注意力机制的计算公式为：OMultihead(Q,K,V)＝Concat(head1,...,headh)WQKVheadi＝Atttention(QWi,KWi,VWi)(1)其中X为输入，Q、K、V分别为查询矩阵、键矩阵和值矩阵，WQ、WK、WV为可学习的参数矩阵，QKVOWi、Wi、Wi、W为可学习的参数，dk为每个token的特征维度。6.根据权利要求5所述的一种基于Swin‑Transformer的农作物病害细粒度分类方法，其特征在于步骤二二中，通过Att‑Drop算法将结果正则化。7.根据权利要求6所述的一种基于Swin‑Transformer的农作物病害细粒度分类方法，其特征在于步骤二二中，移位多头自注意机制具体为将图像特征进行半个窗口大小