基于光谱增强和密集连接变压器的高光谱图像分类方法.pdf

(19)国家知识产权局(12)发明专利申请(10)申请公布号CN115410085A(43)申请公布日2022.11.29(21)申请号202211033767.5G06N3/04(2006.01)(22)申请日2022.08.26G06N3/08(2006.01)(71)申请人西安电子科技大学地址710071陕西省西安市太白南路2号(72)发明人冯婕吴永恩焦李成张向荣尚荣华慕彩红王蓉芳(74)专利代理机构陕西电子工业专利中心61205专利代理师王品华(51)Int.Cl.G06V20/10(2022.01)G06V10/58(2022.01)G06V10/764(2022.01)G06V10/774(2022.01)G06V10/82(2022.01)权利要求书2页说明书7页附图2页(54)发明名称基于光谱增强和密集连接变压器的高光谱图像分类方法(57)摘要本发明公开了一种基于光谱增强和密集连接变压器的高光谱图像分类方法，主要解决现有高光谱图像分类性能不佳、分类区域一致性不好的问题。其实现方案为：获取高光谱图像数据集，生成训练样本集与测试样本集；分别构建光谱增强模块、密集连接变压器模块，生成光谱增强和密集连接变压器模型；对光谱增强和密集连接变压器模型进行训练；将测试集输入到训练好的光谱增强和密集连接变压器模型中输出高光谱图像的分类结果。本发明利用搭建的光谱增强和密集连变压器，能够提取、融合高光谱图像的全局和局部特征及远距离空间信息，提高高光谱图像分类的准确性和一致性，可用于高光谱图像的地物分类土地覆盖测绘、精准农业、城市规划、树种分类和矿产勘探。CN115410085ACN115410085A权利要求书1/2页1.基于光谱增强和密集连接变压器的高光谱图像分类方法，其特征在于，包括如下步骤：(1)构建训练样本集与测试样本集：1a)从公开网站下载带有标签的高光谱图像，根据有标签像素生成样本集，对于高光谱图像中的每个像素，在其周围划定一个11×11大小的空间窗作为一个像素块，每个数据块都是一个数据立方体，将所有的数据立方体组成该高光谱图像的样本集；1b)在高光谱图像的样本集中，对于每个类随机取5％作为训练样本，组成高光谱图像的训练样本集，将剩余的95％样本组成高光谱图像的测试样本集；(2)搭建一个包括最大池化层，平均池化层和sigmoid激活函数组成的光谱增强模块；(3)构建密集连接变压器模块：3a)搭建包括第一标准化层、多头自注意力层、第二标准化层和多层感知器层组成编码器模块；3b)将5层编码器模块进行堆叠，并在各个编码器之间中加入密集连接，即将每一个编码器模块之前所有编码器模块的输出依次加和到当前编码器模块的输入上，形成了密集连接变压器模块；(4)将光谱增强模块，密集连接变压器模块和全连接层依次级联，生成光谱增强和密集连接变压器模型，并将交叉熵函数作为该模型的损失函数L：(5)利用训练样本，采用梯度下降法对光谱增强和密集连接变压器模型进行训练，得到训练好的光谱增强和密集连接变压器模型；(6)将高光谱图像的测试样本集逐个输入到训练好的光谱增强和密集连接变压器模型，将全连接层的输出作为测试样本的预测标签，获得分类结果。2.根据权利要求1所述的方法，其特征在于，步骤(2)中搭建的光谱增强模块结构及参数如下：最大池化层与平均池化层并列相连，其输出的向量与激活函数层的输入相连，激活函数层的输出与原始数据做点乘得到光谱增强模块最后的输出；所述激活函数层的输入和输出大小均为1×1；所述最大池化层的池化核大小为11×11，卷积步长为1，输入大小为11×11，输出大小为1×1；所述平均池化层的池化核大小为11×11，步长为1，输入大小为11×11，输出大小为1×1。3.根据权利要求1所述的方法，其特征在于，(3a)中搭建的编码器结构及各层参数如下：第一层标准化层，多头自注意力层，第二层标准化层，多层感知器层依次相连，其第一标准化层的输入的一个分支与多头注意力层的输出做残差，第二标准化层输入的一个分支与多层感知机的输出做残差；所述层标准化层的输入和输出均为200×121大小的向量；所述多头注意力层的头数量为10；所述多层感知器层的输入和输出层均为200×121大小的向量。4.根据权利要求1所述的方法，其特征在于，(3b)搭建密集连接变压器模块的结构关系2CN115410085A权利要求书2/2页和参数如下：第二层编码器的输入为第一层编码器的输出，第三层编码器的输入为第一和第二层编码器输出相加，第四层编码器的输入为第一、第二和第三层编码器的输出相加，第五层编码器的输入为第一、第二、第三和第四层编码器的输出相加；所述每层编码器的输入大小均为200×121大小的向量。5.根据权利要求1所述的方法，其特征在于，步骤(4)中的光谱增强模块，密集连接变压器模