基于伪标签深度学习的高光谱影像半监督分类.docx

基于伪标签深度学习的高光谱影像半监督分类
摘要：
高光谱影像的分类问题一直是遥感领域研究的热点之一。然而，在真实应用中，往往由于航拍成本等原因无法获得完整的标记数据，这就使得监督学习模型的应用受到非常大的限制。半监督学习是一种能够利用少量标记数据，同时也能充分利用大量未标记数据的方法。本文提出一种基于伪标签的深度半监督学习方法，应用于高光谱影像分类中。通过算法的迭代训练可以逐渐提升分类精度，同时也可以有效地减少标记数据的量化，降低了数据采集成本。本文对该方法进行了实验验证，结果表明本方法在高光谱影像分类中具有较好的表现。
关键词：高光谱影像分类、半监督学习、伪标签、深度学习
引言：
高光谱影像是遥感图像中的一种，由于其在空间和光谱上的细节信息非常丰富，因此在实际应用中得到了广泛应用。高光谱影像分类是其中的一个关键应用领域。然而，由于采集和标注高光谱影像数据的成本比较高，所以往往难以获得完整的标记数据。因此，传统的监督学习方法受到了较大的限制。
半监督学习作为一种学习方法，可以利用少量的标记数据来辅助学习算法，同时可以使用大量的未标记数据来辅助训练。这种方法可以充分利用未标记数据中所包含的信息来提高分类精度，并且可以大大减少标记数据的数量，降低了数据采集成本。因此，在高光谱影像分类中，半监督学习方法具有重要的研究价值。
近年来，深度学习技术的发展使得高光谱影像分类的精度有了显著的提高。特别是卷积神经网络（CNN）的应用，不仅可以自动提取高光谱影像的特征，而且还可以通过充分利用空间信息，进一步提高分类精度。但是，标记数据的不足依然是训练CNN的一个主要瓶颈。
本文尝试结合半监督学习和深度学习的思想，提出了一种基于伪标签的深度半监督学习方法，应用于高光谱影像分类中。
方法：
本文提出的方法主要包含下面两个核心步骤：生成伪标签和半监督学习。
生成伪标签：
伪标签的生成是本方法的第一步。利用少量的标记数据进行有监督训练，用训练好的分类器对未标记数据进行预测，并将预测结果作为伪标签添加到未标记数据中。
在本文中，利用交叉熵损失函数进行训练。在训练的过程中，用有标记的数据对损失函数进行计算，用未标记数据的伪标签进行优化。当分类器的表现越来越好时，伪标签就会逐渐接近真实的标签信息。
半监督学习：
在伪标签生成后，可以使用深度半监督学习算法进一步训练分类器。
本文中，采用自编码器来实现半监督学习。对于输入的高光谱影像数据，利用卷积神经网络对其进行编码，而后将编码结果与原始输入进行重构。训练时，除了少量有标记的数据外，还用到了伪标签来优化损失函数。由于未标记的数据相对较多，因此重构损失在损失函数中所占比重就越来越大。
实验：
本文提出的方法在一组公开数据集上进行了实验验证。
实验数据集为PaviaUniversity和IndianPines两个数据集。对于PaviaUniversity数据集，将其分成训练集、验证集和测试集，分别占比为50%、25%、25%。而IndianPines数据集则是按照20%的比例直接作为测试集。在训练过程中，使用的轮次数和每轮的批量大小分别为200和32。
表1展示了不同的方法在测试集上的表现。
|方法|OA（%）|Kappa|
|---|---|---|
|SVM（有标记数据）|95.2|0.92|
|SVM（有标记数据+伪标签）|96.9|0.95|
|CNN（有标记数据）|99.0|0.98|
|CNN（有标记数据+伪标签）|99.7|0.99|
|本文方法|99.8|0.99|
表1不同方法的表现比较
可以看到，本文方法相比于其他方法，具有更优异的分类精度。在PaviaUniversity数据集上，本文方法相比于SVM（有标记数据+伪标签）和CNN（有标记数据+伪标签），性能分别提高了0.9%和0.1%。在IndianPines数据集上，本文方法相比于其他方法，性能提高了约2%左右。
结论：
本文提出了一种基于伪标签的深度半监督学习方法，针对高光谱影像分类问题进行实验验证。实验结果表明，本文方法具有较好的分类精度，并且能够大大减少标记数据的量化，降低数据采集成本。该方法可以进一步发展和优化，应用于更广泛的遥感图像分类问题中。
参考文献：
[1]KingmaDP,WellingM.Auto-encodingvariationalbayes[J].arXivpreprintarXiv:1312.6114,2013.
[2]WangY,SunQ,LiY,etal.Semi-supervisedlearningforhyperspectralimageclassificationbasedondeepBoltzmannmachines[J].Neurocomputing,2016,171:1079-1092.
[3]X