一种基于动态间隔的双重语义特征提取方法.pdf

(19)中华人民共和国国家知识产权局(12)发明专利申请(10)申请公布号CN113705647A(43)申请公布日2021.11.26(21)申请号202110954044.8G06N3/04(2006.01)(22)申请日2021.08.19G06N3/08(2006.01)(71)申请人电子科技大学地址611731四川省成都市高新区（西区）西源大道2006号(72)发明人段贵多郑旭解修蕊张栗粽罗光春苗佳雨罗文隆(74)专利代理机构电子科技大学专利中心51203代理人吴姗霖(51)Int.Cl.G06K9/62(2006.01)G06K9/46(2006.01)G06K9/40(2006.01)G06K9/32(2006.01)权利要求书2页说明书5页附图3页(54)发明名称一种基于动态间隔的双重语义特征提取方法(57)摘要本发明提供一种基于动态间隔的双重语义特征提取方法，属于计算机视觉特征识别技术领域。本发明方法动态通过调整类别间隔的损失函数来获取具有判别性的图像特征，即对特征和权重向量进行归一化，然后对损失函数动态的调整，来实现不同类别的不同的余弦间隔。该方法使得间隔设置更加合理，同时能在保留特征限制的同时，不增加神经网络模型优化的复杂度，与其他提出的损失函数相比，更加简单易于实现和准确。CN113705647ACN113705647A权利要求书1/2页1.一种基于动态间隔的双重语义特征提取方法，其特征在于，包括以下步骤：步骤1、对源数据集进行去噪声处理，再进行感兴趣区域提取，得到具有所需特征的图像数据集；步骤2、将步骤1得到的数据集中的图像数据进行大小缩放，变成大小一致的图片，同时对其进行归一化处理，使所有图片的像素值为0到1之间；步骤3、使用步骤2归一化后的图像数据对双重语义特征提取模型进行训练，使得模型对图像数据进行正确分类，并得到交叉熵损失函数；步骤4、完成双重语义特征提取模型的训练，去除模型的输出层，得到特征提取器；步骤5、对待测试图像数据进行步骤1和步骤2的处理后输入步骤4得到的特征提取器进行特征提取，即可得到图像数据的特征向量。2.如权利要求1所述的基于动态间隔的双重语义特征提取方法，其特征在于，感兴趣区域提取的具体过程为：步骤1.1.对源数据集中的图像数据进行边缘检测，产生蒙板；步骤1.2.将源数据集中的图像数据与1.1产生的蒙板结合，去除图像数据蒙板外的区域，即可得到具有所需特征的图像数据集。3.如权利要求1所述的基于动态间隔的双重语义特征提取方法，其特征在于，步骤3中的双重语义特征提取模型包含编码器和输出层，所述输出层包括解码器和有监督分类器两部分；所述编码器用于将输入的图像数据提取为特征向量，解码器用于从特征向量重构输入，有监督分类器用于对编码器提取的特征向量映射到分类空间进行分类。4.如权利要求3所述的基于动态间隔的双重语义特征提取方法，其特征在于，所述编码器采用卷积神经网络，由卷积层、池化层、激活函数和全连接层构成；解码器由反卷积层和激活函数构成；有监督分类器由全连接层构成。5.如权利要求1所述的基于动态间隔的双重语义特征提取方法，其特征在于，步骤3中交叉熵损失函数的具体计算过程为：步骤3.1.将双重语义特征提取模型输出层前面的特征f和权重进行归一化处理；步骤3.2.计算各类别的动态调节系数wi和损失值ψ(θi)：计算步骤2得到的归一化后的图像数据的对应类别在输出层之前的得分cos(θ)，即将归一化之后的特征f和有监督分类器的全连接层的权重W进行点乘运算得到余弦值cos(θ)，然后按类别使用Softmax函数计算得到动态调节系数wi，利用标签信息提取对应类别的损失值ψ(θi)；步骤3.3.将步骤3.2得到的各类别的动态调节系数使用截断函数进行上下界约束，然后筛选出余弦值大于0的动态调节系数，即动态间隔；步骤3.4.将步骤3.3得到的动态间隔乘上该样本对应类别在输出层之前的得分cos(θ)，得到修正后的样本得分；步骤3.5.根据修正后的样本得分计算新的分类概率，然后计算得出修正后的基于动态间隔的分类损失，其具体公式为：s是缩放因子，N为样本总数，yi为第i个样本的标签，C为有监督分类器进行分类的类别2CN113705647A权利要求书2/2页总数，k为第k类样本，θ为权重W与特征f的夹角，ψ(θi)为样本对应类别的损失值；步骤3.6.计算交叉熵损失函数：交叉熵损失函数由分类损失和重构损失两部分组成，记为其公式为，λ为平衡和的超参数，重构损失yi为原始图像的像素值，yi为重构后的图像的像素值。6.如权利要求5所述的基于动态间隔的双重语义特征提取方法，其特征在于，步骤3.2中动态调节系数wi的具体计算公式为：其中，I(*)是示性函数，pi为后验概率，且样本对应类别的损失值ψ(θi)的具体计算公式为：