基于Bert的雷达目标识别方法.pdf

(19)中华人民共和国国家知识产权局(12)发明专利申请(10)申请公布号CN112782660A(43)申请公布日2021.05.11(21)申请号202011599336.6(22)申请日2020.12.29(71)申请人杭州电子科技大学地址310018浙江省杭州市下沙高教园区二号路(72)发明人潘勉唐三鼎李训根吕帅帅陈晴方笑海张杰(74)专利代理机构浙江永鼎律师事务所33233代理人陆永强(51)Int.Cl.G01S7/41(2006.01)权利要求书3页说明书7页附图1页(54)发明名称基于Bert的雷达目标识别方法(57)摘要本发明公开了一种基于Bert的雷达目标识别方法，包括以下步骤：S1，收集数据并划分训练集和测试集，通过雷达采集的HRRP数据，需要对每个类别进行采样，分别选出训练集和测试集，之后进行合并，保证每个类别的数据形式都有被采样到；S2，对HRRP数据进行幂次变换，并使用注意力机制；S3，用Bert模型处理幂次变换的输出，提取更加深层的特征；S4，搭建分类器，对HRRP目标分类，对Bert模型的输出，再次使用注意力机制的思想，将更有效的特征进行保留，最后采用softmax对网络的输出进行分类；S5，将经过S1处理后的HRRP测试集送入S2、S3、S4步骤中已训练完成的模型中进行测试。CN112782660ACN112782660A权利要求书1/3页1.一种基于Bert的雷达目标识别方法，其特征在于，包括以下步骤：S1，收集数据并划分训练集和测试集，通过雷达采集的HRRP数据，需要对每个类别进行采样，分别选出训练集和测试集，之后进行合并，保证每个类别的数据形式都有被采样到。训练集和测试集比例保持在7:3，将训练数据集记为D＝{(xi,yk)}i∈[1,n],k∈[1,c]，其中xi表示第i个样本，yk表示样本属于第k类，一共采集了c类目标，n表示样本总数；对数据进行强度归一化和重心对齐处理；S2，对HRRP数据进行幂次变换，并使用注意力机制；S3，用Bert模型处理幂次变换的输出，提取更加深层的特征；S4，搭建分类器，对HRRP目标分类，对Bert模型的输出，再次使用注意力机制的思想，将更有效的特征进行保留，最后采用softmax对网络的输出进行分类；S5，将经过S1处理后的HRRP测试集送入S2、S3、S4步骤中已训练完成的模型中进行测试。2.如权利要求1所述的基于Bert的雷达目标识别方法，其特征在于，所述步骤S1进一步包括：S101，强度归一化，假设原始HRRP数据表示为xraw＝[x1,x2,x3…,xM]，其中M表示HRRP内包含的距离单元总数，则HRRP归一化计算如下：S102，重心对齐，使用重心对齐法通过平移HRRP使其重心位于HRRP中心点附近，其中HRRP重心g的计算方法如下：3.如权利要求1所述的基于Bert的雷达目标识别方法，其特征在于，所述步骤S2进一步包括：对HRRP数据进行幂次变换，并使用注意力机制，对经过上述预处理的HRRP数据进行多次幂次变换，幂次变换层输出表示为：其中αi为每种幂次换的权重，k表示幂次，通过学习，学出不同的权重，使Bert模块得到更合适的输入，其中每一条样本最终会呈现如下形式：4.如权利要求1所述的基于Bert的雷达目标识别方法，其特征在于，所述步骤S3进一步包括：S301，确定使用Bert的层数，构建Bert模型；2CN112782660A权利要求书2/3页S302，假设输入为X的形状为[batch_size,N]，batch_size为每个批次的数目，N为各时间点维数，先对数据进行替换操作，并且为它加入时序信息，即位置信息，Bert中按照特征长度，会随机初始化同样形状的数据，作为位置信息，在训练中进行学习；S303，多头注意力机制，提取有效特征，多头注意力机制将通过嵌入层中得到的M维特征，分成12组，在每一组中进行自注意力算法，在将12组的结果进行合并，嵌入层中的输出X，X中每一组分别乘以三个随机初始化的矩阵Wq，Wk，WV得到Q,K,V，三个矩阵，进行如下计算得到Zi：Zi表示每一组的计算结果，再将[Z0...Z11]按列堆叠起来，乘以一个随机初始化的W，即可得到最终此层的输出Z；S304，前馈层中，将N维特征，映射到高维，再从高维映射到低维，进一步保留有用的信息；S305，残差和层归一化，Add层就是残差连接模块，因为要叠加深层神经网络，残差结构可以很好地消除层数加深所带来的信息损失问题，也可以将损失快速回传，避免梯度消失，加入了层归一化，使训练过程更加稳定：式中x∈RN×C×H×W，层归一化对每个样本C，H，W维度上的数据求均值和标准差，保留N维度，μ为均值，为方差，α和β为参数，ε为一个非常小的值。S306，将S302到S305组在一起为一层