半监督分类模型训练、图像分类方法和装置.pdf

(19)国家知识产权局(12)发明专利申请(10)申请公布号CN115908933A(43)申请公布日2023.04.04(21)申请号202211541994.9G06N3/0895(2023.01)(22)申请日2022.12.02(71)申请人北京沃东天骏信息技术有限公司地址100176北京市大兴区经济技术开发区科创十一街18号院2号楼4层A402室申请人北京京东世纪贸易有限公司(72)发明人王家兴李勇宫礼星陶通刘朋樟包勇军颜伟鹏(74)专利代理机构北京英赛嘉华知识产权代理有限责任公司11204专利代理师王达佐马晓亚(51)Int.Cl.G06V10/764(2022.01)G06V10/774(2022.01)G06V10/82(2022.01)权利要求书2页说明书14页附图4页(54)发明名称半监督分类模型训练、图像分类方法和装置(57)摘要本公开提供了一种半监督分类模型训练方法和装置，涉及人工智能技术领域。该方法的一具体实施方式包括：对获取的素材样本进行序列化处理，得到素材序列；对素材序列进行随机掩码处理，得到包括整体语义特征的掩码序列；将素材序列和掩码序列输入预先构建的半监督分类网络的掩码预测网络中，计算得到掩码预测网络的掩码预测损失；将带目标标签且经过掩码预测网络预测的整体语义特征输入半监督分类网络的线性分类网络，计算得到线性分类网络的监督损失；基于掩码预测损失和监督损失，训练半监督分类网络，得到对应半监督分类网络的半监督分类模型。该实施方式提高了半监督分类模型的分类性能。CN115908933ACN115908933A权利要求书1/2页1.一种半监督分类模型训练方法，所述方法包括：对获取的素材样本进行序列化处理，得到素材序列；对所述素材序列进行随机掩码处理，得到包括整体语义特征的掩码序列；将所述素材序列和所述掩码序列输入预先构建的半监督分类网络的掩码预测网络中，计算得到所述掩码预测网络的掩码预测损失；将带目标标签且经过所述掩码预测网络预测的整体语义特征输入所述半监督分类网络的线性分类网络，计算得到所述线性分类网络的监督损失；基于所述掩码预测损失和所述监督损失，训练所述半监督分类网络，得到对应所述半监督分类网络的半监督分类模型。2.根据权利要求1所述的方法，其中，所述掩码预测网络包括：掩码分词器、掩码分类器以及训练完成的素材分词器、素材编码字典；所述将所述素材序列和所述掩码序列输入预先构建的半监督分类网络的掩码预测网络中，计算得到所述掩码预测网络的掩码预测损失包括：将所述素材序列输入所述素材分词器，得到素材块编码；从所述素材编码字典中选取与所述素材块编码相匹配的素材向量，得到素材向量序列；将所述掩码序列输入所述掩码分词器，得到预测块编码；将所述预测块编码输入所述掩码分类器，以使所述掩码分类器从所述素材编码字典选取与所述预测块编码相匹配的预测向量，得到预测向量序列；基于所述素材向量序列和所述预测向量序列，计算得到所述掩码预测网络的掩码预测损失。3.根据权利要求2所述的方法，所述素材分词器和所述素材编码字典的训练过程如下：对获取的样本素材进行序列化处理，得到样本序列；将所述样本序列输入素材分词网络，得到样本特征序列，从样本编码字典选取与所述样本特征序列相对应的样本编码序列，并对所述样本编码序列进行解码，得到预测序列；将所述样本序列输入预训练的样本监督模型，得到监督序列；基于所述预测序列和所述监督序列，训练所述素材分词网络以及所述素材编码字典；响应于所述素材分词网络满足训练完成条件，得到素材分词器。4.根据权利要求1所述的方法，所述将带目标标签且经过所述掩码预测网络预测的整体语义特征输入所述半监督分类网络的线性分类网络，计算得到所述线性分类网络的监督损失包括：将带目标标签且经过所述掩码预测网络预测的整体语义特征输入所述半监督分类网络的线性分类网络，得到所述线性分类网络输出的分类结果；基于所述分类结果和所述目标标签，计算得到所述线性分类网络的监督损失。5.根据权利要求1‑4之一所述的方法，其中，所述基于所述掩码预测损失和所述监督损失，训练所述半监督分类网络，得到对应所述半监督分类网络的半监督分类模型包括：确定所述监督损失的权重值；将所述监督损失与所述权重值相乘，再与所述掩码预测损失相加，得到所述半监督分类网络的损失；2CN115908933A权利要求书2/2页基于所述半监督分类网络的损失，训练所述半监督分类网络，得到对应所述半监督分类网络的半监督分类模型。6.一种图像分类方法，所述方法包括：获取待分类图像；对所述待分类图像进行分块处理，得到图像块序列；将所述图像块序列输入半监督分类模型，得到所述半监督分类模型输出的所述待分类图像中目标的分类结果，所述半监督分类模型采用权利要求1‑5任意一项所述的半监督分类模型训练方法训