预训练模型的生成方法、装置、电子设备和存储介质.pdf

(19)中华人民共和国国家知识产权局(12)发明专利申请(10)申请公布号CN113657465A(43)申请公布日2021.11.16(21)申请号202110865000.8(22)申请日2021.07.29(71)申请人北京百度网讯科技有限公司地址100085北京市海淀区上地十街10号百度大厦2层(72)发明人希滕张刚(74)专利代理机构北京清亦华知识产权代理事务所(普通合伙)11201代理人张梦瑶(51)Int.Cl.G06K9/62(2006.01)G06K9/46(2006.01)权利要求书3页说明书10页附图4页(54)发明名称预训练模型的生成方法、装置、电子设备和存储介质(57)摘要本公开提出了一种预训练模型的生成方法、装置、电子设备和存储介质，涉及人工智能技术领域，尤其涉及计算机视觉和深度学习技术领域，可应用于图像处理、图像识别等场景。方法为：采用模型集合内选取的多个候选模型，对测试集内的样本进行特征提取，并对各候选模型输出的特征进行特征融合，得到融合特征，根据融合特征执行设定的目标识别任务，以得到预测信息，根据预测信息与样本的标准信息之间的差异，确定多个候选模型的组合性能，在组合性能满足设定性能指标的情况下，根据多个候选模型生成预训练模型，本公开中根据候选模型的组合在目标识别任务上的综合性能表现，确定多个候选模型的组合是否为较优的模型组合，提高了预训练模型的精度。CN113657465ACN113657465A权利要求书1/3页1.一种预训练模型的生成方法，包括：采用模型集合内选取的多个候选模型，对测试集内的样本进行特征提取，得到各所述候选模型输出的特征；对各所述候选模型输出的特征进行特征融合，得到融合特征；根据所述融合特征执行设定的目标识别任务，以得到预测信息；根据所述预测信息与所述样本的标准信息之间的差异，确定所述多个候选模型的组合性能；在所述组合性能满足设定性能指标的情况下，根据所述多个候选模型生成预训练模型。2.根据权利要求1所述的方法，其中，所述采用模型集合内选取的多个候选模型，对测试集内的样本进行特征提取，得到各所述候选模型输出的特征之前，还包括：获取模型集合；将所述模型集合内的各模型组合得到超网络；对所述超网络进行训练；采用设定搜索算法从所述超网络中搜索得到目标子网络；将所述目标子网络中的各所述模型作为所述模型集合内选取的所述候选模型。3.根据权利要求2所述的方法，其中，所述对所述超网络进行训练，包括：采用训练集内的训练样本输入所述超网络；根据所述超网络中各子网络输出的特征，确定各所述子网络的损失函数值；对各所述子网络的损失函数值融合得到融合损失函数；根据所述融合损失函数，对所述超网络中的各模型进行模型参数调整。4.根据权利要求1所述的方法，其中，所述采用模型集合内选取的多个候选模型，对测试集内的样本进行特征提取，得到各所述候选模型输出的特征之前，还包括：采用训练集，分别对所述模型集合内的各模型进行训练；根据模型训练过程中各模型的损失函数的梯度，从所述模型集合中选取多个所述候选模型。5.根据权利要求1‑4任一项所述的方法，其中，所述目标识别任务为多个，所述根据所述预测信息与所述样本的标准信息之间的差异，确定所述多个候选模型的组合性能，包括：根据各所述目标识别任务的预测信息，与对应任务的所述标准信息之间的差异，确定各所述目标识别任务的损失函数值；对各所述目标识别任务的损失函数值加权求和，得到总损失函数值；根据所述总损失函数值，确定所述多个候选模型的组合性能。6.根据权利要求1‑4任一项所述的方法，其中，所述目标识别任务为多个，所述根据所述预测信息与所述样本的标准信息之间的差异，确定所述多个候选模型的组合性能，包括：根据各所述目标识别任务的预测信息，与对应任务的所述标准信息之间的差异，确定各所述目标识别任务的准召率；根据各所述目标识别任务的准召率，确定所述多个候选模型的组合性能。7.一种预训练模型的生成装置，包括：提取模块，用于采用模型集合内选取的多个候选模型，对测试集内的样本进行特征提2CN113657465A权利要求书2/3页取，得到各所述候选模型输出的特征；融合模块，用于对各所述候选模型输出的特征进行特征融合，得到融合特征；执行模块，用于根据所述融合特征执行设定的目标识别任务，以得到预测信息；确定模块，用于根据所述预测信息与所述样本的标准信息之间的差异，确定所述多个候选模型的组合性能；生成模块，用于在所述组合性能满足设定性能指标的情况下，根据所述多个候选模型生成预训练模型。8.根据权利要求7所述的装置，其中，所述装置，还包括：获取模块，用于获取模型集合；组合模块，用于将所述模型集合内的各模型组合得到超网络；第一训练模块，用于对所述超网络进行训练；搜索模块，用于采用设定搜索算法从所述超网络中搜