模型联合训练方法、装置以及存储介质.pdf

(19)国家知识产权局(12)发明专利申请(10)申请公布号CN115081534A(43)申请公布日2022.09.20(21)申请号202210779266.5(22)申请日2022.07.04(71)申请人中国电信股份有限公司地址100033北京市西城区金融大街31号(72)发明人王慧芬张园杨明川(74)专利代理机构中国贸促会专利商标事务所有限公司11038专利代理师方亮(51)Int.Cl.G06K9/62(2022.01)G06N3/04(2006.01)G06N3/08(2006.01)权利要求书3页说明书7页附图5页(54)发明名称模型联合训练方法、装置以及存储介质(57)摘要本公开提供了一种模型联合训练方法、装置以及存储介质，其中的方法包括：使用训练样本对编码器网络模型和第一目标任务网络模型进行训练，得到训练好的编码器网络模型以及对应的编码网络参数、训练好的第一目标任务网络模型以及对应的第一网络参数；依次将多个任务网络模型中的各个其它任务网络模型设置为第二目标任务网络模型，在保持编码网络参数的状态下，依次对各个第二目标任务网络模型进行训练，获得训练好的各个第二目标任务网络模型以及对应的第二网络参数。本公开提高了模型训练速度，降低了训练复杂度，并且能够满足不同任务对于数据质量的需求，提高了任务网络模型的处理精度，提高了用户的使用感受度。CN115081534ACN115081534A权利要求书1/3页1.一种模型联合训练方法，其中，待训练的模型包括：编码器网络模型和多个任务网络模型；所述方法包括：从所述多个任务网络模型中选取一个任务网络模型，作为第一目标任务网络模型；使用训练样本对所述编码器网络模型和所述第一目标任务网络模型进行训练，得到训练好的所述编码器网络模型以及对应的编码网络参数、训练好的所述第一目标任务网络模型以及对应的第一网络参数；依次将所述多个任务网络模型中的各个其它任务网络模型设置为第二目标任务网络模型；在保持所述编码网络参数的状态下，使用所述训练样本依次对所述编码器网络模型和各个第二目标任务网络模型进行训练，获得训练好的各个第二目标任务网络模型以及对应的第二网络参数。2.如权利要求1所述的方法，所述使用训练样本对所述编码器网络模型和所述第一目标任务网络模型进行训练包括：基于所述训练样本生成至少一个训练样本批次；使用所述编码器网络模型并基于所述训练样本批次，获得与所述训练样本批次相对应的编码信息；使用所述第一目标任务网络模型并基于编码信息，生成对应的解码信息以及任务处理结果；基于损失函数对所述编码网络参数和所述第一网络参数进行调整处理。3.如权利要求2所述的方法，所述使用所述训练样本依次对所述编码器网络模型和各个第二目标任务网络模型进行训练包括：使用训练好的所述编码器网络模型并基于所述训练样本批次和所述编码网络参数，获得所述编码信息；使用所述第二目标任务网络模型并基于编码信息，生成对应的解码信息以及任务处理结果；在保持所述编码网络参数的状态下，基于损失函数对所述第二网络参数进行调整处理。4.如权利要求3所述的方法，还包括：判断所述第一目标任务网络模型或所述第二目标任务网络模型是否需要对解码结果进行机器自动处理；其中，解码结果包括图像或视频解码结果；基于判断结果确定所述损失函数。5.如权利要求4所述的方法，所述基于判断结果确定所述损失函数包括：如果所述判断结果为不需要对解码结果进行机器自动处理，则根据像素特征、编码质量损失系数以及解码图像与原始图像的损失函数，构建第一函数，作为所述损失函数。6.如权利要求4所述的方法，所述基于判断结果确定所述损失函数包括：如果所述判断结果为需要对解码结果进行机器自动处理，则根据像素特征、编码质量损失系数、解码图像与原始图像的损失函数、任务损失函数，构建第二函数，作为所述损失函数。7.如权利要求1至6任一项所述的方法，其中，2CN115081534A权利要求书2/3页所述编码器网络模型和所述任务网络模型包括：神经网络模型；所述编码网络参数包括：所述编码器网络模型的权重信息；所述第一网络参数包括：所述第一目标任务网络模型的权重信息；所述第二网络参数包括：所述第二目标任务网络模型的权重信息。8.一种模型联合训练装置，其中，待训练的模型包括：编码器网络模型和多个任务网络模型；所述模型联合训练装置包括：第一模型确定模块，用于从所述多个任务网络模型中选取一个任务网络模型，作为第一目标任务网络模型；第一模型训练模块，用于使用训练样本对所述编码器网络模型和所述第一目标任务网络模型进行训练，得到训练好的所述编码器网络模型以及对应的编码网络参数、训练好的所述第一目标任务网络模型以及对应的第一网络参数；第二模型确定模块，用于依次将所述多个任务网络模型中的各个其它任务网络模型设置为第二目标任