模型训练方法、装置、设备及存储介质.pdf

(19)中华人民共和国国家知识产权局(12)发明专利申请(10)申请公布号CN113313314A(43)申请公布日2021.08.27(21)申请号202110651638.1(22)申请日2021.06.11(71)申请人北京沃东天骏信息技术有限公司地址100176北京市大兴区经济技术开发区科创十一街18号院2号楼4层A402室申请人北京京东世纪贸易有限公司(72)发明人陈宏申丁卓冶何臻龙波(74)专利代理机构北京英赛嘉华知识产权代理有限责任公司11204代理人王达佐马晓亚(51)Int.Cl.G06Q10/04(2012.01)G06Q30/06(2012.01)G06N7/00(2006.01)G06N20/00(2019.01)权利要求书3页说明书13页附图5页(54)发明名称模型训练方法、装置、设备及存储介质(57)摘要本申请公开了模型训练方法和装置，具体实现方案为：获取用户行为序列样本集；将样本集中的用户行为序列输入至第一模型，得到第一预选条目的概率分布和第一目标条目，其中，第一模型为预先训练的教师模型；将样本集中的用户行为序列作为输入，将第二预选条目的概率分布和第二目标条目作为输出，对第二模型进行训练，得到用户行为预测模型，其中，第二模型为待训练的学生模型，用户行为预测模型的训练目标包括第一目标，第一目标为使第二目标条目对应向量和第一目标条目对应向量保持一致，第一模型和/或第二模型的训练任务包括辅助任务，辅助任务包括时间一致性任务。该方案实现一种数据增强的自监督模仿学习的模型训练方法。CN113313314ACN113313314A权利要求书1/3页1.一种模型训练方法，包括：获取用户行为序列样本集，其中，所述样本集中的用户行为序列用于表征用户行为对应的各个条目；将所述样本集中的用户行为序列输入至第一模型，得到与输入的所述样本集中的用户行为序列对应的第一预选条目的概率分布和所述第一预选条目的概率分布对应的第一目标条目，其中，所述第一模型为预先训练的教师模型，所述第一模型基于历史的用户行为序列对用户感兴趣的下个行为对应的条目进行预测；将所述样本集中的用户行为序列作为输入，将与输入的所述样本集中的用户行为序列对应的第二预选条目的概率分布和所述第二预选条目的概率分布对应的第二目标条目作为输出，对第二模型进行训练，得到用户行为预测模型，其中，所述第二模型为待训练的学生模型，所述用户行为预测模型的训练目标包括第一目标，所述第一目标为使所述第二模型输出的所述第二目标条目对应向量和所述第一模型输出的所述第一目标条目对应向量保持一致，所述第一模型和/或所述第二模型的训练任务包括辅助任务，所述辅助任务包括时间一致性任务。2.根据权利要求1所述的方法，其中，所述辅助任务还包括人格一致性任务。3.根据权利要求1、2中任一项所述的方法，其中，所述辅助任务还包括全局会话一致性任务。4.根据权利要求1所述的方法，其中，所述用户行为预测模型的训练目标包括第二目标，所述第二目标为使所述第二模型输出的第二预选条目的概率分布与所述第一模型输出的第一预选条目的概率分布保持一致。5.根据权利要求1所述的方法，其中，所述第一模型包括：第一预测子模型和第一分析子模型；所述将所述样本集中的用户行为序列输入至第一模型，得到与输入的所述样本集中的用户行为序列对应的第一预选条目的概率分布和所述第一预选条目的概率分布对应的第一目标条目，包括：将所述样本集中的用户行为序列输入至所述第一预测子模型，得到与输入的所述样本集中的用户行为序列对应的第一预选条目的概率分布；将所述第一预选条目的概率分布输入至所述第一分析子模型，得到与输入的所述第一预选条目的概率分布对应的第一目标条目。6.根据权利要求5所述的方法，其中，所述第二模型包括：第二预测子模型和第二分析子模型；所述将所述样本集中的用户行为序列作为输入，将与输入的所述样本集中的用户行为序列对应的第二预选条目的概率分布和所述第二预选条目的概率分布对应的第二目标条目作为输出，对第二模型进行训练，得到用户行为预测模型，包括：将所述样本集中的用户行为序列作为输入，将与输入的所述样本集中的用户行为序列对应的第二预选条目的概率分布作为输出，对所述第二预测子模型进行训练；将所述第二预选条目的概率分布作为输入，将与输入的所述第二预选条目的概率分布对应的第二目标条目作为输出，对所述第二分析子模型进行训练；将所述第二预测子模型和所述第二分析子模型进行合并，生成合并后的用户行为预测模型。7.根据权利要求6所述的方法，其中，所述第二预测子模型的训练目标包括第三目标，2CN113313314A权利要求书2/3页所述第三目标为使所述第二预测子模型输出的第二预选条目的概率分布与所述第一预测子模型输出的第一预选条目的概率分布保持一致；和/或，所述第二分