预览加载中,请您耐心等待几秒...
1/10
2/10
3/10
4/10
5/10
6/10
7/10
8/10
9/10
10/10

亲,该文档总共18页,到这已经超出免费预览范围,如果喜欢就直接下载吧~

如果您无法下载资料,请参考说明:

1、部分资料下载需要金币,请确保您的账户上有足够的金币

2、已购买过的文档,再次下载不重复扣费

3、资料包下载后请先用软件解压,在使用对应软件打开

(19)中华人民共和国国家知识产权局(12)发明专利申请(10)申请公布号CN114168844A(43)申请公布日2022.03.11(21)申请号202111335056.9(22)申请日2021.11.11(71)申请人北京快乐茄信息技术有限公司地址100193北京市海淀区东北旺西路8号院23号楼4层402-1室(72)发明人刘文哲金长虎(74)专利代理机构北京善任知识产权代理有限公司11650代理人李梅香(51)Int.Cl.G06F16/9535(2019.01)G06K9/62(2022.01)G06Q50/20(2012.01)权利要求书2页说明书11页附图4页(54)发明名称在线预测方法、装置、设备及存储介质(57)摘要本公开实施例公开了一种在线预测方法、装置、设备和存储介质,所述方法包括:基于同一目标训练参数,利用预定特征集联合训练导师模型和学生模型,获得训练后的所述学生模型;其中,所述导师模型用于数据粗排;所述学生模型用于数据精排;基于所述导师模型获得的预定参数信息通过蒸馏迁移的方式应用于所述学生模型;基于训练后的所述学生模型,进行预定任务的在线预测。相较于基于不同的目标训练参数单独训练用于粗排的导师模型和单独训练用于精排的学生模型,本公开实施例技术方案能够减少粗排和精排的精度不匹配的情况,整体提升模型的预测精度,且能够简化模型结构,提升模型训练效率,给用户带来好的体验。CN114168844ACN114168844A权利要求书1/2页1.一种在线预测方法,其特征在于,所述方法包括:基于同一目标训练参数,利用预定特征集联合训练导师模型和学生模型,获得训练后的所述学生模型;其中,所述导师模型用于数据粗排;所述学生模型用于数据精排;基于所述导师模型获得的预定参数信息通过蒸馏迁移的方式应用于所述学生模型;基于训练后的所述学生模型,进行预定任务的在线预测。2.根据权利要求1所述的方法,其特征在于,所述基于训练后的所述学生模型,进行预定任务的在线预测,包括:基于训练后的所述学生模型,进行数据推荐任务的在线预测。3.根据权利要求1所述的方法,其特征在于,所述基于同一目标训练参数,利用预定特征集联合训练导师模型和学生模型,获得训练后的所述学生模型,包括:基于所述同一目标训练参数,利用所述预定特征集同时且联合训练所述导师模型和所述学生模型,获得训练后的所述学生模型;或者,基于所述同一目标训练参数,利用所述预定特征集在训练所述导师模型之后联合训练所述学生模型,获得训练后的所述学生模型。4.根据权利要求3所述的方法,其特征在于,所述利用所述预定特征集在训练所述导师模型之后联合训练所述学生模型,获得训练后的所述学生模型,包括:利用所述预定特征集在训练所述导师模型预定步数之后联合训练所述学生模型,获得训练后的所述学生模型。5.根据权利要求1所述的方法,其特征在于,所述导师模型为单塔模型,其中,所述单塔模型的输入特征为用户信息和内容信息的交叉特征;所述学生模型为双塔模型,其中,所述双塔模型包括用户塔模型和内容塔模型,所述用户塔模型的输入特征为用户信息特征,所述内容塔模型的输入特征为内容信息特征。6.根据权利要求1所述的方法,其特征在于,蒸馏迁移的方式的蒸馏损失函数的损失参数是根据所述导师模型和所述学生模型的logits的误差确定的。7.一种在线预测装置,其特征在于,所述装置包括:训练模块,用于:基于同一目标训练参数,利用预定特征集联合训练导师模型和学生模型,获得训练后的所述学生模型;其中,所述导师模型用于数据粗排;所述学生模型用于数据精排;基于所述导师模型获得的预定参数信息通过蒸馏迁移的方式应用于所述学生模型;预测模块,用于:基于训练后的所述学生模型,进行预定任务的在线预测。8.根据权利要求7所述的装置,其特征在于,所述预测模块,还用于:基于训练后的所述学生模型,进行数据推荐任务的在线预测。9.根据权利要求7所述的装置,其特征在于,所述训练模块,还用于:基于所述同一目标训练参数,利用所述预定特征集同时且联合训练所述导师模型和所述学生模型,获得训练后的所述学生模型;或者,基于所述同一目标训练参数,利用所述预定特征集在训练所述导师模型之后联合训练所述学生模型,获得训练后的所述学生模型。2CN114168844A权利要求书2/2页10.根据权利要求9所述的装置,其特征在于,所述训练模块,还用于:利用所述预定特征集在训练所述导师模型预定步数之后联合训练所述学生模型,获得训练后的所述学生模型。11.一种在线预测设备,其中,包括:存储器;处理器,与所述存储器连接,被配置为通过执行存储在所述存储器上的计算机可执行指令,并能够实现权利要求1至6任一项所述的方法。12.一种计算机存储介质,所述计算机存储介质存储有计算机可执行指令,所述计算机可执行指令