训练用户行为预测模型的方法和装置.pdf

(19)中华人民共和国国家知识产权局(12)发明专利申请(10)申请公布号CN111178987A(43)申请公布日2020.05.19(21)申请号202010276692.8(22)申请日2020.04.10(71)申请人支付宝（杭州）信息技术有限公司地址310000浙江省杭州市西湖区西溪路556号8层B段801-11(72)发明人辛超钱浩向彪周俊(74)专利代理机构北京亿腾知识产权代理事务所(普通合伙)11309代理人张静娟周良玉(51)Int.Cl.G06Q30/02(2012.01)G06N3/04(2006.01)G06N3/08(2006.01)权利要求书3页说明书11页附图6页(54)发明名称训练用户行为预测模型的方法和装置(57)摘要本说明书实施例提供一种训练用户行为预测模型的方法和装置。训练方法包括，获取全量样本，其中包括指示用户是否实施目标行为的第一标签，和指示是否在时间窗口t内实施该行为的第二标签。将各个样本输入用户行为预测模型，通过其中的第一网络部分预测用户实施目标行为的第一概率，以及通过第二网络部分针对实施了目标行为的部分用户，预测其在窗口t内实施的第二概率。将各个样本的第一概率与第一标签进行比对，以及将上述部分用户的第一概率和第二概率的乘积与第二标签比对，确定总损失，据此更新该模型。进一步地，还可以利用仅具有第二标签的短期样本，对模型进行优化，优化时固定第二网络部分，仅对第一网络部分进行更新。CN111178987ACN111178987A权利要求书1/3页1.一种训练用户行为预测模型的方法，包括：获取多个第一样本，每个第一样本包括样本特征，第一标签和第二标签，其中，所述样本特征包括，样本用户和发生关联的业务对象各自的特征；所述第一标签以第一值和第二值分别示出，在发生关联之后，所述样本用户是否针对所述业务对象实施目标行为；所述第二标签示出，所述样本用户在发生关联后的预定时间窗口内是否实施所述目标行为；将所述多个第一样本的样本特征输入所述用户行为预测模型，所述用户行为预测模型包括第一网络部分和第二网络部分，所述第一网络部分预测各个第一样本对应的样本用户实施所述目标行为的第一概率；所述第二网络部分针对所述第一标签为第一值的若干第一样本，预测其对应的第二概率；该第二概率表示，最终实施目标行为的样本用户在所述预定时间窗口内实施该目标行为的概率；根据所述若干第一样本对应的第一概率和第二概率的乘积，得到第三概率；根据各个第一样本的所述第一概率与所述第一标签的比对，确定第一损失项；以及根据所述若干第一样本的第三概率与所述第二标签的比对，确定第二损失项；根据所述第一损失项和第二损失项，确定总损失；根据所述总损失，更新所述用户行为预测模型。2.根据权利要求1所述的方法，其中，所述业务对象为用户权益，所述发生关联包括领取所述用户权益，所述目标行为包括使用所述用户权益；或者：所述业务对象为商品，所述发生关联包括将商品加入购物车，所述目标行为包括，支付所述商品。3.根据权利要求1所述的方法，其中，所述第一标签通过统计所述样本用户在发生关联后的预定时长内，是否实施目标行为而得到，所述预定时长在数量级上大于所述预定时间窗口。4.根据权利要求1所述的方法，其中，所述用户行为预测模型还包括特征处理层，用于将各个第一样本的所述样本特征处理为特征向量；所述第一网络部分预测各个第一样本对应的样本用户实施所述目标行为的第一概率包括，所述第一网络部分基于各个第一样本对应的各个特征向量，预测对应的第一概率；所述第二网络部分针对所述第一标签为第一值的若干第一样本，预测其对应的第二概率包括，所述第二网络部分获取所述若干第一样本对应的若干特征向量，基于所述若干特征向量，预测对应的第二概率。5.根据权利要求4所述的方法，其中，所述样本特征包括，所述样本用户的用户特征，和所述业务对象的对象特征；所述特征处理层包括嵌入层，池化层和融合层，其中所述嵌入层将用户特征处理为第一嵌入向量，将对象特征处理为第二嵌入向量；所述池化层分别对第一嵌入向量和第二嵌入向量进行池化处理，得到第一池化向量和第二池化向量；所述融合层将所述第一池化向量和第二池化向量融合为所述特征向量。6.根据权利要求1所述的方法，其中，所述第一网络部分和第二网络部分实现为多层感知机。7.根据权利要求1-6中任一项所述的方法，还包括：2CN111178987A权利要求书2/3页获取多个第二样本，每个第二样本包括，所述样本特征和所述第二标签；将所述多个第二样本的样本特征输入所述用户行为预测模型，利用所述第一网络部分，预测各个第二样本对应的第一概率；利用所述第二网络部分，预测各个第二样本对应的第二概率；根据各个第二样本对应的第一概率和第二概率的乘积，得到各个第二样本对应的第三概率；根据各个第二样本对应