训练用户行为预测模型的方法和装置.pdf

(19)中华人民共和国国家知识产权局(12)发明专利申请(10)申请公布号CN111401963A(43)申请公布日2020.07.10(21)申请号202010202058.X(22)申请日2020.03.20(71)申请人支付宝（杭州）信息技术有限公司地址310000浙江省杭州市西湖区西溪路556号8层B段801-11(72)发明人黄珊何勇张亮赖志坚梅寒刘贝陆彬侯丽微沈彬丁珂(74)专利代理机构北京亿腾知识产权代理事务所(普通合伙)11309代理人孙欣欣周良玉(51)Int.Cl.G06Q30/02(2012.01)G06K9/62(2006.01)权利要求书5页说明书13页附图3页(54)发明名称训练用户行为预测模型的方法和装置(57)摘要本说明书实施例提供一种训练用户行为预测模型的方法和装置，方法包括：获取多个训练样本，训练样本包括样本特征、第一标签、第二标签和第三标签，第一标签对应主任务，第二标签对应第一辅助任务，第三标签对应第二辅助任务；将各样本特征输入用户行为预测模型，基于主任务的预测输出和第一标签，第一辅助任务的预测输出和第二标签，第二辅助任务的预测输出和第三标签，采用多任务学习的方式训练用户行为预测模型；其中，主任务用于预测用户点击目标对象后发生预设行为的概率，第一辅助任务用于预测用户点击目标对象的概率，第二辅助任务用于预测用户点击目标对象并发生预设行为的概率。训练后的模型预测准确率高。CN111401963ACN111401963A权利要求书1/5页1.一种训练用户行为预测模型的方法，所述用户行为预测模型用于确定用户点击目标对象后发生预设行为的概率，所述方法包括：获取多个训练样本，每个所述训练样本包括用户和目标对象的样本特征、第一标签、第二标签和第三标签，其中，所述第一标签指示用户点击目标对象后是否发生预设行为，所述第二标签指示用户是否点击目标对象，第三标签指示是否用户点击目标对象并发生预设行为；将所述多个训练样本中的任一训练样本作为目标训练样本，将所述目标训练样本的样本特征输入所述用户行为预测模型，基于所述用户行为预测模型对应于主任务的预测输出和所述第一标签，以及基于所述用户行为预测模型对应于第一辅助任务的预测输出和所述第二标签，以及基于所述用户行为预测模型对应于第二辅助任务的预测输出和所述第三标签，利用预先设定的对应于所述多个训练样本的总损失函数，采用多任务学习的方式训练所述用户行为预测模型；其中，所述主任务用于预测用户点击目标对象后发生预设行为的概率，所述第一辅助任务用于预测用户点击目标对象的概率，所述第二辅助任务用于预测用户点击目标对象并发生预设行为的概率。2.如权利要求1所述的方法，其中，所述获取多个训练样本，包括：获取目标对象的历史点击与转化数据，所述历史点击与转化数据包括初始转化行为数据集和初始点击行为数据集，所述初始转化行为数据集中各条样本具有已知标签值的所述第一标签，所述初始点击行为数据集中各条样本具有已知标签值的所述第二标签；从所述初始点击行为数据集中筛选出符合预设过滤条件的各条样本，得到过滤点击行为数据集；所述预设过滤条件至少包括第一过滤条件，所述第一过滤条件为选取所述第二标签的标签值指示出用户未点击目标对象的样本；确定所述初始转化行为数据集和所述过滤点击行为数据集中各条样本分别对应的第一标签、第二标签和第三标签的标签值，得到所述多个训练样本。3.如权利要求2所述的方法，其中，所述确定所述初始转化行为数据集和所述过滤点击行为数据集中各条样本分别对应的第一标签、第二标签和第三标签的标签值，包括：确定所述初始转化行为数据集中所述第二标签的标签值指示用户点击了目标对象，以及确定所述第三标签与所述第一标签的标签值相同；确定所述过滤点击行为数据集中所述第一标签的标签值指示用户点击目标对象后未发生预设行为，以及所述第三标签的标签值指示未发生用户点击目标对象然后发生预设行为。4.如权利要求2所述的方法，其中，所述预设过滤条件还包括：第二过滤条件；所述第二过滤条件为对所述初始点击行为数据集过滤后的样本进行随机采样，得到预设数目的样本。5.如权利要求1所述的方法，其中，所述样本特征包括：用户端特征和目标对象端特征；所述用户端特征包括：用户静态属性、用户画像特征、资产类特征、矩阵页面访问数据、小程序和生活号用户行为数据、目标对象归属页用户行为数据、集团兴趣数据、消费行为数据、线下支付行为数据中的至少一项特征；所述目标对象端特征包括：目标对象标识、计划标识、目标对象归属者标识、展位特征、2CN111401963A权利要求书2/5页创意特征中的至少一项特征。6.如权利要求1所述的方法，其中，所述样本特征包括：多个连续型特征和多个离散型特征；所述用户行为预测模型包括特征处理层，用于对所述多个连续型特征进行第一处