基于多维时间序列数据进行预测或训练模型的方法和系统.pdf

(19)中华人民共和国国家知识产权局(12)发明专利申请(10)申请公布号CN113516556A(43)申请公布日2021.10.19(21)申请号202110523902.3(22)申请日2021.05.13(71)申请人支付宝(杭州)信息技术有限公司地址310023浙江省杭州市西湖区西溪路556号8层B段801-11(72)发明人倪翔孟昌华王维强(74)专利代理机构上海专利商标事务所有限公司31100代理人钱孟清段登新(51)Int.Cl.G06Q40/04(2012.01)G06N20/00(2019.01)G06N3/08(2006.01)G06N3/04(2006.01)权利要求书3页说明书10页附图6页(54)发明名称基于多维时间序列数据进行预测或训练模型的方法和系统(57)摘要公开了一种用于基于多维时间序列数据进行预测的方法，包括：监测多维时间序列数据流以获取当前观察点，当前观察点包括多维特征数据；基于当前观察点，应用经训练的神经过程模型进行预测，神经过程模型是使用多个先前观察点训练的，每个先前观察点包括多维特征数据和相应的标签数据，其中神经过程模型包括编码器和解码器，编码器包括互关注模块，互关注模块基于当前观察点的多维特征数据与一个或多个先前观察点的多维特征数据之间的关联向多个先前观察点分配权重，以用于最终生成当前观察点的目标预测。本申请还涉及其它方法、系统、装置和计算机可读存储设备。本申请的方法能够更准确地基于多维时间序列数据执行预测。CN113516556ACN113516556A权利要求书1/3页1.一种基于多维时间序列数据进行预测的方法，包括：监测多维时间序列数据流以获取当前观察点，所述当前观察点包括多维特征数据xt；基于所述当前观察点，应用经训练的神经过程模型进行预测，所述神经过程模型是使用多个先前观察点(xi,yi)训练的，每个先前观察点包括多维特征数据xi和相应的标签数据yi，其中所述神经过程模型包括编码器和解码器，所述编码器包括互关注模块，所述互关注模块基于所述当前观察点的多维特征数据xt与一个或多个先前观察点的多维特征数据xi之间的关联向所述多个先前观察点分配权重，以用于最终生成所述当前观察点的目标预测y*。2.如权利要求1所述的方法，其中所述编码器包括确定性通路和隐通路，其中所述确定性通路包括确定性编码器，所述确定性编码器用于基于多个先前观察点(xi,yi)来生成多个经编码表示ri，所述互关注模块基于所述当前观察点的多维特征数据xt、所述一个或多个先前观察点的多维特征数据xi、以及所述多个经编码表示生成特定于所述当前观察点的单个聚合表示r*。3.如权利要求2所述的方法，其中所述确定性编码器使用自关注模型。4.如权利要求2所述的方法，其中所述隐通路基于所述多个先前观察点(xi,yi)来生成隐变量z，所述解码器基于所述当前观察点的多维特征数据xt、特定于所述当前观察点的表示r*和所述隐变量z来生成所述当前观察点的目标预测y*。5.如权利要求1所述的方法，其中所述多维时间数据流为用户的在线活动数据流，且其中所述方法包括：基于所述目标预测y*检测所述用户的在线活动的异常。6.如权利要求5所述的方法，其中所述方法进一步包括：获取离线数据，其中检测所述用户的在线活动的异常进一步基于所述离线数据。7.如权利要求5所述的方法，其中所述方法进一步包括：提供单维时间序列异常检测模块，以及使用所述单维时间序列异常检测模块与所述神经过程模型一起检测所述用户的在线活动的异常。8.如权利要求5所述的方法，其中所述方法进一步包括：在检测到异常之后，使用归因模块自动确定所述异常所产生的原因。9.如权利要求5所述的方法，其中所述方法进一步包括：在检测到异常之后，使用告警模块输出告警信息。10.一种基于多维时间序列数据训练模型的方法，包括：获取多维度时间序列数据；基于所述多维度时间序列数据生成多个先前观察点(xi,yi)，每个观察点与一时间指示相对应并且包括多维特征数据xi和相应的标签数据yi；使用所述多个先前观察点(xi,yi)的子集作为训练数据训练神经过程模型，其中所述神经过程模型包括编码器和解码器，所述编码器包括互关注模块，所述互关注模块被配置成：针对每个观察点基于该观察点的多维特征数据xi与的所述子集中的其它观察点的多维特征数据xi之间的关联向所述多个先前观察点分配权重，以用于最终生成该观察点的目标2CN113516556A权利要求书2/3页预测yip，其中所述目标预测yip被用于与该观察点的标签数据yi生成损失值，基于所述损失值迭代调整所述神经过程模型以生成经训练的模型。11.如权利要求10所述的方法，其中所述编码器包括确定性通路和隐通路，其中所述确定性通路包括确定性编码器，所述确定性编码器用于基于所述子集来生成多