在线预测服务的部署方法、装置、电子设备及存储介质.pdf

(19)中华人民共和国国家知识产权局(12)发明专利申请(10)申请公布号CN111340232A(43)申请公布日2020.06.26(21)申请号202010096889.3(22)申请日2020.02.17(71)申请人支付宝（杭州）信息技术有限公司地址310000浙江省杭州市西湖区西溪路556号8层B段801-11(72)发明人乔彦辉(74)专利代理机构北京风雅颂专利代理有限公司11403代理人郭曼(51)Int.Cl.G06N20/00(2019.01)G06Q10/04(2012.01)权利要求书4页说明书19页附图5页(54)发明名称在线预测服务的部署方法、装置、电子设备及存储介质(57)摘要本说明书提供一种在线预测服务的部署方法，包括：获取待部署的预测服务的子模型配置信息；根据所述子模型配置信息，在与所述预测服务对应的机器集群上分别部署至少两个机器学习模型，分别确定上述至少两个机器学习模型对应的注册地址；获取预测服务的多模型组合逻辑配置信息；将上述多模型组合逻辑配置信息以及上述至少两个机器学习模型对应的注册地址发送至预测服务网关，由预测服务网关完成上述预测服务的部署。本说明书还提供了实现上述在线预测服务部署的装置、电子设备及存储介质。CN111340232ACN111340232A权利要求书1/4页1.一种在线预测服务的部署方法，包括：获取待部署的预测服务的子模型配置信息；其中，所述预测服务与已完成训练的至少两个机器学习模型相对应；所述子模型配置信息包括所述至少两个机器学习模型中每个机器学习模型的配置信息；所述机器学习模型的配置信息包括：所述机器学习模型的特征抽取逻辑以及打分逻辑；根据所述子模型配置信息，在与所述预测服务对应的机器集群上分别部署所述至少两个机器学习模型，并确定所述至少两个机器学习模型对应的注册地址；获取所述预测服务的多模型组合逻辑配置信息；其中，所述多模型组合逻辑配置信息包括所述至少两个机器学习模型之间的组合逻辑；将所述多模型组合逻辑配置信息以及所述至少两个机器学习模型对应的注册地址发送至预测服务网关，以使所述预测服务网关将所述多模型组合逻辑配置信息以及所述至少两个机器学习模型对应的注册地址加载到内存中，完成所述预测服务的部署；其中，完成部署后的预测服务用于基于所述至少两个机器学习模型的特征抽取逻辑和打分逻辑以及所述至少两个机器学习模型之间的组合逻辑，预测用户的未来行为。2.根据权利要求1所述的方法，其中，所述在与所述预测服务对应的机器集群上分别部署所述至少两个机器学习模型包括：对于所述子模型配置信息中每一个机器学习模型的配置信息分别执行如下步骤：确定与所述机器学习模型对应的机器集群；所述机器集群中包括多台机器，各台机器均运行有多种预测引擎；其中，每种预测引擎用于加载并执行相应配置形态的机器学习模型；将所述机器学习模型的配置信息分发至所述机器集群中的各台机器；对于所述各台机器中任意的第一机器，所述第一机器在接收到所述机器学习模型的配置信息之后，基于所述机器学习模型的配置信息，分析所述机器学习模型的配置形态；基于确定的配置形态从所述多种预测引擎中选取目标预测引擎；通过所述目标预测引擎将所述机器学习模型的配置信息加载到内存中，以完成所述第一预测服务在所述第一机器上的部署；接收所述各台机器在完成所述预测服务的部署后发送的注册请求；响应于所述注册请求，对所述各台机器进行注册，并为所述各台机器分配统一的注册地址。3.根据权利要求2所述的方法，其中，所述预测服务的配置形态包括文件配置形态、自主编码形态以及可视化配置形态之一；当所述预测服务的配置形态为文件配置形态时，从所述多种预测引擎中选取的目标预测引擎为C++预测引擎CMPS；当所述预测服务的配置形态为自主编码形态时，从所述多种预测引擎中选取的目标预测引擎为python预测引擎PyMPS；当所述预测服务的配置形态为可视化配置形态时，从所述多种预测引擎中选取的目标预测引擎为java预测引擎JMPS。4.根据权利要求1所述的方法，所述获取所述预测服务的多模型组合逻辑配置信息包括：获取用户通过文件配置形态、自主编码形态或可视化配置形态配置的多模型组合逻辑2CN111340232A权利要求书2/4页表达式。5.根据权利要求1所述的方法，所述至少两个机器学习模型之间的组合逻辑包括：模型分段组合逻辑、模型集成组合逻辑、模型链式组合逻辑以及模型加权组合逻辑其中之一。6.根据权利要求1所述的方法，还包括：获取所述预测服务的预定义元数据；其中，所述元数据包括：所述预测服务的标识信息；将所述元数据发送至所述预测服务网关，以使所述预测服务网关建立所述预测服务的标识信息与至少两个机器学习模型的多模型组合逻辑的对应关系。7.一种在线预测服务的部署方法，包括：接收模型预测平台发送的待