弹性调节算力的预测方法和装置.pdf

(19)国家知识产权局(12)发明专利申请(10)申请公布号CN115564022A(43)申请公布日2023.01.03(21)申请号202211173639.0(22)申请日2022.09.26(71)申请人支付宝（杭州）信息技术有限公司地址310000浙江省杭州市西湖区西溪路556号8层B段801-11(72)发明人顾进杰郎雨泽卢星宇钟文亮马文琪曾晓东张冠男(74)专利代理机构北京亿腾知识产权代理事务所(普通合伙)11309专利代理师陈霁周良玉(51)Int.Cl.G06N3/04(2006.01)G06N3/08(2006.01)G06N5/04(2006.01)G06F9/50(2006.01)权利要求书2页说明书8页附图3页(54)发明名称弹性调节算力的预测方法和装置(57)摘要本说明书实施例提供一种弹性调节算力的预测方法和装置，通过计算平台执行，该计算平台部署有经过训练的神经网络模型，神经网络模型包括n个子网络，n>2，方法包括：接收预测请求，其中包括待测样本；确定针对所述预测请求分配的算力系数，该算力系数指示，为所述预测请求分配的硬件算力资源与所述神经网络模型全部在所述计算平台运行时所需的总硬件算力资源的比例；根据所述算力系数，确定本次使用的n个子网络中的k个子网络；将所述待测样本输入所述k个子网络，得到预测结果。算力的可弹性伸缩的档位多，弹性调节算力的空间大。CN115564022ACN115564022A权利要求书1/2页1.一种弹性调节算力的预测方法，通过计算平台执行，所述计算平台部署有经过训练的神经网络模型，所述神经网络模型包括n个子网络，n>2，所述方法包括：接收预测请求，其中包括待测样本；确定针对所述预测请求分配的算力系数，该算力系数指示，为所述预测请求分配的硬件算力资源与所述神经网络模型全部在所述计算平台运行时所需的总硬件算力资源的比例；根据所述算力系数，确定本次使用的n个子网络中的k个子网络；将所述待测样本输入所述k个子网络，得到预测结果。2.如权利要求1所述的方法，其中，所述神经网络模型通过如下方式进行训练：通过梯度提升集成算法，利用多个有标签的训练样本构成的样本集合，依照一定的顺序逐个训练n个子网络。3.如权利要求2所述的方法，其中，所述确定本次使用的n个子网络中的k个子网络，包括：从所述n个子网络中，依照所述顺序选取前k个子网络。4.如权利要求2所述的方法，其中，所述依照一定的顺序逐个训练n个子网络，包括：以最小化总预测损失为目标，利用所述样本集合训练所述n个子网络中的第一子网络；通过残差迭代的方式，利用所述样本集合训练所述n个子网络中的所述第一子网络之后的任一第二子网络。5.如权利要求4所述的方法，其中，任一所述训练样本包括样本用户对应于多项维度特征的特征取值，以及该样本用户针对目标对象的点击概率标签；所述利用所述样本集合训练所述n个子网络中的第一子网络，包括：将任一样本用户对应于多项维度特征的特征取值输入第一子网络，通过第一子网络输出该样本用户针对目标对象的预测点击概率；根据该样本用户针对目标对象的点击概率标签、该样本用户针对目标对象的预测点击概率，以及预设损失函数，确定预测损失；以最小化所述样本集合中各样本用户的预测损失之和为目标，调整所述第一子网络的参数。6.如权利要求4所述的方法，其中，任一所述训练样本包括样本用户对应于多项维度特征的特征取值，以及该样本用户针对目标对象的点击概率标签；所述利用所述样本集合训练所述n个子网络中的所述第一子网络之后的任一第二子网络，包括：将任一样本用户对应于多项维度特征的特征取值分别输入已经训练完成的各个子网络，通过各个子网络分别输出该样本用户针对目标对象的各个第一点击概率；根据该样本用户针对目标对象的点击概率标签、该样本用户针对目标对象的各个第一点击概率，确定残差；以所述残差为拟合目标，调整所述第二子网络的参数。7.如权利要求5或6所述的方法，其中，所述目标对象为备选对象集合中的任一对象。8.如权利要求1所述的方法，其中，所述神经网络模型通过如下方式进行训练：基于混合专家MoE算法，利用多个有标签的训练样本构成的样本集合，分别训练n个子2CN115564022A权利要求书2/2页网络，每个子网络对应于MoE算法中的专家网络。9.如权利要求8所述的方法，其中，所述确定本次使用的n个子网络中的k个子网络，包括：从所述n个子网络中，随机选取k个子网络。10.一种弹性调节算力的预测装置，设置于计算平台，所述计算平台部署有经过训练的神经网络模型，所述神经网络模型包括n个子网络，n>2，所述装置包括：接收单元，用于接收预测请求，其中包括待测样本；系数确定单元，用于确定针对所述接收单元接收的预测请求分配的算力系数，该算力系数指示，为所述预测请求分配的硬件算力资源