多模型探索中的资源调度方法和资源调度装置.pdf

(19)中华人民共和国国家知识产权局(12)发明专利申请(10)申请公布号CN110503208A(43)申请公布日2019.11.26(21)申请号201910791358.3(22)申请日2019.08.26(71)申请人第四范式（北京）技术有限公司地址100085北京市海淀区上地东路35号颐泉汇大厦写字楼A座610室(72)发明人赵庆李瀚桂权力郝玥(74)专利代理机构北京铭硕知识产权代理有限公司11286代理人方成张川绪(51)Int.Cl.G06N20/20(2019.01)G06F9/50(2006.01)权利要求书2页说明书14页附图3页(54)发明名称多模型探索中的资源调度方法和资源调度装置(57)摘要提供多模型探索中的资源调度方法和资源调度装置。多模型探索中的资源调度方法包括：基于同一目标数据集对多个机器学习模型分别进行一轮超参数探索训练，其中，在这一轮探索中每个机器学习模型至少探索M组超参数，M为大于1的正整数；基于所述多个机器学习模型分别在这一轮探索到的多组超参数分别对应的模型评价指标，计算每个机器学习模型的本轮表现得分，以及计算每个机器学习模型的未来潜力得分；综合每个机器学习模型的本轮表现分和未来潜力得分，确定将可用的资源分配给各机器学习模型的资源分配方案；根据所述资源分配方案在下一轮的超参数探索训练中进行相应的资源调度。CN110503208ACN110503208A权利要求书1/2页1.一种多模型探索中的资源调度方法，所述方法包括：基于同一目标数据集对多个机器学习模型分别进行一轮超参数探索训练，其中，在这一轮探索中每个机器学习模型至少探索M组超参数，M为大于1的正整数；基于所述多个机器学习模型分别在这一轮探索到的多组超参数分别对应的模型评价指标，计算每个机器学习模型的本轮表现得分，以及计算每个机器学习模型的未来潜力得分；综合每个机器学习模型的本轮表现分和未来潜力得分，确定将可用的资源分配给各机器学习模型的资源分配方案；根据所述资源分配方案在下一轮的超参数探索训练中进行相应的资源调度。2.如权利要求1所述的资源调度方法，其中，所述计算每个机器学习模型的本轮表现得分包括：从所述多个机器学习模型分别在这一轮探索到的多组超参数分别对应的模型评价指标中确定前K个最佳模型评价指标，其中，K是正整数；对于每个机器学习模型，将该机器学习模型占所述前K个最佳模型评价指标的比例值作为该机器学习模型的本轮表现得分。3.如权利要求1所述的资源调度方法，其中，所述计算每个机器学习模型的未来潜力得分包括：将每个机器学习模型在这一轮探索到的多组超参数分别对应的模型评价指标按先后次序存放在一个数组中，得到所述多个机器学习模型分别对应的多个数组；针对每个机器学习模型，从与该机器学习模型对应的数组提取单调增强数组，将单调增强数组的长度和与该机器学习模型对应的数组的长度的比值作为该机器学习模型的未来潜力得分。4.如权利要求1所述的资源调度方法，其中，所述多个机器学习模型包括带有超参数选择机制的逻辑回归机器学习模型、带有超参数选择机制的朴素贝叶斯机器学习模型、带有超参数选择机制的集成学习模型和带有超参数选择机制的回归相关机器学习模型中的至少两个。5.如权利要求1所述的资源调度方法，其中，所述资源包括中央处理器、存储空间和线程中的至少一个。6.如权利要求1所述的资源调度方法，其中，基于同一目标数据集对多个机器学习模型分别进行一轮超参数探索训练的步骤还包括：判断所述多个机器学习模型中是否存在至少一个机器学习模型满足早停止的条件，其中，当至少一个机器学习模型被确定为满足早停止的条件时，停止所述至少一个机器学习模型的训练，并不对所述至少一个机器学习模型执行计算本轮表现得分和未来潜力得分的步骤。7.如权利要求6所述的资源调度方法，其中，所述早停止的条件包括：当一个机器学习模型的本轮探索超参数对应的模型评价指标连续I次不创新优，则该机器学习模型满足早停止条件；和/或，当一个机器学习模型在本轮探索的J个超参数对应的模型评价指标高于另一个机器学2CN110503208A权利要求书2/2页习模型在本轮的最优评价指标，则所述另一个机器学习模型满足早停止条件。8.一种用于多模型探索的资源调度装置，所述资源调度装置包括：超参数探索训练单元，被配置为基于同一目标数据集对多个机器学习模型分别进行一轮超参数探索训练，其中，在这一轮探索中每个机器学习模型至少探索M组超参数，M为大于1的正整数；得分计算单元，被配置为基于所述多个机器学习模型分别在这一轮探索到的多组超参数分别对应的模型评价指标，计算每个机器学习模型的本轮表现得分，以及计算每个机器学习模型的未来潜力得分；资源分配方案确定单元，被配置为综合每个机器学习模型的本轮表现分和未来潜力得分，确定将可用的资源分配给各机器学