GPU任务的分配方法、装置、电子设备和存储介质.pdf

(19)国家知识产权局(12)发明专利申请(10)申请公布号CN115080253A(43)申请公布日2022.09.20(21)申请号202211013408.3(22)申请日2022.08.23(71)申请人小米汽车科技有限公司地址100176北京市北京经济技术开发区科创十街15号院5号楼6层618室(72)发明人刘国明刘俊涛(74)专利代理机构北京法胜知识产权代理有限公司11922专利代理师石茵汀(51)Int.Cl.G06F9/50(2006.01)G06F9/48(2006.01)权利要求书2页说明书12页附图4页(54)发明名称GPU任务的分配方法、装置、电子设备和存储介质(57)摘要本公开提出一种GPU任务的分配方法、装置、电子设备和存储介质，涉及计算机领域，该方法包括：确定待分配的第一任务对应的第一周期长度，以及单位周期内的第一GPU利用率曲线；获取周期长度与第一周期长度相同的目标任务集合，以及目标任务集合中每个第二任务在单位周期内的第二GPU利用率曲线；根据第一GPU利用率曲线和每个第二GPU利用率曲线，计算每个第二任务对应的第三GPU利用率曲线；根据各个第二任务对应的第三GPU利用率曲线，从各个第二任务中选取满足预设条件的目标任务；将第一任务分配至目标任务当前所在的GPU中。由此，使得当前分配的任务和目标任务共享一个GPU，从而在不影响GPU稳定工作的前提下，降低GPU的使用量，降低了企业的运营成本。CN115080253ACN115080253A权利要求书1/2页1.一种GPU任务的分配方法，其特征在于，包括：确定待分配的第一任务对应的第一周期长度，以及单位周期内的第一GPU利用率曲线；获取周期长度与所述第一周期长度相同的目标任务集合，以及所述目标任务集合中每个第二任务在单位周期内的第二GPU利用率曲线；根据所述第一GPU利用率曲线和每个所述第二GPU利用率曲线，计算每个所述第二任务对应的第三GPU利用率曲线；根据各个所述第二任务对应的第三GPU利用率曲线，从各个所述第二任务中选取满足预设条件的目标任务；将所述第一任务分配至所述目标任务当前所在的GPU中。2.根据权利要求1所述的方法，其特征在于，所述确定待分配的第一任务对应的第一周期长度，以及单位周期内的第一GPU利用率曲线，包括：对所述第一任务关联的GPU利用率曲线进行解析，以确定所述第一任务对应的第一周期长度及所述第一GPU利用率曲线。3.如权利要求2所述的方法，其特征在于，在所述确定待分配的第一任务对应的第一周期长度，以及单位周期内的第一GPU利用率曲线之后，还包括：根据所述第一周期长度，从各个候选任务集合中确定出目标任务集合；将所述第一任务的标识与所述第一GPU利用率曲线关联存入所述目标任务集合。4.根据权利要求3所述的方法，其特征在于，所述根据所述第一周期长度，从各个候选任务集合中确定出目标任务集合，包括：响应于各个候选任务集合对应的周期长度均与所述第一周期长度不同，将对应周期长度大于所述第一周期长度、且与所述第一周期长度间的差值最小的任一候选任务集合，确定为目标任务集合。5.根据权利要求1所述的方法，其特征在于，所述根据各个所述第二任务对应的第三GPU利用率曲线，从各个所述第二任务中选取满足预设条件的目标任务，包括：根据每个所述第二任务对应的第三GPU利用率曲线中各个时刻的GPU利用率，确定每个所述第二任务在所述各个时刻中的最大GPU利用率，以及每个所述第二任务对应的平均GPU利用率；在任一第二任务对应的所述最大GPU利用率小于预设阈值，且所述任一第二任务对应的平均GPU利用率为各个所述第二任务对应的平均GPU利用率中的最高值的情况下，确定所述任一第二任务为所述目标任务。6.根据权利要求1所述的方法，其特征在于，还包括：响应于未获取到所述目标任务集合，将所述第一任务分配在未部署任务的GPU中；创建与所述第一周期长度对应的候选任务集合，其中，所述候选任务集合中包含所述第一任务及所述第一GPU利用率曲线。7.一种GPU任务的分配装置，其特征在于，包括：确定模块，用于确定待分配的第一任务对应的第一周期长度，以及单位周期内的第一GPU利用率曲线；获取模块，用于获取周期长度与所述第一周期长度相同的目标任务集合，以及所述目标任务集合中每个第二任务在单位周期内的第二GPU利用率曲线；2CN115080253A权利要求书2/2页计算模块，用于根据所述第一GPU利用率曲线和每个所述第二GPU利用率曲线，计算每个所述第二任务对应的第三GPU利用率曲线；选取模块，用于根据各个所述第二任务对应的第三GPU利用率曲线，从各个所述第二任务中选取满足预设条件的目标任务；第一分配模块，用于将所述第一任务分配至所述目标任务当前所在的GPU中。8.根据权利要求7所述的装置，其特