边缘节点的GPU运行方法、装置、电子设备及介质.pdf

(19)国家知识产权局(12)发明专利申请(10)申请公布号CN115082286A(43)申请公布日2022.09.20(21)申请号202210700146.1(22)申请日2022.06.20(71)申请人网易(杭州)网络有限公司地址310052浙江省杭州市滨江区网商路599号网易大厦(72)发明人陈京来赵增刘柏范长杰胡志鹏(74)专利代理机构北京超凡宏宇专利代理事务所(特殊普通合伙)11463专利代理师高燕(51)Int.Cl.G06T1/20(2006.01)G06F9/50(2006.01)权利要求书2页说明书14页附图3页(54)发明名称边缘节点的GPU运行方法、装置、电子设备及介质(57)摘要本申请提供一种边缘节点的GPU运行方法、装置、电子设备及介质，该方法包括：获取GPU任务的任务处理信息，任务处理信息包括任务标识，任务标识用于指示GPU任务的任务类型；创建与任务标识所指示的任务类型对应的Pod；按照与任务标识所指示的任务类型对应的边缘节点搜索策略搜索目标边缘节点；将所创建的Pod调度到目标边缘节点上，以由目标边缘节点执行GPU任务。通过本申请，能够针对不同任务类型的GPU任务采用相应的调度方式，有效提升了边缘节点的GPU使用效率。CN115082286ACN115082286A权利要求书1/2页1.一种边缘节点的GPU运行方法，其特征在于，包括：获取GPU任务的任务处理信息，所述任务处理信息包括任务标识，所述任务标识用于指示GPU任务的任务类型；创建与所述任务标识所指示的任务类型对应的Pod；按照与所述任务标识所指示的任务类型对应的边缘节点搜索策略搜索目标边缘节点；将所创建的Pod调度到所述目标边缘节点上，以由所述目标边缘节点执行所述GPU任务。2.根据权利要求1所述的方法，其特征在于，所述任务类型包括GPU独享任务，与GPU独享任务对应的边缘节点搜索策略为基于GPU独享任务针对GPU的设备需求来搜索边缘节点。3.根据权利要求2所述的方法，其特征在于，按照所述任务需求信息所指示的边缘节点搜索策略搜索目标边缘节点的步骤包括：确定节点池中的各边缘节点的运行状态，所述运行状态包括工作状态和空闲状态；将从处于空闲状态的边缘节点中搜索到的满足GPU独享任务针对GPU的设备需求的边缘节点，确定为所述目标边缘节点。4.根据权利要求1所述的方法，其特征在于，所述任务类型包括GPU共享任务组，与GPU共享任务组对应的边缘节点搜索策略为基于针对GPU共享任务组所预先设置的占用标识来搜索边缘节点。5.根据权利要求4所述的方法，其特征在于，所述任务处理信息还包括针对GPU共享任务组所预先设置的占用标识，所述GPU共享任务组包括多个共享子任务，其中，通过以下方式为每个共享子任务确定目标边缘节点：从节点池的各边缘节点中搜索是否存在具有所述GPU共享任务组对应的占用标识的边缘节点；若存在，则将搜索到的边缘节点确定为用于执行该共享子任务的目标边缘节点；若不存在，则从节点池中不执行GPU独享任务的边缘节点中选取一边缘节点，并将所选取的边缘节点确定为用于执行该共享子任务的目标边缘节点。6.根据权利要求5所述的方法，其特征在于，还包括：为从不执行GPU独享任务的边缘节点中所选取的边缘节点添加占用标识；在所述目标边缘节点执行完成GPU共享任务组中的所有共享子任务之后，清除为所述目标边缘节点所添加的占用标识。7.根据权利要求1所述的方法，其特征在于，将所创建的Pod调度到所述目标边缘节点上，以由所述目标边缘节点执行所述GPU任务的步骤包括：在启动Pod时，调用GPU设备插件以获得设备环境变量，所述设备环境变量由GPU设备插件通过以下方式获得：获取GPU任务针对GPU的设备需求，按照所述设备需求从所述目标边缘节点中选取GPU，基于所选取的GPU的设备信息生成设备环境变量；将所获得的设备环境变量注入Pod，并启动容器以执行所述GPU任务。8.根据权利要求7所述的方法，其特征在于，还包括：在启动容器时，根据所述设备环境变量中所声明的设备信息，将所述设备信息所指示的GPU映射到容器中，并将所述设备信息所指示的GPU的驱动库也映射到容器中。9.根据权利要求1所述的方法，其特征在于，还包括：对节点池中的各边缘节点进行节2CN115082286A权利要求书2/2页点注册，其中，通过以下方式为每个边缘节点进行节点注册：在该边缘节点上构建信息查看工具；通过该边缘节点上的边缘组件调用信息查看工具，以按照预设信息规范获取GPU状态信息；通过该边缘节点上的GPU设备插件调用所述边缘组件，以基于所获取的GPU状态信息完成节点注册。10.根据权利要求9所述的方法，其特征在于，通过以下方式在每个边缘节点上构建信息查看工具：根据该边缘节点的节点环境和布置在该边缘节点上的GPU的