虚拟GPU的实现方法、装置及系统.pdf

(19)中华人民共和国国家知识产权局(12)发明专利申请(10)申请公布号CN108984264A(43)申请公布日2018.12.11(21)申请号201710407827.8(22)申请日2017.06.02(71)申请人阿里巴巴集团控股有限公司地址英属开曼群岛大开曼资本大厦一座四层847号邮箱(72)发明人刘令飞田双太龙欣(74)专利代理机构北京清源汇知识产权代理事务所(特殊普通合伙)11644代理人冯德魁窦晓慧(51)Int.Cl.G06F9/455(2006.01)G06F9/50(2006.01)权利要求书3页说明书15页附图3页(54)发明名称虚拟GPU的实现方法、装置及系统(57)摘要本申请公开了一种虚拟GPU的实现方法。所述虚拟GPU的实现方法包括：以在同一个物理GPU上运行的虚拟GPU的资源要求为依据，为各个虚拟GPU分配对应于其资源要求的运行时间片；在所述物理GPU上设置的所有虚拟GPU的运行时间片之和小于等于预设的调度周期上限；以分配给各个虚拟GPU的所述运行时间片为依据，将所述物理GPU的计算资源按照时间片轮询的方式分配给各个虚拟GPU。CN108984264ACN108984264A权利要求书1/3页1.一种架构系统，其特征在于，包括：控制系统、GPU资源管理器、调度策略单元、支持虚拟化的工具包、虚拟机、虚拟GPU；所述控制系统，用于查询物理机是否有足够的资源创建预设类型的虚拟GPU；所述GPU资源管理器，用于管理、分配物理GPU资源、创建虚拟GPU；所述支持虚拟化的工具包，用于作为控制系统与GPU资源管理器交互的通道以及将虚拟GPU加入到虚拟机配置文件中；所述调度策略单元，用于用动态方式实现对虚拟GPU的调度、增加、删除、升级。2.一种虚拟GPU的实现方法，其特征在于，包括：以在同一个物理GPU上运行的虚拟GPU的资源要求为依据，为各个虚拟GPU分配对应于其资源要求的运行时间片；在所述物理GPU上设置的所有虚拟GPU的运行时间片之和小于等于预设的调度周期上限；以分配给各个虚拟GPU的所述运行时间片为依据，将所述物理GPU的运算资源按照时间片轮询的方式分配给各个虚拟GPU。3.根据权利要求2所述的虚拟GPU的实现方法，其特征在于，在所述物理GPU上设置有多于一个的所述虚拟GPU时，所述虚拟GPU能够设置为具有不同的资源要求的虚拟GPU。4.根据权利要求2所述的虚拟GPU的实现方法，其特征在于，所述将所述物理GPU的计算资源按照时间片轮询的方式分配给各个虚拟GPU，包括：从调度队列中选取下一个待运行的虚拟GPU；调用与所述虚拟GPU对应的物理GPU的寄存器接口运行所述虚拟GPU；当所述虚拟GPU的运行累计时间达到分配给所述虚拟GPU的运行时间片时，通过所述物理GPU寄存器接口，停止所述虚拟GPU运行并保持其状态，然后返回所述从调度队列中选取下一个待运行的虚拟GPU的步骤。5.根据权利要求2所述的虚拟GPU的实现方法，其特征在于，在采用所述虚拟GPU的实现方法的情况下，动态增加物理GPU上运行的虚拟GPU的步骤包括：判断所述物理GPU是否有足够的剩余时间片及足够的帧缓存空间符合待创建虚拟GPU的运算资源要求；若是，从未被使用的帧缓存空间链中划分出所述待创建虚拟GPU所需的帧缓存空间；创建所述待创建虚拟GPU并分配与其对应的虚拟GPUID；将所述待创建虚拟GPU加入调度队列。6.根据权利要求5所述的虚拟GPU的实现方法，其特征在于，所述判断所述物理GPU是否有足够的剩余时间片，包括：判断应当分配给待创建虚拟GPU的时间片与原有虚拟GPU的时间片之和是否小于或等于所述物理GPU的所述调度周期上限；若是，判断为有足够的剩余时间片。7.根据权利要求5所述的虚拟GPU的实现方法，其特征在于，所述判断是否有足够的帧缓存空间的步骤中，所述帧缓存空间是指连续的帧缓存空间。8.根据权利要求5所述的虚拟GPU的实现方法，其特征在于，所述从未被使用的帧缓存空间链中划分出所述待创建虚拟GPU所需的帧缓存空间，包括：从未被使用的帧缓存空间链中找到尺寸最接近待创建虚拟GPU的帧缓存空间的尺寸的2CN108984264A权利要求书2/3页一段，划分出待创建虚拟GPU所述的帧缓存空间。9.根据权利要求2所述的虚拟GPU的调度方法，其特征在于，在采用所述虚拟GPU的实现方法的情况下，动态删除物理GPU上运行的虚拟GPU的步骤，包括：将待删除的虚拟GPU从所述调度队列中移除；将所述待删除的虚拟GPU的运行时间片按照剩余虚拟GPU对运算资源的要求，按照比例分配给剩余的虚拟GPU。10.根据权利要求2所述的虚拟GPU的实现方法，其特征在于，在采用所述虚拟GPU的实现方法的情况下，动态升级物理GPU上运行的虚拟GPU的步骤包括：判断应该分配给升