用于对物理内存池进行分配管理的方法及装置、物理内存池.pdf

(19)中华人民共和国国家知识产权局(12)发明专利申请(10)申请公布号CN113485832A(43)申请公布日2021.10.08(21)申请号202110777376.3(22)申请日2021.07.09(71)申请人支付宝（杭州）信息技术有限公司地址310000浙江省杭州市西湖区西溪路556号8层B段801-11(72)发明人赵军平(74)专利代理机构北京永新同创知识产权代理有限公司11376代理人林锦辉刘景峰(51)Int.Cl.G06F9/50(2006.01)G06F12/06(2006.01)权利要求书3页说明书14页附图3页(54)发明名称用于对物理内存池进行分配管理的方法及装置、物理内存池(57)摘要本说明书实施例提供了一种用于对物理内存池进行分配管理的方法及装置、物理内存池。物理内存池由系统中的GPU显存和其他物理内存构成，物理内存池的管理结构信息包括已释放内存对象集和已分配内存对象集，已释放内存对象集包括物理内存池中经过分配后当前已释放的空闲内存对象，已分配内存对象集包括物理内存池中已分配且当前在使用的内存对象。在该方法中，响应于请求指定容量的内存，在已释放内存对象集中查询是否存在指定容量的内存对象；若存在，对所查询到的指定容量的内存对象进行分配；以及将所分配的内存对象从已释放内存对象集中删除，并增加至已分配内存对象集。CN113485832ACN113485832A权利要求书1/3页1.一种用于对物理内存池进行分配管理的方法，其中，所述物理内存池由系统中的GPU显存和其他物理内存构成，所述物理内存池的管理结构信息包括已释放内存对象集和已分配内存对象集，其中，所述已释放内存对象集包括所述物理内存池中经过分配后当前已释放的空闲内存对象，所述已分配内存对象集包括所述物理内存池中已分配且当前在使用的内存对象，所述方法包括：响应于请求指定容量的内存，在所述已释放内存对象集中查询是否存在所述指定容量的内存对象；若存在，对所查询到的所述指定容量的内存对象进行分配；以及将所分配的内存对象从所述已释放内存对象集中删除，并增加至所述已分配内存对象集。2.如权利要求1所述的方法，还包括：在所述已释放内存对象集中不存在所述指定容量的内存对象时，在所述物理内存池的未分配内存中分配所述指定容量的内存对象；以及将所分配的内存对象增加至所述已分配内存对象集。3.如权利要求2所述的方法，还包括：在所述未分配内存的容量小于所述指定容量时，对所述已释放内存对象集中容量大于所述指定容量的内存对象进行分配；以及将所分配的内存对象从所述已释放内存对象集中删除，并增加至所述已分配内存对象集。4.如权利要求3所述的方法，其中，所述管理结构信息还包括内存对象容量信息，所述内存对象容量信息用于记录所述已释放内存对象集和所述已分配内存对象集中的内存对象容量，在所述未分配内存的容量小于所述指定容量时，对所述已释放内存对象集中容量大于所述指定容量的内存对象进行分配包括：在所述未分配内存的容量小于所述指定容量时，使用所述内存对象容量信息查询所述已释放内存对象集中容量大于所述指定容量且与所述指定容量的容量差最小的已释放内存对象；以及对所查询到的已释放内存对象进行分配。5.如权利要求1所述的方法，其中，所述方法应用于深度学习，响应于请求指定容量的内存，在所述已释放内存对象集中查询是否存在所述指定容量的内存对象包括：在所述深度学习的第一轮循环时，响应于请求指定容量的内存，在所述已释放内存对象集中查询是否存在所述指定容量的内存对象。6.如权利要求5所述的方法，还包括：针对所述深度学习在第一轮循环后的每一轮循环，复用所述第一次循环中分配的内存对象和/或内存对象中的数据。7.如权利要求5所述的方法，其中，所述物理内存池被配置成静态内存区域和动态内存区域，2CN113485832A权利要求书2/3页所述静态内存区域用于为所述深度学习中被频繁访问且小于指定大小的第一数据分配内存对象，所述静态内存区域被配置在所述物理内存池的GPU显存中；所述动态内存区域用于为所述深度学习中除所述第一数据以外的其他数据分配内存对象。8.如权利要求7所述的方法，其中，所述动态内存区域包括用于为多次使用的数据分配内存对象的第一动态内存区域和用于为一次性数据分配内存对象的第二动态内存区域。9.如权利要求8所述的方法，其中，在物理内存池中，所述静态内存区域与所述动态内存区域相邻；所述动态内存区域的起始地址端是所述第一动态内存区域的起始地址端，所述动态内存区域的结束地址端是所述第二动态内存区域的结束地址端；或者，所述动态内存区域的起始地址端是所述第二动态内存区域的起始地址端，所述动态内存区域的结束地址端是所述第一动态内存区域的结束地址端。10.如权利要求9所述的方法，其中，在所述静态内存区域的结束地址端