内存分配方法及装置、设备、存储介质.pdf

(19)中华人民共和国国家知识产权局(12)发明专利申请(10)申请公布号CN113886090A(43)申请公布日2022.01.04(21)申请号202111234163.2(22)申请日2021.10.22(71)申请人哲库科技（北京）有限公司地址100000北京市朝阳区朝阳公园南路10号院2号楼15层1501室(72)发明人唐思巍(74)专利代理机构北京派特恩知识产权代理有限公司11270代理人崔晓岚张颖玲(51)Int.Cl.G06F9/50(2006.01)G06N3/04(2006.01)权利要求书2页说明书12页附图7页(54)发明名称内存分配方法及装置、设备、存储介质(57)摘要本申请公开了内存分配方法及装置、设备、存储介质；其中，所述方法包括：基于神经网络的计算节点的内存用量和占用内存的时间信息，定义所述计算节点的矩形块；其中，所述矩形块在第一维度的边长表示所述内存用量，所述矩形块在第二维度的边长表示所述时间信息，所述第一维度垂直于所述第二维度；在所述第一维度上对所述神经网络的各个所述计算节点的所述矩形块进行堆叠排布，从而排布出在所述第一维度上的整体长度满足第一条件的目标排布结果；基于所述目标排布结果，为所述神经网络的各个所述计算节点分配相应的内存地址。CN113886090ACN113886090A权利要求书1/2页1.一种内存分配方法，其特征在于，所述方法包括：基于神经网络的计算节点的内存用量和占用内存的时间信息，定义所述计算节点的矩形块；其中，所述矩形块在第一维度的边长表示所述内存用量，所述矩形块在第二维度的边长表示所述时间信息，所述第一维度垂直于所述第二维度；在所述第一维度上对所述神经网络的各个所述计算节点的所述矩形块进行堆叠排布，从而排布出在所述第一维度上的整体长度满足第一条件的目标排布结果；基于所述目标排布结果，为所述神经网络的各个所述计算节点分配相应的内存地址。2.根据权利要求1所述的方法，其特征在于，在定义所述计算节点的矩形块之前，所述方法还包括：确定所述神经网络的各个所述计算节点在运行时的所述内存用量和占用内存的所述时间信息。3.根据权利要求1所述的方法，其特征在于，所述在所述第一维度上对所述神经网络的各个所述计算节点的所述矩形块进行堆叠排布，从而排布出在所述第一维度上的整体长度满足第一条件的目标排布结果，包括：分别评估每一待排布的所述矩形块在所述第一维度上堆叠排布时对减小所述目标排布结果的整体长度的贡献参数；基于所述贡献参数满足第二条件的待排布的所述矩形块，确定目标矩形块；将所述目标矩形块在所述第一维度上堆叠排布时与当前已确定的排布结果组成的第一排布结果，更新为所述已确定的排布结果；重复上述步骤，直至没有待排布的所述矩形块为止，将最终得到的所述已确定的排布结果作为所述目标排布结果。4.根据权利要求3所述的方法，其特征在于，所述分别评估每一待排布的所述矩形块在所述第一维度上堆叠排布时对减小所述目标排布结果的整体长度的贡献参数，包括：分别确定每一待排布的所述矩形块在所述第一维度上堆叠排布时与当前已确定的排布结果组成的第一排布结果在所述第一维度上的最大的第一长度，将所述第一长度作为对应的矩形块的贡献参数；相应地，所述基于所述贡献参数满足第二条件的待排布的所述矩形块，确定目标矩形块，包括：将其中最小的所述第一长度对应的待排布的所述矩形块作为第一矩形块，基于所述第一矩形块，确定所述目标矩形块。5.根据权利要求4所述的方法，其特征在于，所述基于所述第一矩形块，确定所述目标矩形块，包括：在所述第一矩形块为一个时，将所述第一矩形块确定为所述目标矩形块。6.根据权利要求5所述的方法，其特征在于，还包括：在所述第一矩形块为两个或两个以上时，将不是最小的第一长度对应的待排布的所述矩形块作为第二矩形块，在所述第一矩形块在所述第一维度上堆叠排布之后，将各个所述第二矩形块分别在所述第一维度上堆叠排布，得到各自对应的第二排布结果；确定每一所述第一矩形块对应的每一所述第二排布结果各自在所述第一维度上的最大的第二长度；2CN113886090A权利要求书2/2页将其中最小的第二长度对应的所述第一矩形块和所述第二矩形块确定为所述目标矩形块。7.根据权利要求1所述的方法，其特征在于，所述在所述第一维度上对所述神经网络的各个所述计算节点的所述矩形块进行堆叠排布，从而排布出在所述第一维度上的整体长度满足第一条件的目标排布结果，包括：列举各个所述计算节点的所述矩形块在所述第一维度上的堆叠排布方式，得到第三排布结果；根据所述第三排布结果，确定在所述第一维度上的最大的第三长度；将所述第三排布结果中所述第三长度满足所述第一条件的排布结果确定为所述目标排布结果。8.一种内存分配装置，其特征在于，包括：定义模块，配置成基于神经网络的计算节点