一种基于安全内存的存储优化方法及系统.pdf

(19)中华人民共和国国家知识产权局(12)发明专利申请(10)申请公布号CN111240606A(43)申请公布日2020.06.05(21)申请号202010329956.1(22)申请日2020.04.24(71)申请人支付宝（杭州）信息技术有限公司地址310000浙江省杭州市西湖区西溪路556号8层B段801-11(72)发明人吴秉哲陈超超王力(74)专利代理机构成都七星天知识产权代理有限公司51253代理人杨永梅(51)Int.Cl.G06F3/06(2006.01)权利要求书3页说明书14页附图4页(54)发明名称一种基于安全内存的存储优化方法及系统(57)摘要本说明书一个或多个实施例涉及一种基于安全内存的存储优化方法；所述方法包括：获取安全内存的可用容量；获取模型或者模型某一层的待计算数据；获取所述模型或者模型某一层的权重；根据所述权重，以及所述待计算数据，确定内存需求量；所述内存需求量为完成计算预计需要占用的安全内存的存储空间；将所述内存需求量与所述内存的可用容量进行对比；当比较结果满足预设条件时，对所述权重进行修正，获取量化权重，基于所述量化权重进行计算；所述量化权重对内存的需求量小于所述权重对内容的需求量。CN111240606ACN111240606A权利要求书1/3页1.一种基于安全内存的存储优化方法；所述方法包括：获取安全内存的可用容量；获取模型或者模型某一层的待计算数据；获取所述模型或者模型某一层的权重；根据所述权重，以及所述待计算数据，确定内存需求量；所述内存需求量为完成计算预计需要占用的安全内存的存储空间；将所述内存需求量与所述内存的可用容量进行对比；当比较结果满足预设条件时，对所述权重进行修正，获取量化权重，基于所述量化权重进行计算；所述量化权重对内存的需求量小于所述权重对内容的需求量。2.根据权利要求1所述的方法，所述预设条件包括：所述内存需求量大于所述安全内存的可用容量。3.根据权利要求1所述的方法，所述当比较结果满足预设条件时，对所述权重进行修正，获取量化权重包括：确定所述权重的最大值与最小值；根据所述权重最大值与最小值，确定对应于权重的权值表示；根据所述权值表示，得到量化权重。4.根据权利要求3所述的方法，所述根据所述权重的最大值与最小值，确定对应于权重矩阵的权值表示包括：根据所述权重的最大值与最小值，确定所述权值表示的整数位数；根据所述权值表示的整数位数，确定权重的量化系数；所述量化系数是指权重缩放的系数；根据所述权重的量化系数和所述权值的整数位数确定权重的权值表示。5.根据权利要求1所述的方法，所述基于所述量化权重进行计算包括：基于所述量化权重更新内存需求量；将所述更新后的内存需求量与所述可用容量进行对比；当比较结果满足预设条件时，更新所述待计算数据和/或者所述量化权重，使得所述安全内存需求量小于所述安全内存的可用容量。6.根据权利要求5所述的方法，所述更新所述待计算数据和/或者所述量化权重，使得所述安全内存需求量小于所述安全内存的可用容量包括：减少所述待计算数据，并基于减少后的待计算数据更新所述内存需求量，使得更新后的所述内存需求量小于所述安全内容的存储容量。7.根据权利要求5所述的方法，所述更新所述待计算数据和/或者所述量化权重，使得所述安全内存需求量小于所述安全内存的可用容量还包括：对所述量化权重进行迭代量化，并基于迭代量化后的量化权重更新所述内存需求量，使得更新后的所述内存需求量小于所述安全内容的存储容量；所述迭代量化指的是对所述量化权重再一次进行量化。8.根据权利要求1所述的方法，所述存储优化方法用于神经网络前向传播。9.根据权利要求1所述的方法，所述存储优化方法用于处理可信执行环境中的数据。10.一种基于安全内存的存储优化系统，所述系统包括：2CN111240606A权利要求书2/3页可用容量获取模块，用于获取内存的可用容量；数据获取模块，用于获取模型或者模型某一层的待计算数据和权重；内存需求量确定模块，用于根据所述权重，以及所述待计算数据，确定内存需求量；所述内存需求量为完成计算预计需要占用的存储空间；数据对比模块，用于比较所述内存需求量与所述可用容量的关系；以及数据更新模块，用于当比较结果满足预设条件时，对所述权重进行修正，获取量化权重，基于所述量化权重进行计算；所述量化权重对内存的需求量小于所述权重对内容的需求量。11.根据权利要求10所述的系统，所述预设条件包括：所述内存需求量大于所述安全内存的可用容量；当所述内存需求量大于所述安全内存的可用容量时，所述数据更新模块用于对所述权重进行修正，获取量化权重。12.根据权利要求10所述的系统，当比较结果满足预设条件时，数据更新模块还用于：确定所述权重的最大值与最小值；根据所述权重最大值与最小值，确定对应于权重的权值表示