数据预加载装置及其预加载方法、存储介质和计算机设备.pdf

(19)中华人民共和国国家知识产权局(12)发明专利申请(10)申请公布号CN114090470A(43)申请公布日2022.02.25(21)申请号202010742731.9(22)申请日2020.07.29(71)申请人中国科学院深圳先进技术研究院地址518055广东省深圳市南山区深圳大学城学苑大道1068号(72)发明人王峥王卓(74)专利代理机构深圳市铭粤知识产权代理有限公司44304代理人孙伟峰(51)Int.Cl.G06F12/0871(2016.01)G06F9/445(2018.01)G06N3/063(2006.01)权利要求书2页说明书9页附图5页(54)发明名称数据预加载装置及其预加载方法、存储介质和计算机设备(57)摘要本发明公开了一种数据预加载装置及其预加载方法、存储介质和计算机设备。所述数据预加载方法包括：获取原始数据集和补零数据集，所述原始数据集和所述补零数据集共同构成卷积神经网络的输入数据集；在各个计算单元进行卷积计算之前，将所述输入数据集中的数据按照预定分配方式存储至各个计算单元对应的缓存中，以分别在各个计算单元的缓存中形成不同的目标数据集，其中，目标数据集中的数据为计算单元在卷积计算过程中所需的数据。通过对原始数据和补零数据进行时间排序或空间排序，形成输入数据集，将输入数据集中各个数据分配至不同计算单元的缓存中，从而提高数据复用性，降低内存读取次数，降低数据准备时间，降低层计算间延迟，降低芯片整体功耗。CN114090470ACN114090470A权利要求书1/2页1.一种用于卷积神经网络的数据预加载方法，其特征在于，所述数据预加载方法包括：获取原始数据集和补零数据集，所述原始数据集和所述补零数据集共同构成卷积神经网络的输入数据集；在各个计算单元进行卷积计算之前，将所述输入数据集中的数据按照预定分配方式存储至各个计算单元对应的缓存中，以分别在各个计算单元的缓存中形成不同的目标数据集，其中，目标数据集中的数据为计算单元在卷积计算过程中所需的数据。2.根据权利要求1所述的用于卷积神经网络的数据预加载方法，其特征在于，将所述输入数据集中的数据按照预定分配方式存储至各个计算单元对应的缓存中的具体方法包括：将所述原始数据集的各个数据和所述补零数据集的各个数据按照预设空间顺序拼接形成输入数据集；获取各个计算单元的预先设置的目标地址，所述目标地址为每个所述计算单元在进行卷积计算时所需数据对应的空间地址；将所述输入数据集中空间地址与目标地址相同的数据存储到每个计算单元对应的缓存中。3.根据权利要求2所述的用于卷积神经网络的数据预加载方法，其特征在于，每个计算单元的目标地址为多个，且至少有两个计算单元的部分目标地址相同。4.根据权利要求3所述的用于卷积神经网络的数据预加载方法，其特征在于，每个计算单元的目标地址包括多个地址区段，其中，同一个地址区段内的地址连续排列，不同地址区段之间的地址间隔排列。5.根据权利要求1所述的用于卷积神经网络的数据预加载方法，其特征在于，将所述输入数据集中的数据按照预定分配方式存储至各个计算单元对应的缓存中的具体方法包括：对所述原始数据集的各个数据和所述补零数据集的各个数据按照预设时间顺序设置时间编号；获取各个计算单元的预先设置的目标序列，所述目标序列为每个所述计算单元在进行卷积计算时所需数据对应的时间编号；将所述原始数据集和所述补零数据集中时间编号与目标序列相同的数据存储到每个计算单元对应的缓存中。6.根据权利要求5所述的用于卷积神经网络的数据预加载方法，其特征在于，每个计算单元的目标序列为多个，且至少有两个计算单元的部分目标序列相同。7.根据权利要求6所述的用于卷积神经网络的数据预加载方法，其特征在于，每个计算单元的目标序列包括多个序列区段，其中，同一个序列区段内的时间编号连续排列，不同序列区段之间的时间编号间隔排列。8.一种用于卷积神经网络的数据预加载装置，其特征在于，所述数据预加载装置包括：数据获取模块，用于获取原始数据集和补零数据集，其中所述原始数据集和所述补零数据集共同构成卷积神经网络的输入数据集；数据分配模块，用于在各个计算单元进行卷积计算之前，将所述输入数据集中的数据按照预定分配方式存储至各个计算单元对应的缓存中，以分别在各个计算单元的缓存中形成不同的目标数据集，其中，目标数据集中的数据为计算单元在卷积计算过程中所需的数据。2CN114090470A权利要求书2/2页9.根据权利要求8所述的用于卷积神经网络的数据预加载装置，其特征在于，所述数据加载装置还包括配置解码器，所述配置解码器用于接收配置文件并根据接收到的配置文件生成预设空间顺序和各个计算单元的目标地址，所述目标地址为每个所述计算单元在进行卷积计算时所需数据对应的空间地址；所述数据分配模块包括：数据拼接单