数据处理方法、卷积神经网络训练方法、装置和FPGA.pdf

(19)国家知识产权局(12)发明专利申请(10)申请公布号CN115034351A(43)申请公布日2022.09.09(21)申请号202110241125.3(22)申请日2021.03.04(71)申请人杭州海康威视数字技术股份有限公司地址310051浙江省杭州市滨江区阡陌路555号(72)发明人陈汝丹张渊(74)专利代理机构北京柏杉松知识产权代理事务所(普通合伙)11413专利代理师项京马敬(51)Int.Cl.G06N3/04(2006.01)G06N3/063(2006.01)G06N3/08(2006.01)权利要求书5页说明书24页附图11页(54)发明名称数据处理方法、卷积神经网络训练方法、装置和FPGA(57)摘要本申请实施例提供了一种数据处理方法、卷积神经网络训练方法、装置和FPGA，可以获取待处理图片并存储至预设存储空间，FPGA可以从预设存储空间获取待处理图片，通过卷积层运算核，基于目标卷积神经网络中每一卷积层对应的目标参数矩阵，对待处理图片进行处理，得到最终的特征图，存储至预设存储空间；目标卷积神经网络中每一卷积层对应的目标参数矩阵中的元素，与该卷积层中的卷积核一一对应；该卷积层中的卷积核包含：压缩卷积核和非压缩卷积核，且压缩卷积核的大小小于非压缩卷积核。进而，可以从预设存储空间获取最终的特征图。如此，能够提高基于卷积神经网络进行数据处理的效率。CN115034351ACN115034351A权利要求书1/5页1.一种数据处理方法，其特征在于，所述方法包括：获取待处理图片；将所述待处理图片存储至预设存储空间，以使现场可编程逻辑门阵列FPGA从所述预设存储空间获取所述待处理图片，并通过卷积层运算核，基于目标卷积神经网络中每一卷积层对应的目标参数矩阵，对所述待处理图片进行处理，得到最终的特征图，并存储至所述预设存储空间；其中，所述目标卷积神经网络中每一卷积层对应的目标参数矩阵中的元素，与该卷积层中的卷积核一一对应；该卷积层中的卷积核包含：压缩卷积核和非压缩卷积核，且压缩卷积核的大小小于非压缩卷积核；该目标参数矩阵的行数和列数是分别基于该卷积层的输出通道的数目和输入通道的数目预先设置的；所述目标卷积神经网络为：针对初始卷积神经网络中的每一卷积层，将该卷积层中指定的部分卷积核进行压缩得到压缩卷积核，并进行模型训练得到的；所述指定的部分卷积核为基于该卷积层的输入通道的数目、输出通道的数目，以及所述FPGA的卷积层运算核的输入并行度和输出并行度设置的；从所述预设存储空间获取所述最终的特征图。2.根据权利要求1所述的方法，其特征在于，所述目标卷积神经网络中每一卷积层对应的目标参数矩阵中的元素分为多个元素组；该目标参数矩阵的行数为该卷积层的输出通道的数目，该目标参数矩阵的列数为该卷积层的输入通道的数目；每一元素组包含M×N个元素；每一元素组与一组压缩卷积核对应或与一组非压缩卷积核对应；所述多个元素组中至少两个元素组的卷积核的大小相同，且至少两个元素组的卷积核大小不同；M为所述卷积层运算核的输入并行度，N为所述卷积层运算核的输出并行度，以使所述FPGA通过所述卷积层运算核，基于该卷积层对应的目标参数矩阵，以并行方式进行卷积处理。3.根据权利要求2所述的方法，其特征在于，所述目标卷积神经网络中每一卷积层对应的目标参数矩阵的获取过程包括：针对初始卷积神经网络中的每一卷积层，基于该卷积层的输入通道的数目、输出通道的数目，以及所述卷积层运算核的输入并行度和输出并行度，确定对该卷积层进行压缩的压缩步长；其中，所述压缩步长用于指示：对该卷积层进行压缩时，该卷积层中需要压缩的卷积核所占的比例；按照确定的压缩步长，将该卷积层中指定的部分卷积核压缩为目标卷积核，得到备选卷积神经网络；对所述备选卷积神经网络进行训练，得到目标卷积神经网络；生成所述目标卷积神经网络中每一卷积层对应的目标参数矩阵。4.根据权利要求3所述的方法，其特征在于，所述针对初始卷积神经网络中的每一卷积层，基于该卷积层的输入通道的数目、输出通道的数目，以及所述卷积层运算核的输入并行度和输出并行度，确定对该卷积层进行压缩的压缩步长，包括：针对初始卷积神经网络中的每一卷积层，计算该卷积层的输入通道的数目，与所述卷积层运算核的输入并行度的比值，作为第一比值，以及计算该卷积层的输出通道的数目，与所述卷积层运算核的输出并行度的比值，作为第二比值；基于所述第一比值和所述第二比值，确定对该卷积层进行压缩时的第一压缩步长和第二压缩步长；其中，所述第一压缩步长用于指示：对该卷积层进行压缩时，每一输出通道对2CN115034351A权利要求书2/5页应的卷积核中需要压缩的卷积核所占的比例；所述第二压缩步长用于指示：对该卷积层进行压缩时，每一输入通道对应的卷积核中需要压缩的卷积核所占的比例