卷积神经网络模型剪枝方法和装置、电子设备、存储介质.pdf
含平****ng
亲,该文档总共19页,到这已经超出免费预览范围,如果喜欢就直接下载吧~
相关资料
卷积神经网络模型剪枝方法和装置、电子设备、存储介质.pdf
本公开实施例提供卷积神经网络模型剪枝方法和装置、电子设备、存储介质,涉及人工智能技术领域。该卷积神经网络模型剪枝方法,包括:获取待剪枝模型的损失函数,对损失函数进行泰勒展开,得到第一参数重要性指标值和第二参数重要性指标值;根据第一参数重要性指标值和第二参数重要性指标值计算每个滤波器对应的剪枝重要性指标;根据预设剪枝率和每个滤波器对应的剪枝重要性指标,对待剪枝模型进行剪枝得到剪枝模型。本实施例考虑滤波器之间的关系以及模型中每个卷积层内部滤波器的冗余信息,量化滤波器的重要性,提高卷积神经网络模型剪枝的准确率,
卷积神经网络量化方法、装置、电子设备和存储介质.pdf
本发明提供一种卷积神经网络量化方法、装置、电子设备和存储介质,其中方法包括:按照预设的重要权重优先原则,分别获取预训练卷积神经网络中每一层的第一量化权重范围;其中,所述重要权重优先原则包括基于每一层原始权重的幂指数出现频次确定的原则;对所述第一量化权重范围分别进行权重数量扩充处理,得到所述每一层的第二量化权重范围;基于所述第二量化权重范围,确定所述预训练卷积神经网络的目标量化权重范围。本发明能够实现在相同量化位宽的情况下增加量化范围及减小精度损失的目的,不仅能够减少网络模型的存储空间、减小计算量、减少能源
神经网络剪枝方法、装置、电子设备、存储介质及产品.pdf
本申请提供了一种神经网络剪枝方法、装置、电子设备、存储介质及产品,属于人工智能技术领域。方法包括:对于第一神经网络的任一输出通道,确定所述输出通道对应的多个网络参数的重要参数;将所述多个网络参数的重要参数,转换为所述输出通道的重要参数;基于所述第一神经网络的多个输出通道的重要参数,对所述第一神经网络的多个输出通道进行掩膜处理;从所述第一神经网络中删除目标输出通道得到第二神经网络,所述目标输出通道为掩膜值为第一数值的输出通道。本申请能够将结构化剪枝方式和非结构化剪枝方式进行结合,从而将非结构化剪枝的优点共享
神经网络的剪枝方法及其剪枝装置、存储介质、设备.pdf
本发明公开了一种神经网络的剪枝方法及其剪枝装置、存储介质、设备。剪枝方法包括:获取训练完成的目标神经网络,所述目标神经网络包括若干残差层;利用测试样本集逐层评估每一层残差层的重要性,获得每一层残差层的重要性程度值;将重要性程度值小于阈值的残差层去除,获得剪枝后的目标神经网络;利用训练样本集训练剪枝后的目标神经网络,以优化剪枝后的目标神经网络的参数。本方案可以逐层测试网络各层参数的重要性,通过在测试集上结果的表现直观地给出了各层各参数的重要性,提高了剪枝方法的通用性和可解释性。
神经网络模型的编译方法和装置、电子设备和存储介质.pdf
本公开实施例公开了一种神经网络模型的编译方法和装置、电子设备和存储介质,其中,方法包括:获取待编译神经网络模型对应的第一模型;针对第一模型的至少一个MUL层中的第一MUL层,将第一MUL层的第一输入张量和第二输入张量的元素对应相乘运算变换为深度卷积运算,并将深度卷积运算获得的第一输出张量变换为与第一MUL层的原输出张量数据结构相同的第二输出张量,获得第一MUL层对应的优化后的第二MUL层;基于各优化后的第二MUL层获得第一模型对应的优化模型;将优化模型编译为对应的二进制的目标模型。本公开实施例使得神经网络