基于矩阵分解模型的剪枝方法、装置、设备、存储介质.pdf
哲妍****彩妍
亲,该文档总共19页,到这已经超出免费预览范围,如果喜欢就直接下载吧~
相关资料
基于矩阵分解模型的剪枝方法、装置、设备、存储介质.pdf
本发明公开了一种基于矩阵分解模型的剪枝方法,包括:获取目标矩阵分解模型的模型结构数据,其中,模型结构数据包括多个矩阵参数;多个矩阵参数的每一行分别对应一个目标用户或一个目标物品;根据多个矩阵参数确定目标矩阵分解模型中可被剪枝的第一矩阵参数;利用基于第一矩阵参数生成的第二矩阵参数更新矩阵集合;以及通过评价指标确定矩阵集合中的目标矩阵参数。本公开提供的基于矩阵分解模型的剪枝方法能够在保证模型性能的同时,减少表征矩阵的参数量,从而有效地降低模型能耗,并且加快推理速度。
基于硬件特性的模型剪枝方法、装置、设备及存储介质.pdf
本申请公开一种基于硬件特性的模型剪枝方法、装置、设备及存储介质,涉及神经网络领域,方法包括:确定原始网络模型的模型算力和目标硬件算力,设定网络模型的目标帧数;基于目标FPS确定网络模型的整体剪枝率以及原始网络模型中各层的剪枝敏感类型;根据各层的剪枝敏感类型以及整体剪枝率,确定模型各层的层间剪枝率,按照层间剪枝率进行模型剪枝;对剪枝后的模型进行重训练,并基于模型精度以及目标FPS输出目标网络模型。本方案通过将剪枝力度和硬件特性相结合,将细化的各神经网络层和目标硬件特性关联来确定具体的剪枝力度,其剪枝的细粒度
神经网络的剪枝方法及其剪枝装置、存储介质、设备.pdf
本发明公开了一种神经网络的剪枝方法及其剪枝装置、存储介质、设备。剪枝方法包括:获取训练完成的目标神经网络,所述目标神经网络包括若干残差层;利用测试样本集逐层评估每一层残差层的重要性,获得每一层残差层的重要性程度值;将重要性程度值小于阈值的残差层去除,获得剪枝后的目标神经网络;利用训练样本集训练剪枝后的目标神经网络,以优化剪枝后的目标神经网络的参数。本方案可以逐层测试网络各层参数的重要性,通过在测试集上结果的表现直观地给出了各层各参数的重要性,提高了剪枝方法的通用性和可解释性。
神经网络模型剪枝方法、装置、模型、介质及设备.pdf
本申请公开了一种神经网络模型剪枝方法、装置、模型、介质及设备,属于数据控制技术领域。该方法主要包括:在多层级神经网络模型的第一层神经元中选取第一神经元;根据第N‑1神经元与第N层神经元的互信息,在第N层中选取第N神经元;根据第N‑1神经元与第N神经元,在第N‑1层神经元与第N层神经元的连接参数矩阵中删除部分参数元素,获得各个相邻层对应的更新参数矩阵;根据更新参数矩阵,分别对更新参数矩阵中的参数元素进行相应的整理,获得多层级神经网络模型对应的剪枝参数矩阵。基于神经网络模型相邻两层之间的互信息,保留当前层与上
卷积神经网络模型剪枝方法和装置、电子设备、存储介质.pdf
本公开实施例提供卷积神经网络模型剪枝方法和装置、电子设备、存储介质,涉及人工智能技术领域。该卷积神经网络模型剪枝方法,包括:获取待剪枝模型的损失函数,对损失函数进行泰勒展开,得到第一参数重要性指标值和第二参数重要性指标值;根据第一参数重要性指标值和第二参数重要性指标值计算每个滤波器对应的剪枝重要性指标;根据预设剪枝率和每个滤波器对应的剪枝重要性指标,对待剪枝模型进行剪枝得到剪枝模型。本实施例考虑滤波器之间的关系以及模型中每个卷积层内部滤波器的冗余信息,量化滤波器的重要性,提高卷积神经网络模型剪枝的准确率,