内容提供者
神经网络模型量化方法及装置、存储介质及电子设备.pdf
2023-06-21
10金币
749KB
18页
是你****噩呀
实名认证
内容提供者
1/10
2/10
3/10
4/10
5/10
6/10
7/10
8/10
9/10
10/10
亲，该文档总共18页，到这已经超出免费预览范围，如果喜欢就直接下载吧～
相关资料
神经网络模型量化方法及装置、存储介质及电子设备.pdf
本公开涉及模型量化技术领域,具体涉及一种神经网络模型量化方法及装置、计算机可读存储介质及电子设备,方法包括:获取浮点型预训练神经网络模型;确定预设量化精度,并根据预设量化精度对预训练神经网络模型进行量化得到中间神经网络模型;获取训练数据,并利用训练数据对中间神经网络模型进行预设量化精度的量化感知训练得到目标神经网络模型。本公开实施例的技术方案提升模型量化方法的精度,克服了量化过程中模型精度损失较大的问题。
2023-06-21
10
749KB
神经网络的量化方法、装置、存储介质及电子设备.pdf
本公开涉及一种神经网络的量化方法、装置、存储介质及电子设备，该量化方法包括：接收神经网络中的前一神经网络层输出的与第一量化位宽对应的第一取值范围区间的输入数据；将输入数据映射到至少包括与第二量化位宽对应的第二取值范围区间，得到量化输入数据；根据量化输入数据对应的量化位宽进行计算，得到量化输出数据；将量化输出数据反映射到与第一量化位宽对应的第一取值范围区间，获得输出数据。本公开实现了量化的后的神经网络在不降低硬件间数据传输效率的同时提升推理精度的目的。
2023-07-24
10
554KB
模型量化方法、装置、电子设备和存储介质.pdf
本申请公开了模型量化方法、装置、电子设备和存储介质，涉及人工智能技术领域，具体为深度学习、图像处理、计算机视觉技术领域，可应用于智慧城市等场景。具体实现方案为：获取客户端发送的模型量化请求，其中，模型量化请求中包括待处理模型及待处理模型对应的量化配置信息；根据量化配置信息，确定待处理模型对应的目标芯片类型；根据量化配置信息和目标芯片类型，对待处理模型进行量化，以获取目标芯片类型对应的量化后的模型。该方法可以针对不同类型的芯片进行模型量化，从而实现不同芯片类型统一的模型量化流程。
2023-07-22
10
838KB
神经网络推理量化的方法、装置、电子设备及存储介质.pdf
本公开提供了一种神经网络推理量化的方法、装置、电子设备及存储介质，该方法包括：获取训练后的目标神经网络；将所述目标神经网络中至少一个网络处理层分别对应的特征张量的各个通道划分为多个通道组；针对每个所述通道组，基于所述通道组内包含的每个通道对应的特征极值，确定所述通道组对应的目标最大值和目标最小值；基于各个所述通道组内分别对应的所述目标最大值和所述目标最小值，对所述目标神经网络的推理过程进行量化处理。
2023-07-25
10
597KB
卷积神经网络量化方法、装置、电子设备和存储介质.pdf
本发明提供一种卷积神经网络量化方法、装置、电子设备和存储介质，其中方法包括：按照预设的重要权重优先原则，分别获取预训练卷积神经网络中每一层的第一量化权重范围；其中，所述重要权重优先原则包括基于每一层原始权重的幂指数出现频次确定的原则；对所述第一量化权重范围分别进行权重数量扩充处理，得到所述每一层的第二量化权重范围；基于所述第二量化权重范围，确定所述预训练卷积神经网络的目标量化权重范围。本发明能够实现在相同量化位宽的情况下增加量化范围及减小精度损失的目的，不仅能够减少网络模型的存储空间、减小计算量、减少能源
2023-07-24
10
1.2MB