

神经网络模型量化方法及装置、存储介质及电子设备.pdf
是你****噩呀
亲,该文档总共18页,到这已经超出免费预览范围,如果喜欢就直接下载吧~
相关资料
神经网络模型量化方法及装置、存储介质及电子设备.pdf
本公开涉及模型量化技术领域,具体涉及一种神经网络模型量化方法及装置、计算机可读存储介质及电子设备,方法包括:获取浮点型预训练神经网络模型;确定预设量化精度,并根据预设量化精度对预训练神经网络模型进行量化得到中间神经网络模型;获取训练数据,并利用训练数据对中间神经网络模型进行预设量化精度的量化感知训练得到目标神经网络模型。本公开实施例的技术方案提升模型量化方法的精度,克服了量化过程中模型精度损失较大的问题。
神经网络的量化方法、装置、存储介质及电子设备.pdf
本公开涉及一种神经网络的量化方法、装置、存储介质及电子设备,该量化方法包括:接收神经网络中的前一神经网络层输出的与第一量化位宽对应的第一取值范围区间的输入数据;将输入数据映射到至少包括与第二量化位宽对应的第二取值范围区间,得到量化输入数据;根据量化输入数据对应的量化位宽进行计算,得到量化输出数据;将量化输出数据反映射到与第一量化位宽对应的第一取值范围区间,获得输出数据。本公开实现了量化的后的神经网络在不降低硬件间数据传输效率的同时提升推理精度的目的。
模型量化方法、装置、电子设备和存储介质.pdf
本申请公开了模型量化方法、装置、电子设备和存储介质,涉及人工智能技术领域,具体为深度学习、图像处理、计算机视觉技术领域,可应用于智慧城市等场景。具体实现方案为:获取客户端发送的模型量化请求,其中,模型量化请求中包括待处理模型及待处理模型对应的量化配置信息;根据量化配置信息,确定待处理模型对应的目标芯片类型;根据量化配置信息和目标芯片类型,对待处理模型进行量化,以获取目标芯片类型对应的量化后的模型。该方法可以针对不同类型的芯片进行模型量化,从而实现不同芯片类型统一的模型量化流程。
神经网络推理量化的方法、装置、电子设备及存储介质.pdf
本公开提供了一种神经网络推理量化的方法、装置、电子设备及存储介质,该方法包括:获取训练后的目标神经网络;将所述目标神经网络中至少一个网络处理层分别对应的特征张量的各个通道划分为多个通道组;针对每个所述通道组,基于所述通道组内包含的每个通道对应的特征极值,确定所述通道组对应的目标最大值和目标最小值;基于各个所述通道组内分别对应的所述目标最大值和所述目标最小值,对所述目标神经网络的推理过程进行量化处理。
图像处理模型量化方法、装置、电子设备及存储介质.pdf
本申请实施例提供了图像处理模型量化方法、装置、电子设备及存储介质,获取多个存储点的图像处理模型,得到多个待量化模型;分别对各待量化模型进行模型量化,得到各量化模型;获取量化测试图片,利用各量化模型对量化测试图片进行分析,分别得到各量化模型的测试结果;基于各量化模型的测试结果,确定目标量化模型。对一次训练中多个存储点的图像处理模型进行模型量化,能够减少因模型参数随机分配选择单一模型进行量化得到的量化模型准确率偏低的问题,能够增加模型量化的成功率;并且无需人为对图像处理模型进行参数调整,减少了人工工作量,为批