内容提供者
一种模型混合量化方法、装置、电子设备和存储介质.pdf
2023-04-24
10金币
537KB
20页
阳炎****找我
实名认证
内容提供者
1/10
2/10
3/10
4/10
5/10
6/10
7/10
8/10
9/10
10/10
亲，该文档总共20页，到这已经超出免费预览范围，如果喜欢就直接下载吧～
相关资料
一种模型混合量化方法、装置、电子设备和存储介质.pdf
本申请提供了一种模型混合量化方法、装置、电子设备和存储介质,方法包括:待量化的模型包括多个网络层,将所述多个网络层平均划分至多个网络层组,其中,每个网络层组包括多个网络层;将目标网络层组预先设置为第一比特,对待量化的模型进行量化,持续对所述待量化的模型进行精度评价,若所述模型的量化精度损失大于等于损失阈值,则按照目标方式对所述目标网络层组进行处理,直至所述模型的量化精度损失小于所述损失阈值,则跳转至下一网络层组进行量化,直至全部网络层组量化结束。本申请提高模型混合量化的效率。
2023-04-24
10
537KB
模型量化方法、装置、电子设备和存储介质.pdf
本申请公开了模型量化方法、装置、电子设备和存储介质，涉及人工智能技术领域，具体为深度学习、图像处理、计算机视觉技术领域，可应用于智慧城市等场景。具体实现方案为：获取客户端发送的模型量化请求，其中，模型量化请求中包括待处理模型及待处理模型对应的量化配置信息；根据量化配置信息，确定待处理模型对应的目标芯片类型；根据量化配置信息和目标芯片类型，对待处理模型进行量化，以获取目标芯片类型对应的量化后的模型。该方法可以针对不同类型的芯片进行模型量化，从而实现不同芯片类型统一的模型量化流程。
2023-07-22
10
838KB
模型量化方法、装置、电子设备和计算机可读存储介质.pdf
本公开实施例涉及一种模型量化方法、装置、电子设备和计算机可读存储介质。所述方法包括：将图像输入深度学习模型中，获取深度学习模型对图像的分辨率进行处理所需的时延和功耗；根据时延、功耗、原始网络参数和强化学习算法训练深度学习模型，得到深度学习模型的各网络层的目标量化位宽；根据各网络层的目标量化位宽，对目标量化位宽对应的深度学习模型各网络层的权重和激活值进行量化，得到分辨率模型。采用本方法可以平衡量化后的超分辨率模型的运算精度和量化后的模型的占用存储空间。
2023-07-25
10
961KB
图像处理模型量化方法、装置、电子设备及存储介质.pdf
本申请实施例提供了图像处理模型量化方法、装置、电子设备及存储介质，获取多个存储点的图像处理模型，得到多个待量化模型；分别对各待量化模型进行模型量化，得到各量化模型；获取量化测试图片，利用各量化模型对量化测试图片进行分析，分别得到各量化模型的测试结果；基于各量化模型的测试结果，确定目标量化模型。对一次训练中多个存储点的图像处理模型进行模型量化，能够减少因模型参数随机分配选择单一模型进行量化得到的量化模型准确率偏低的问题，能够增加模型量化的成功率；并且无需人为对图像处理模型进行参数调整，减少了人工工作量，为批
2023-07-25
10
846KB
模型量化方法、装置及存储介质.pdf
本申请提供了一种模型量化方法、装置及存储介质，涉及计算机技术领域。该方法包括：从预设的阈值范围中确定搜索中心；根据搜索中心确定搜索范围；根据搜索范围内的各个阈值对应的第二KL散度值，从搜索范围内的阈值中确定出目标阈值，以作为模型量化后的映射范围的最大值；根据目标阈值进行模型量化。本申请实施例的方法中，先对搜索范围通过锚定法进行粗搜索，确定最优锚点，再对最优锚点的邻域范围进行精确搜索，得到领域最优点，以领域最优点作为全局最优点使用，可以大大降低计算耗时，提升模型量化速度。
2023-07-24
10
602KB