预览加载中，请您耐心等待几秒...

量化模型的训练方法、装置、电子设备和可读存储介质.pdf

预览
1/10
2/10
3/10
4/10
5/10
6/10
7/10
8/10
9/10
10/10

亲，该文档总共28页，到这已经超出免费预览范围，如果喜欢就直接下载吧～

下载提示 文本预览

如果您无法下载资料，请参考说明：

1、部分资料下载需要金币，请确保您的账户上有足够的金币

2、已购买过的文档，再次下载不重复扣费

3、资料包下载后请先用软件解压，在使用对应软件打开

本申请涉及一种量化模型的训练方法、装置、计算机设备和存储介质。所述方法包括:获取样本数据;通过所述样本数据对量化模型进行第一阶段的训练,得到所述量化模型的浮点权重范围;基于所述浮点权重范围和所述样本数据,对经过第一阶段训练的量化模型进行第二阶段的训练,并在所述第二阶段的训练中获得训练好的目标量化模型的浮点激活范围;其中,所述目标量化模型中的浮点权重范围和浮点激活范围,用于对待量化数据进行量化处理。采用本方法能够提高量化模型的精度。