数据处理方法和数据处理装置.pdf

(19)中华人民共和国国家知识产权局(12)发明专利申请(10)申请公布号CN114065900A(43)申请公布日2022.02.18(21)申请号202010753701.8(22)申请日2020.07.30(71)申请人华为技术有限公司地址518129广东省深圳市龙岗区坂田华为总部办公楼(72)发明人刘默翰赵磊刘华彦白立勋石巍巍隋志成周力(74)专利代理机构广州三环专利商标代理有限公司44202代理人熊永强李稷芳(51)Int.Cl.G06N3/04(2006.01)G06N3/063(2006.01)G06N3/08(2006.01)权利要求书2页说明书22页附图7页(54)发明名称数据处理方法和数据处理装置(57)摘要本申请实施例公开了人工智能领域，尤其涉及模型压缩领域的一种数据处理方法和数据处理装置，该方法包括：利用训练得到的神经网络对输入数据进行目标处理，得到目标结果；该目标处理包括：利用该神经网络对该输入数据进行第一处理，得到第一定点数；根据定点数对应关系，确定该第一定点数对应的第二定点数；根据该第二定点数，得到该目标结果；该第二定点数等于对该第一定点数进行第二处理得到的第三定点数，该第二处理包括：对该第一定点数进行反量化得到第一浮点数，利用目标非线性激活函数处理该第一浮点数以得到第二浮点数，量化该第二浮点数以得到该第三定点数；输出该目标结果；能够降低计算复杂度，并减少占用的存储空间。CN114065900ACN114065900A权利要求书1/2页1.一种数据处理方法，其特征在于，包括：利用训练得到的神经网络对输入数据进行目标处理，得到目标结果；所述输入数据包括多个计算机可处理的信号，所述目标处理包括：利用所述神经网络对所述输入数据进行第一处理，得到第一定点数；根据定点数对应关系，确定所述第一定点数对应的第二定点数；根据所述第二定点数，得到所述目标结果；所述定点数对应关系包括所述第一定点数与所述第二定点数的对应关系，所述第二定点数等于对所述第一定点数进行第二处理得到的第三定点数，所述第二处理包括：对所述第一定点数进行反量化得到第一浮点数，利用目标非线性激活函数处理所述第一浮点数以得到第二浮点数，量化所述第二浮点数以得到所述第三定点数；所述目标非线性激活函数为所述神经网络采用的激活函数；输出所述目标结果。2.根据权利要求1所述的方法，其特征在于，所述根据定点数对应关系，确定所述第一定点数对应的第二定点数包括：查找定点数对应关系表中所述第一定点数对应的所述第二定点数；所述定点数对应关系表包括所述定点数对应关系，所述定点数对应关系表中的任一对应关系为所述目标非线性激活函数的输入值对应的定点数与所述目标非线性激活函数的输出值对应的定点数之间的对应关系。3.根据权利要求1或2所述的方法，其特征在于，所述根据所述第二定点数，得到所述目标结果包括：对所述第二定点数进行第一归一化处理以得到第四定点数；所述第一归一化处理包括：计算第一公式的值以得到第三浮点数，所述第一公式中的参数包括由对所述第二定点数进行数据类型转换得到的浮点数；量化所述第三浮点数以得到第五定点数；计算所述第五定点数和第六定点数之和，得到所述第四定点数；所述第一公式为所述第一归一化处理对应的第一归一化公式中的一部分，所述第六定点数为所述第一归一化公式中的偏移值；根据所述第四定点数，得到所述目标结果。4.根据权利要求3所述的方法，其特征在于，所述目标非线性激活函数由将所述第一归一化公式中的缩放因子与初始非线性激活函数相乘得到。5.根据权利要求1或2所述的方法，其特征在于，所述根据所述第二定点数，得到所述目标结果包括：对所述第二定点数进行第二归一化处理得到第七定点数；所述第二归一化处理包括：计算第二归一化公式的值以得到第四浮点数，所述第二归一化公式中的参数包括由对所述第二定点数进行数据类型转换得到的浮点数；量化所述第四浮点数以得到所述第七定点数；根据所述第七定点数，得到所述目标结果。6.根据权利要求5所述的方法，其特征在于，所述目标非线性激活函数为将所述第二归一化公式中的缩放因子与初始非线性激活函数相乘得到。7.根据权利要求1至6任意一项所述的方法，其特征在于，所述多个计算机可处理的信号包括：语音信号、文本信号或图像信号中的至少一项。8.一种数据处理装置，其特征在于，包括：处理模块，用于利用训练得到的神经网络对输入数据进行目标处理，得到目标结果；所2CN114065900A权利要求书2/2页述输入数据包括多个计算机可处理的信号，所述目标处理包括：利用所述神经网络对所述输入数据进行第一处理，得到第一定点数；根据定点数对应关系，确定所述第一定点数对应的第二定点数；根据所述第二定点数，得到所述目标结果；所述定点数对应关系包括所述第一定点数与所述第二定点数的对应关系，所述