语义分类模型的训练方法、装置、设备及存储介质.pdf

(19)中华人民共和国国家知识产权局(12)发明专利申请(10)申请公布号CN113887243A(43)申请公布日2022.01.04(21)申请号202111267955.X(22)申请日2021.10.29(71)申请人平安普惠企业管理有限公司地址518000广东省深圳市前海深港合作区前湾一路1号A栋201室（入驻深圳市前海商务秘书有限公司）(72)发明人张稳(74)专利代理机构深圳市明日今典知识产权代理事务所(普通合伙)44343代理人王杰辉(51)Int.Cl.G06F40/30(2020.01)G06F16/332(2019.01)G06F16/35(2019.01)G06N3/08(2006.01)权利要求书2页说明书10页附图3页(54)发明名称语义分类模型的训练方法、装置、设备及存储介质(57)摘要本申请涉及数据处理技术领域，揭示了一种语义分类模型的训练方法、装置、设备及存储介质，其中方法包括：将训练样本输入第一分类训练模型中，得到第一语义分类结果，并通过损失函数计算第一语义分类结果的第一损失值；将扰动元素项与稀疏矩阵进行叠加，得到扰动矩阵；将不同的扰动矩阵添加至第一分类训练模型的词嵌入向量中，得到若干个第二分类训练模型；采用每一个第二分类训练模型分别对训练样本进行语义分类，得到若干组不同的第二语义分类结果，通过损失函数计算每一组第二语义分类结果的第二损失值，并根据第二损失值在第二分类训练模型中选取目标训练模型；将满足迭代完成条件的目标训练模型作为语义分类模型；从而提高模型的泛化能力。CN113887243ACN113887243A权利要求书1/2页1.一种语义分类模型的训练方法，其特征在于，所述方法包括：将训练样本输入第一分类训练模型中，得到第一语义分类结果，并通过损失函数计算所述第一语义分类结果的第一损失值；根据预设的扰动规则生成若干个扰动元素项，并将所述扰动元素项与预设的稀疏矩阵进行叠加，得到扰动矩阵；将不同的所述扰动矩阵添加至所述第一分类训练模型的词嵌入向量中，得到若干个第二分类训练模型；采用每一个所述第二分类训练模型分别对所述训练样本进行语义分类，得到若干组不同的第二语义分类结果，通过所述损失函数计算每一组所述第二语义分类结果的第二损失值，并根据所述第二损失值在所述第二分类训练模型中选取目标训练模型；根据所述目标训练模型对应的第二损失值，采用梯度回传算法对所述目标训练模型进行迭代更新，直至满足预设的迭代完成条件，将满足所述迭代完成条件的所述目标训练模型作为语义分类模型。2.根据权利要求1所述的语义分类模型的训练方法，其特征在于，所述将所述扰动元素项与预设的稀疏矩阵进行叠加，得到扰动矩阵，包括：对所述扰动元素项与所述稀疏矩阵进行乘积计算，得到叠加矩阵，计算所述叠加矩阵的叠加矩阵值；计算第一阈值矩阵的第一矩阵值和第二阈值矩阵的第二矩阵值，其中第一矩阵值小于第二矩阵值；若所述叠加矩阵值大于所述第二矩阵值，将所述第二阈值矩阵作为所述扰动矩阵，若所述叠加矩阵值小于所述第一矩阵值，将所述第一阈值矩阵作为所述扰动矩阵，若所述叠加矩阵值不大于所述第二矩阵值且不小于所述第一矩阵值，将所述叠加矩阵作为所述扰动矩阵。3.根据权利要求1所述的语义分类模型的训练方法，其特征在于，所述通过所述损失函数计算每一组所述第二语义分类结果的第二损失值，包括：通过交叉熵损失函数计算每一组所述第二语义分类结果的交叉熵损失值，并将所述交叉熵损失值作为所述第二损失值。4.根据权利要求1所述的语义分类模型的训练方法，其特征在于，所述将训练样本输入第一分类训练模型中之前，还包括：对初始样本进行特征提取，并将提取的特征参数与预设的音色数据中存储的参考音色数据进行音色误差计算；根据所述音色误差，对所述初始样本中不满足预设的误差范围的音色进行滤除，得到所述训练样本。5.根据权利要求1所述的语义分类模型的训练方法，其特征在于，所述根据所述第二损失值在所述第二分类训练模型中选取目标训练模型，包括：对每一个所述第二分类训练模型对应的所有第二损失值进行平均值计算；将平均值最小的第二损失值对应的第二分类训练模型作为所述目标训练模型。6.根据权利要求1所述的语义分类模型的训练方法，其特征在于，所述将满足所述迭代完成条件的所述目标训练模型作为语义分类模型之后，还包括：2CN113887243A权利要求书2/2页接收目标语音，对所述目标语音进行语速分析，得到语速参数；根据所述语速参数对所述目标语音进行语速调节，并将调节后的所述目标语音输入所述语义分类模型中，得到语义分类结果。7.根据权利要求6所述的语义分类模型的训练方法，其特征在于，所述得到语义分类结果之后，还包括：根据所述语义分类结果生成答复语句；向目标设备发送通信连接请求，并接收所述目标设备返回的连接成功信息；将