端到端模型的训练数据增强方法、装置及介质.pdf

(19)中华人民共和国国家知识产权局(12)发明专利申请(10)申请公布号CN109726404A(43)申请公布日2019.05.07(21)申请号201811636139.X(22)申请日2018.12.29(71)申请人安徽省泰岳祥升软件有限公司地址230088安徽省合肥市高新区习友路3333号中国（合肥）国际智能语音产业园研发中心楼405-5室(72)发明人李健铨刘小康陈玮晋耀红(74)专利代理机构北京弘权知识产权代理事务所(普通合伙)11363代理人逯长明许伟群(51)Int.Cl.G06F17/28(2006.01)G06F17/27(2006.01)G06F17/21(2006.01)权利要求书2页说明书12页附图3页(54)发明名称端到端模型的训练数据增强方法、装置及介质(57)摘要本申请实施例公开一种端到端模型的训练数据增强方法、装置及介质。该方法包括：获取来自训练数据集的目标文本；其中，训练数据集包括多个训练数据，每个训练数据包括对应的输入数据和标注数据，每个输入数据包括至少一个文本；目标文本为任一个训练数据的输入数据中的任一个文本；根据与目标文本对应的标注数据，在目标文本中确定标注句；在目标文本中确定保留区域；利用训练数据集中除目标文本以外的其余文本，替换目标文本的非保留区域中的至少一个句子，得到变换文本。用该变换文本替换目标数据中的目标文本，从而得到新的训练数据。采用该方法可以快速、低成本地得到大量有效的新的训练数据，同时提高了增强得到的新训练数据的有效概率。CN109726404ACN109726404A权利要求书1/2页1.一种端到端模型的训练数据增强方法，其特征在于，包括：获取来自训练数据集的目标文本；其中，所述训练数据集包括至少两个训练数据，每一个所述训练数据包括对应的输入数据和标注数据，每一个所述输入数据包括至少一个文本；所述目标文本为任一个所述训练数据的输入数据中的任一个文本；根据与所述目标文本对应的标注数据，在所述目标文本中确定标注句；在所述目标文本中确定保留区域，所述保留区域包括所述标注句；利用所述训练数据集中除所述目标文本以外的其余文本，替换所述目标文本的非保留区域中的至少一个句子，得到变换文本，其中，所述非保留区域为所述目标文本中保留区域以外的区域。2.根据权利要求1所述的方法，其特征在于，所述端到端模型应用于机器阅读理解，每一个所述输入数据还包括与所述至少一个文本对应的问题，所述标注数据为答案。3.根据权利要求2所述的方法，其特征在于，根据与所述目标文本对应的标注数据，在所述目标文本中确定标注句，包括：根据与所述目标文本对应的答案，在所述目标文本中确定备选句；如果所述备选句的数量大于一个，则分别计算与所述目标文本对应的问题和每一个所述备选句的相似度；将与所述问题的相似度最高的备选句确定为标注句。4.根据权利要求1所述的方法，其特征在于，所述保留区域包括所述目标文本中标注句之前的M1个句子、所述标注句，以及所述目标文本中标注句之后的M2个句子；其中,M1和M2均为大于或等于0的整数。5.根据权利要求1所述的方法，其特征在于，利用所述训练数据集中除所述目标文本以外的其余文本，替换所述目标文本中非保留区域中的至少一个句子的步骤，包括：分别计算所述训练数据集中除所述目标文本以外的其余文本与所述目标文本的相似度；从所述其余文本中筛选出至少一个备选文本，所述备选文本与所述目标文本的相似度大于预设的阈值；利用所述至少一个备选文本，替换所述非保留区域中的至少一个句子。6.根据权利要求5所述的方法，其特征在于，利用所述至少一个备选文本，替换所述非保留区域中的至少一个句子的步骤，包括：从第一备选文本中选取相邻的T1个句子；其中，所述第一备选文本为所述至少一个备选文本中的一个文本，T1为大于1的正整数；将所述非保留区域中相邻的T2个句子，替换为所述第一备选文本中的所述T1个句子；其中，T2为正整数。7.根据权利要求1-6任一项所述的方法，其特征在于，所述方法还包括：根据包括所述目标文本的训练数据以及所述变换文本，得到新的训练数据；分别以每个训练数据的输入数据中的文本为目标文本，重复执行针对目标文本的数据增强方法，得到增强数据集；其中，所述增强数据集中包括训练数据集中的训练数据，以及增强得到的新的训练数据。8.根据权利要求1-6任一项所述的方法，其特征在于，所述方法还包括：2CN109726404A权利要求书2/2页分别将来自训练数据集的所有文本分句，得到与文本对应的分句结果；构建替换字典，所述替换字典中包括所述所有文本各自的索引号，以及与每一个所述索引号对应的文本的分句结果；利用所述训练数据集中除所述目标文本以外的其余文本，替换所述目标文本的非保留区域中的至少一个句子的步骤，包括：在所述替换字典中查找出