一种文本纠错的方法和装置.pdf

(19)中华人民共和国国家知识产权局(12)发明专利申请(10)申请公布号CN112199945A(43)申请公布日2021.01.08(21)申请号202010837296.8G06N3/08(2006.01)(22)申请日2020.08.19(71)申请人宿迁硅基智能科技有限公司地址223800江苏省宿迁市湖滨新区保险小镇B19栋201室(72)发明人司马华鹏汤毅平李慧水华冰涛汪成(74)专利代理机构江苏舜点律师事务所32319代理人孙丹(51)Int.Cl.G06F40/232(2020.01)G06F40/242(2020.01)G06F40/253(2020.01)G06F40/289(2020.01)G06K9/62(2006.01)权利要求书1页说明书10页附图1页(54)发明名称一种文本纠错的方法和装置(57)摘要本发明公开了一种文本纠错的方法和装置，涉及智能外呼的技术领域，旨在解决现有文本纠错方法对特定应用场景的ASR识别结果检错和纠错准确率不高的问题。其技术方案要点是将待纠错文本预处理后生成待检字集合，利用预训练的语言模型预测所述待检字集合中每个字的概率分布，根据每个字的概率分布确定错字位置并生成候选字集合，将所述候选字集合中的每个字替换错字位置形成生成候选句集合，对候选句集合中的各元素进行评分，保留评分最优的所述候选句集合中的元素所对应候选字，用该候选字替换相应错字位置并输出句子。本发明达到了提高文本纠错率的效果。CN112199945ACN112199945A权利要求书1/1页1.一种文本纠错的方法，其特征在于，包括：将待纠错文本预处理后生成待检字集合，利用预训练的语言模型预测所述待检字集合中每个字的概率分布，根据每个字的概率分布确定错字位置并生成候选字集合，将所述候选字集合中的每个字替换错字位置形成生成候选句集合，对候选句集合中的各元素进行评分，保留评分最优的所述候选句集合中的元素所对应候选字，用该候选字替换相应错字位置并输出句子。2.根据权利要求1所述的一种文本纠错的方法，其特征在于，所述语言模型的训练步骤包括：随机将待训练句子中的部分汉字替换成另一个同音字和/或近音字；逐批次将替换后的待训练句子输入语言模型中进行前向传播计算，输出替换后文字的预测概率分布；用预测概率分布和真实字符计算负对数似然损失函数；用反向传播算法迭代优化直到模型收敛。3.根据权利要求1所述的一种文本纠错的方法，其特征在于：所述候选字集合包括同音字或近音字以及排除不符合语言常识的候选字。4.根据权利要求1所述的一种文本纠错的方法，其特征在于，所述待检字集合的生成步骤包括：将待纠错文本基于通用词典和领域词典进行分词；基于HMM分词；把出现在混淆词中的词替换为相应的正确词；保留分出的单字词和新词，组成待检字集合。5.一种文本纠错的装置，其特征在于，包括：文本预处理模块，用于将待纠错文本进行分词；检错模块，用于预测待检字集合中每个字的概率分布，根据每个字的概率分布确定错字位置；候选词召回模块，用于对每个错字位置确定候选字集合；候选词评分模块，用于对每个候选字评分；替换和输出模块，用于对每个错字位置替换为相应的、评分最优的候选字以及句子输出。6.根据权利要求5所述的一种文本纠错的装置，其特征在于：所述检错模块包括语言模型训练，训练步骤包括：随机将待训练句子中的部分汉字替换成另一个同音字和/或近音字；逐批次将替换后的待训练句子输入语言模型中进行前向传播计算，输出替换后文字的预测概率分布；用预测概率分布和真实字符计算负对数似然损失函数；用反向传播算法迭代优化直到模型收敛。7.根据权利要求6所述的一种文本纠错的装置，其特征在于：所述候选字集合包括同音字和近音字并排除不符合语言常识的候选字。8.根据权利要求7所述的一种文本纠错的装置，其特征在于：所述文本预处理模块包括将待纠错文本基于通用词典和领域词典进行分词后基于HMM分词；把出现在混淆词中的词替换为相应的正确词；保留分出的单字词和新词，组成待检字集合。2CN112199945A说明书1/10页一种文本纠错的方法和装置技术领域[0001]本发明涉及智能外呼的技术领域，尤其是涉及一种文本纠错的方法和装置。背景技术[0002]目前，在外呼机器人领域，一般通过ASR(AutomaticSpeechRecognition，自动语音识别)技术将通信电话语音信号转成文本格式文件，然后对该文本进行分析，获取用户意图然后做出相应处理。由于电话语音信号较差，ASR转换成文本存在一定的错误率，导致机器人理解用户意图出现偏差。[0003]近场情况下的SNR(SignaltoNoiseRatio,人机对话信噪比)较高，信号清晰，ASR算法能够生成较为准确的文本。但是远场情况下由于噪声较大，SNR大幅降低，导致ASR算