一种文本信息的识别方法以及相关装置.pdf

(19)中华人民共和国国家知识产权局(12)发明专利申请(10)申请公布号CN113704447A(43)申请公布日2021.11.26(21)申请号202110234556.7G06N20/00(2019.01)(22)申请日2021.03.03(71)申请人腾讯科技（深圳）有限公司地址518057广东省深圳市南山区高新区科技中一路腾讯大厦35层(72)发明人张绍明余亭浩侯昊迪陈少华(74)专利代理机构深圳市深佳知识产权代理事务所(普通合伙)44285代理人王仲凯(51)Int.Cl.G06F16/335(2019.01)G06F16/35(2019.01)G06F16/383(2019.01)G06F40/30(2020.01)G06K9/62(2006.01)权利要求书3页说明书18页附图10页(54)发明名称一种文本信息的识别方法以及相关装置(57)摘要本申请公开了一种文本信息的识别方法以及相关装置，应用于人工智能的自然语言处理技术。通过获取预设语料；然后基于预设规则从预设语料中提取对应于目标类型的多个正相关词。进一步的调用预设语料和多个正相关词对预训练模型进行训练，以得到第一识别模型；并基于第一识别模型进行调整得到第二识别模型；进而基于第二识别模型中进行文本识别。从而实现高效且准确的文本识别过程，采用与目标类型关联的预设语料以及补充的正相关词同时执行掩蔽操作，保证了识别模型对于目标类型关联词汇的识别能力，进而提高了文本信息识别的准确性。CN113704447ACN113704447A权利要求书1/3页1.一种文本信息的识别方法，其特征在于，包括：获取预设语料，所述预设语料与目标类型的文本信息相关联；基于预设规则从所述预设语料中提取对应于所述目标类型的多个正相关词，所述预设规则基于所述预设语料中的词汇与目标标签的互信息设定，所述目标标签与所述目标类型相对应；调用所述预设语料和多个所述正相关词对预训练模型进行训练，以得到第一识别模型，所述预训练模型的训练过程基于训练任务进行，所述训练任务指示的掩蔽操作与多个所述正相关词相关联；基于所述预设语料对所述第一识别模型进行调整，以得到第二识别模型；获取待检测信息，并将所述待检测信息输入所述第二识别模型中，以得到所述待检测信息中的文本信息对应于所述目标类型的识别结果。2.根据权利要求1所述的方法，其特征在于，所述基于预设规则从所述预设语料中提取对应于所述目标类型的多个正相关词，包括：基于所述预设规则从所述预设语料中提取对应于所述目标类型的多个候选词；将多个所述候选词输入预设识别模型进行打分，以得到候选特征值；基于所述候选特征值对所述候选词进行筛选，以得到多个所述正相关词。3.根据权利要求2所述的方法，其特征在于，所述基于所述预设规则从所述预设语料中提取对应于所述目标类型的多个候选词，包括：统计所述预设语料中各个词汇的频率信息；基于所述频率信息确定高频词汇；基于所述预设规则确定所述高频词汇与所述目标标签的互信息；根据所述互信息确定对应于所述目标类型的多个所述候选词。4.根据权利要求2所述的方法，其特征在于，所述基于所述候选特征值对所述候选词进行筛选，以得到多个所述正相关词，包括：基于所述候选特征值对所述候选词进行筛选，以得到特征词集合；确定所述目标类型对应的特征词汇；从所述特征词集合中调用与所述特征词汇相关联的词汇进行审核，以得到多个所述正相关词。5.根据权利要求4所述的方法，其特征在于，所述方法还包括：基于所述目标类型确定检索词汇；向服务器发送所述检索词汇，以使得所述服务器建立目标词表；接收所述目标词表，并基于所述目标词表对多个所述正相关词进行更新。6.根据权利要求1所述的方法，其特征在于，所述调用所述预设语料和多个所述正相关词对预训练模型进行训练，以得到第一识别模型，包括：调用所述预设语料和多个所述正相关词确定训练数据；基于所述预训练模型中的训练任务对所述训练数据进行随机掩蔽，以得到掩蔽序列；确定所述掩蔽序列对应的真实序列，以建立训练样本对；基于所述训练样本对所述预训练模型进行训练，以得到所述第一识别模型。7.根据权利要求6所述的方法，其特征在于，所述方法还包括：2CN113704447A权利要求书2/3页响应于所述正相关词的确定获取权重信息；基于所述权重信息对所述训练任务中掩蔽操作对应的掩蔽对象进行设定，以增加多个所述正相关词的掩蔽概率。8.根据权利要求1所述的方法，其特征在于，所述基于所述预设语料对所述第一识别模型进行调整，以得到第二识别模型，包括：响应于所述第一识别模型的生成确定目标场景；基于所述目标场景调用特征训练集；根据所述特征训练集和所述预设语料确定目标训练集；基于所述目标训练集对所述第一识别模型进行调整，以得到所述第二识别模型。9.根据权利要求1所述的方法，其特征在