文本预测方法、装置、设备以及存储介质.pdf

(19)中华人民共和国国家知识产权局(12)发明专利申请(10)申请公布号CN113704391A(43)申请公布日2021.11.26(21)申请号202110380399.0G06N3/04(2006.01)(22)申请日2021.04.08G06N3/08(2006.01)(71)申请人腾讯科技（深圳）有限公司地址518000广东省深圳市南山区高新区科技中一路腾讯大厦35层(72)发明人王唯康胡敏达(74)专利代理机构北京市立方律师事务所11330代理人张筱宁(51)Int.Cl.G06F16/33(2019.01)G06F16/35(2019.01)G06F40/126(2020.01)G06F40/194(2020.01)G06F40/30(2020.01)权利要求书3页说明书23页附图7页(54)发明名称文本预测方法、装置、设备以及存储介质(57)摘要本申请实施例公开了一种文本预测方法、装置、设备以及存储介质，可适用于人工智能、计算机等领域。该方法包括：获取目标查询文本以及目标查询文本对应的目标结果文本；基于目标查询文本和目标结果文本，通过文本预测模型从目标结果文本中确定目标答案文本。采用本申请实施例，可提升文本预测的效率和准确性，适用性高。CN113704391ACN113704391A权利要求书1/3页1.一种文本预测方法，其特征在于，所述方法包括：获取目标查询文本以及所述目标查询文本对应的目标结果文本；基于所述目标查询文本和所述目标结果文本，通过文本预测模型从所述目标结果文本中确定目标答案文本；其中，所述文本预测模型是基于以下方式训练得到的：获取多个训练文本组，每一所述训练文本组包括查询文本、所述查询文本的结果文本以及所述查询文本对应的答案文本，每一所述结果文本包括相对应的答案文本；确定每一所述结果文本和相对应的查询文本所对应的编码特征，将各所述编码特征输入初始模型，通过所述初始模型，确定每一所述结果文本中各词对应于相对应的结果文本中答案文本所在位置的位置概率；对于每一所述结果文本，基于该结果文本对应的位置概率和答案文本，确定该结果文本对应的第一训练损失值，基于所述第一训练损失值确定总训练损失值；基于所述总训练损失值对所述初始模型进行迭代训练，直至所述总训练损失值满足预设的训练结束条件时，基于训练结束后的模型确定所述文本预测模型。2.根据权利要求1所述的方法，其特征在于，对于每一所述结果文本，该结果文本对应的位置概率包括该结果文本中各词为该结果文本中答案文本的起始位置的第一预测概率、以及结束位置的第二预测概率；所述基于该结果文本对应的位置概率和答案文本，该结果文本对应的第一训练损失值，包括：确定该结果文本中答案文本的起始位置和结束位置；基于该结果文本中第一目标词对应的第一预测概率、以及第二目标词对应的第二预测概率，确定该结果文本对应的第一训练损失值；其中，所述第一目标词对应于该结果文本中答案文本的起始位置，所述第二目标词对应于该结果文本中答案文本的结束位置。3.根据权利要求1所述的方法，其特征在于，对于每一所述结果文本，所述基于所述第一训练损失值确定总训练损失值，包括：确定该结果文本中各词属于该结果文本中的目标文本的第一真实概率；通过所述初始模型，基于该结果文本对应的编码特征确定该结果文本中各词属于该结果文本中的目标文本的第三预测概率，其中，该结果文本中的目标文本为与相对应的答案文本相关联的文本；基于该结果文本对应的第三预测概率和第一真实概率，确定该结果文本与相对应的查询文本的文本相关度；基于该结果文本对应的文本相关度和所述第一训练损失值，确定总训练损失值。4.根据权利要求3所述的方法，其特征在于，对于每一所述结果文本，所述确定该结果文本中各词属于该结果文本中的目标文本的第一真实概率，包括：确定该结果文本中答案文本的起始位置和结束位置；对于该结果文本中的每一词，基于该词在该结果文本中的位置、以及该结果文本中答案文本的起始位置和结束位置，确定该词属于该结果文本中的目标文本的第一真实概率。5.根据权利要求3所述的方法，其特征在于，对于每一所述结果文本，所述基于该结果2CN113704391A权利要求书2/3页文本对应的编码特征确定该结果文本中各词属于该结果文本中的目标文本的第三预测概率，包括：对于该结果文本中的每一词，基于该结果文本对应的编码特征，确定该词为该结果文本中的目标文本的起始位置的第四预测概率、以及结束位置的第五预测概率；基于该结果文本中各词对应的第四预测概率和第五预测概率，确定该结果文本中各词属于该结果文本中的目标文本的第三预测概率。6.根据权利要求5所述的方法，其特征在于，对于每一所述结果文本，所述基于该结果文本中各词对应的第四预测概率和第五预测概率，确定该结果文本中各词属于该结果文本中的目标文本的