文本信息生成方法、装置、终端设备.pdf

(19)中华人民共和国国家知识产权局(12)发明专利申请(10)申请公布号CN113656573A(43)申请公布日2021.11.16(21)申请号202110996630.9(22)申请日2021.08.27(71)申请人北京大数医达科技有限公司地址100193北京市海淀区东北旺北京中关村软件园孵化器2号楼二层2201室(72)发明人林玥煜邓侃(74)专利代理机构北京唯智勤实知识产权代理事务所(普通合伙)11557代理人陈佳(51)Int.Cl.G06F16/332(2019.01)G06F16/338(2019.01)G06F16/35(2019.01)G06N3/04(2006.01)G06N3/08(2006.01)权利要求书2页说明书8页附图3页(54)发明名称文本信息生成方法、装置、终端设备(57)摘要本公开的实施例公开了文本信息生成方法、装置、终端设备。该方法的一具体实施方式包括：获取目标文本和预先确定的预训练模型；获取目标语料库，其中，目标语料库中的目标语料为目标文本和目标语句组成的数据对；基于目标文本和目标语料库，生成目标输入特征；将目标输入特征输入预先确定的预训练模型，生成结果文本；接收用户输入的文本处理指令；将文本处理指令和结果文本推送至目标终端设备，其中，目标终端设备根据文本处理指令进行展示相关操作。该实施方式利用目标语料库生成目标文本对应的目标输入特征，将目标输入特征输入预训练模型以得到结果文本，减少生成结果文本所需的参数数量，节省计算资源，提高了文本信息生成速度。CN113656573ACN113656573A权利要求书1/2页1.一种文本信息生成方法，包括：获取目标文本和预先确定的预训练模型；获取目标语料库，其中，所述目标语料库中的目标语料为目标文本和目标语句组成的数据对；基于所述目标文本和所述目标语料库，生成目标输入特征；将所述目标输入特征输入预先确定的预训练模型，生成结果文本；接收用户输入的文本处理指令，其中，所述文本处理指令包括分类指令、生成指令；将所述文本处理指令和所述结果文本推送至目标终端设备，其中，所述目标终端设备根据所述文本处理指令进行展示相关操作。2.根据权利要求1所述的方法，其中，所述预先确定的预训练模型为语言模型。3.根据权利要求2所述的方法，其中，所述基于所述目标文本和所述目标语料库，生成目标输入特征，包括：在所述目标语料库中对所述目标文本进行比对查找；响应于查找到所述目标文本，将对应于所述目标文本的目标语料确定为任务语料；将所述目标文本和所述任务语料输入预先确定的生成模型，以得到所述目标输入特征。4.根据权利要求3所述的方法，其中，所述预先训练的生成模型是通过如下步骤得到的：利用所述目标语料库生成样本集，其中，所述样本集中的样本包括样本目标文本、样本任务语料和对应于所述样本目标文本、所述样本任务语料的样本输出特征；确定初始生成模型的结构以及初始化所述初始生成模型的参数；从所述样本集中选取样本，以及执行以下训练步骤：将选取的样本的样本目标文本、样本任务语料输入至初始生成模型，得到所述选取的样本的输出特征；将所述选取的样本的输出特征与对应的样本输出特征进行比较；根据比较结果确定所述初始生成模型是否达到预设的优化目标；响应于确定所述初始生成模型达到所述优化目标，将所述初始生成模型确定为预先训练的生成模型。5.根据权利要求4所述的方法，其中，所述方法还包括：响应于确定初始生成模型未训练完成，调整初始生成模型中的相关参数，以及从所述样本集中重新选取样本，使用调整后的初始生成模型作为初始生成模型，再次执行所述训练步骤。6.根据权利要求5所述的方法，其中，所述利用所述目标语料库生成样本集，包括：将所述目标语料库中的目标文本的集合确定为样本任务语料集合；对于所述目标语料库中的每个目标语料，利用该目标语料的目标文本生成样本目标文本，以得到样本目标文本集合；对于所述目标语料库中的每个目标语料，利用该目标语料的目标语句生成输出特征，以得到输出特征集合；将所述输出特征集合确定为样本输出特征集合；2CN113656573A权利要求书2/2页将所述样本目标文本集合、所述样本任务语料集合和所述输出特征集合的集合确定为所述样本集。7.根据权利要求6所述的方法，其中，所述目标终端设备根据所述文本处理指令进行展示相关操作，包括：响应于所述文本处理指令为分类指令，所述目标终端设备将所述结果文本输入预先确定的分类模型中，以得到分类结果；所述目标终端设备展示所述分类结果。8.根据权利要求7所述的方法，其中，所述目标终端设备根据所述处理指令进行展示相关操作，还包括：响应于所述文本处理指令为生成指令，所述目标终端设备将所述结果文本输入预先确定的文本模型中，以得到终末文本；所述目标终端设备展示所述终末文本。9.一种文本