对话系统处理方法、装置、设备及可读存储介质.pdf

(19)中华人民共和国国家知识产权局(12)发明专利申请(10)申请公布号CN109582767A(43)申请公布日2019.04.05(21)申请号201811388674.8(22)申请日2018.11.21(71)申请人北京京东尚科信息技术有限公司地址100195北京市海淀区知春路76号8层申请人北京京东世纪贸易有限公司(72)发明人任昭春殷大伟陈宏申赵一鸿(74)专利代理机构北京同立钧成知识产权代理有限公司11205代理人柴海平刘芳(51)Int.Cl.G06F16/332(2019.01)H04L12/58(2006.01)权利要求书2页说明书9页附图4页(54)发明名称对话系统处理方法、装置、设备及可读存储介质(57)摘要本发明实施例提供一种对话系统处理方法、装置、设备及可读存储介质，本发明实施例的方法通过获取用户在本轮对话输入的原始语句；根据所述用户在本轮对话输入的原始语句，以及前一轮对话中的对话状态信息，生成本轮对话的对话状态信息；根据所述本轮对话的对话状态信息，生成本轮对话回复的目标语句，采用了拷贝流机制，包括有从前一轮回复到本轮对话状态的复制流程，从本轮对话状态到本轮回复的复制流程，在相邻的对话轮次中，从前一轮对话状态到本轮对话状态的复制流程，通过拷贝流机制，将对话历史的信息流通过复制传递并最终参与本轮对话回复的目标语句的生成，能够实现长期对话状态的跟踪，可以提高对话系统生成的回复的准确性。CN109582767ACN109582767A权利要求书1/2页1.一种对话系统处理方法，其特征在于，包括：获取用户在本轮对话输入的原始语句；根据所述用户在本轮对话输入的原始语句，以及前一轮对话中的对话状态信息，生成本轮对话的对话状态信息；根据所述本轮对话的对话状态信息，生成本轮对话回复的目标语句。2.根据权利要求1所述的方法，其特征在于，所述根据所述用户在本轮对话输入的原始语句，以及前一轮对话中的对话状态信息，生成本轮对话的对话状态信息，包括：根据所述用户在本轮对话输入的原始语句，以及前一轮对话中的对话状态信息，通过第一神经网络模型，从所述用户在本轮对话输入的原始语句提取关键词，生成所述原始语句对应的关键词序列；根据所述原始语句对应的关键词序列，计算所述原始语句对应的注意力权重序列。3.根据权利要求2所述的方法，其特征在于，所述根据所述原始语句对应的关键词序列，计算所述原始语句对应的注意力权重序列，包括：根据所述原始语句对应的关键词序列，计算所述关键词序列中每个词汇在词汇空间上的概率；将所述关键词序列中每个关键词在所述词汇空间上的概率，作为所述关键词对应的权重系数，确定所述原始语句对应的注意力权重序列。4.根据权利要求3所述的方法，其特征在于，所述根据所述用户在本轮对话输入的原始语句，以及前一轮对话中的对话状态信息，生成本轮对话的对话状态信息，还包括：通过第二神经网络模型对所述原始语句对应的所述关键词序列进行编码，得到所述原始语句对应的源序列，所述源序列包括分别与每个关键词对应的编码值；计算所述源序列中每个编码值对应于所述关键词序列中各个关键词的概率分布；根据所述原始语句对应的源序列，以及所述源序列中每个编码值对应于所述关键词序列中各个关键词的概率分布，进行加权相加处理，得到所述原始语句对应的特征向量。5.根据权利要求4所述的方法，其特征在于，所述根据所述本轮对话的对话状态信息，生成本轮对话回复的目标语句，包括：根据所述原始语句对应的特征向量，以及所述原始语句对应的源序列，通过序列到序列模型生成本轮对话回复的目标语句。6.根据权利要求2所述的方法，其特征在于，所述根据所述本轮对话的对话状态信息，生成本轮对话回复的目标语句之后，还包括：采用后验正则化方法对所述第一神经网络模型进行无监督方式地训练。7.一种对话系统处理装置，其特征在于，包括：获取模块，用于获取用户在本轮对话输入的原始语句；对话状态跟踪模块，用于根据所述用户在本轮对话输入的原始语句，以及前一轮对话中的对话状态信息，生成本轮对话的对话状态信息；回复生成模块，用于根据所述本轮对话的对话状态信息，生成本轮对话回复的目标语句。8.根据权利要求7所述的装置，其特征在于，所述对话状态跟踪模块还用于：根据所述用户在本轮对话输入的原始语句，以及前一轮对话中的对话状态信息，通过2CN109582767A权利要求书2/2页第一神经网络模型，从所述用户在本轮对话输入的原始语句提取关键词，生成所述原始语句对应的关键词序列；根据所述原始语句对应的关键词序列，计算所述原始语句对应的注意力权重序列。9.根据权利要求8所述的装置，其特征在于，所述对话状态跟踪模块还用于：根据所述原始语句对应的关键词序列，计算所述关键词序列中每个词汇在词汇空间上的概率；将所述关键词序列中每个关键词在所述词汇