一种基于多领域多轮问答的对话状态跟踪方法.pdf

(19)中华人民共和国国家知识产权局(12)发明专利申请(10)申请公布号CN111984785A(43)申请公布日2020.11.24(21)申请号202010815598.5G06N3/02(2006.01)(22)申请日2020.08.14(71)申请人海南中智信信息技术有限公司地址570100海南省澄迈县老城高新技术产业示范园区海南生态软件园A17幢一层4001(72)发明人于建港于长宏吴嘉琪肖定和刘嵩(74)专利代理机构广州三环专利商标代理有限公司44202代理人陈欢(51)Int.Cl.G06F16/35(2019.01)G06F16/332(2019.01)G06N3/08(2006.01)权利要求书2页说明书6页附图2页(54)发明名称一种基于多领域多轮问答的对话状态跟踪方法(57)摘要本发明提供一种基于多领域多轮问答的对话状态跟踪方法，该方法包括下列步骤：S1、建立对话状态模型,并对所述对话状态模型进行编码；S2、基于DomainInterestPrediction模块对对话回合的兴趣领域进行判断；S3、通过SlotgatePrediction模块对每一个slottype生成value值的方式进行判断；S4、基于SpanPrediction模块对slot中的value值进行预测，并最终生成word。CN111984785ACN111984785A权利要求书1/2页1.一种基于多领域多轮问答的对话状态跟踪方法，其特征在于，包括下列步骤：S1、建立对话状态模型，并对所述对话状态模型进行编码；S2、基于DomainInterestPrediction模块对对话回合的兴趣领域进行判断；S3、通过SlotgatePrediction模块对每一个slottype生成value值的方式进行判断；S4、基于SpanPrediction模块对slot中的value值进行预测，并最终生成word。2.根据权利要求1所述的一种基于多领域多轮问答的对话状态跟踪方法，其特征在于，所述建立对话状态模型，具体包括：将当前回合对话话语、上一回合对话话语以及上一回合的对话状态容器内容进行拼接，从而获得对话状态模型Xt：其中Dt表示t回合的对话话语，Dt-1表示第t-1回合的对话话语，Bt表示t回合的对话状态容器内容，其中Dt的模型为：Bt的模型为：其中，表示第i个领域下的t回合的对话状态容器内容，M表示领域数量，N表示第i个领域包含的slot数量，[A]、[U]、[DOM]、[SLOT]、[CLS]、[SEP]、[EOS]都是特殊的字符，其中[A]和[U]分别后接系统和用户的话语，[DOM]和[SLOT]分别后接兴趣领域名称和slot名称。3.根据权利要求2所述的一种基于多领域多轮问答的对话状态跟踪方法，其特征在于，对所述对话状态模型进行编码，具体包括：基于Bert模型对所述对话状态模型Xt进行编码，输出隐藏状态矩阵Ht，并将矩阵Ht中对应每一个字符的隐藏状态向量记为ht。4.根据权利要求3所述的一种基于多领域多轮问答的对话状态跟踪方法，其特征在于，通过SlotgatePrediction模块对每一个字符的中的slottype生成value值的方式进行判断，具体包括：采用SlotgatePrediction模块将对话状态模型Xt中的[SLOT]所对应的隐藏状态向量映射为{carryover，confirm，span}上的分布；在当前对话回合下，若某一slottype的值与上一对话回合相同，则slottype的操作方式为carryover，其slottype中的value值直接继承上一对话回合；若某一slottype的值为yes、no、[NULL]、donotcare之一，则slottype的操作方式为confirm，其slottype中的value值需要用户在yes、no、[NULL]、donotcare之中进行确认；若某一slottype的值既不与上一对话回合相同，也不属于yes、no、[NULL]、donotcare之一，则将slottype的操作方式定为span，使用copy机制从对话历史文本中抽取或拷贝合适的字符来作为其slottype中的value值。2CN111984785A权利要求书2/2页5.根据权利要求4所述的一种基于多领域多轮问答的对话状态跟踪方法，其特征在于，基于DomainInterestPrediction模块对对话回合的兴趣领域进行判断，具体包括：若目标领域所属的N个slottype的操作方式均为carryover，则将目标领域判定为carryover；否则判定为interest。6.根据权利要求5所述的一种基于多领域多轮问答的对话状态跟踪方法，其特征在于，基于DomainInterestPrediction模块的