一种多轮对话模型训练方法、多轮对话的生成方法及装置.pdf

(19)国家知识产权局(12)发明专利申请(10)申请公布号CN115563243A(43)申请公布日2023.01.03(21)申请号202211157408.0(22)申请日2022.09.22(71)申请人太保科技有限公司地址200010上海市黄浦区中山南路1号11层(名义楼层)11V6室(72)发明人赵亚东(74)专利代理机构北京集佳知识产权代理有限公司11227专利代理师张志梅(51)Int.Cl.G06F16/33(2019.01)G06F16/332(2019.01)G06N20/00(2019.01)权利要求书3页说明书12页附图5页(54)发明名称一种多轮对话模型训练方法、多轮对话的生成方法及装置(57)摘要本申请提供了一种多轮对话模型训练方法、多轮对话的生成方法及装置，通过获取任务场景，并根据获取到的任务场景预设意图类型数据、槽位种子模板、机器人行为以及与所述机器人行为对应的机器人回复数据，并构建多轮对话策略图，根据所述多轮对话策略图构建多轮对话数据集，由于多轮对话数据集可以通过多轮对话策略图中包含的元素以及数据进行自动生成，所以降低了训练样本形成过程中的人工参与程度，提高了模型训练效率。CN115563243ACN115563243A权利要求书1/3页1.一种多轮对话模型训练方法，其特征在于，所述方法包括：获取任务场景；根据所述任务场景获取意图类型集合；根据所述任务场景获取槽位种子模板，其中，所述槽位种子模板包括有槽位类型和与所述槽位类型对应的槽位值；构建三元组数据，其中，一个所述三元组数据包含所述意图类型集合中的一种意图类型，一种所述槽位类型以及一个与所述槽位类型对应的槽位值；根据所述任务场景获取机器人行为以及与所述机器人行为对应的机器人回复数据；根据所述三元组数据与所述机器人行为以及与所述机器人行为对应的机器人回复数据构建多轮对话策略图；根据所述多轮对话策略图构建多轮对话数据集；将所述多轮对话数据集作为模型训练样本，训练得到多轮对话模型。2.根据权利要求1所述的方法，其特征在于，所述根据所述任务场景获取槽位种子模板包括：根据所述任务场景确定槽位类型集合；从所述槽位类型集合中获取一个槽位类型，根据所述槽位类型确定槽位值；将所述槽位类型与槽位值确定为槽位种子模版。3.根据权利要求1所述的方法，其特征在于，所述根据所述任务场景获取槽位种子模板包括：根据所述任务场景确定槽位类型集合；从所述槽位类型集合中获取一个槽位类型，针对所述槽位类型确定槽位值；将所述槽位类型与槽位值确定为槽位种子模版；采样至少两个槽位种子模板并进行拼接，得到复杂化的槽位种子模板。4.根据权利要求1所述的方法，其特征在于，所述根据所述三元组数据与所述机器人行为以及与所述机器人行为对应的机器人回复数据构建多轮对话策略图包括：设置对话状态节点集合，其中，所述对话状态节点集合中的每个对话状态节点对应至少一个三元组数据并对应一个机器人行为以及与所述机器人行为对应的机器人回复数据；设置有向边集合，其中，所述有向边集合中的任一有向边由头节点和尾节点构成，所述头节点与尾节点为所述对话状态节点集合中的任意对话状态节点，每条有向边对应至少一个判定条件，用于判定多轮对话任务需要调用的对话状态节点；根据所述有向边集合生成多轮对话策略图。5.根据权利要求1所述的方法，其特征在于，所述根据所述多轮对话策略图构建多轮对话数据包括：在多轮对话策略图包含的对话状态节点集合中采样第一对话状态节点，并将采样到的第一对话状态节点设置为对话流程开始节点，并构造已采样节点集合以及设置对话流程结束节点，其中，所述已采样节点集合包含已被采样过的对话状态节点；判断所述第一对话状态节点是否为对话流程结束节点，是则将所述第一对话状态节点对应的三元组数据作为多轮对话数据集；若所述第一对话状态节点不是对话流程结束节点，则从所述第一对话状态节点对应的2CN115563243A权利要求书2/3页至少一个三元组数据中采样得到一个第一三元组数据，将所述采集到的第一三元组数据中包含的意图类型作为第一数据；在预设范围中采样一个随机数，若所述随机数满足第一判断条件，则从所述已采样节点集合外的未采样节点集合中采样第一数量阈值个第二对话状态节点，并对采集到的第二对话状态节点所对应的至少一个三元组数据进行采样，得到一个第二三元组数据，将所述第二三元组数据中包含的意图类型与所述第一数据拼接得到第二数据，并将所述第一数量阈值个第二对话状态节点加入所述已采集节点集合中；若所述随机数满足第二判断条件，则从以所述第一对话状态节点为头节点的有向边对应的尾节点集合中采样第二数量阈值个第三对话状态节点，并对所述第三对话状态节点所对应的至少一个三元组数据进行采样，得到一个第三三元组数据，将所述第三三元组数据中包含的意图类型与所述第一