一种意图识别模型训练及用户意图识别方法及装置.pdf

(19)国家知识产权局(12)发明专利申请(10)申请公布号CN115033676A(43)申请公布日2022.09.09(21)申请号202210713723.0(22)申请日2022.06.22(71)申请人支付宝（杭州）信息技术有限公司地址310000浙江省杭州市西湖区西溪路556号8层B段801-11(72)发明人应缜哲王昊天王维强(74)专利代理机构北京博思佳知识产权代理有限公司11415专利代理师李威(51)Int.Cl.G06F16/332(2019.01)G06F16/33(2019.01)G06K9/62(2022.01)G06Q10/06(2012.01)权利要求书3页说明书15页附图4页(54)发明名称一种意图识别模型训练及用户意图识别方法及装置(57)摘要本说明书公开了一种意图识别模型训练及用户意图识别方法及装置，先确定包含多轮对话的历史对话数据作为训练样本，通过第一意图识别模型确定每个训练样本各轮对话的用户意图，并基于用户执行的与该训练样本对应的业务确定反馈意图，然后根据该训练样本的用户意图以及反馈意图确定第一风险识别结果，并通过第二意图识别模型确定该训练样本的各预测意图以及第二风险识别结果，最后以各训练样本第一风险识别结果与第二风险识别结果之间的差异最小为优化目标对第二意图识别模型进行训练。通过结合反馈意图以及由第一意图识别模型确定的用户意图，得到准确的风险识别结果，以对第二意图识别模型进行训练，提高了第二意图识别模型的风险识别能力。CN115033676ACN115033676A权利要求书1/3页1.一种意图识别模型的训练方法，所述方法包括：根据历史对话数据，确定各训练样本，所述训练样本包含多轮对话；针对每个训练样本，通过训练完成的第一意图识别模型，分别确定该训练样本中各轮对话的用户意图，作为该训练样本的第一标注；根据该训练样本，确定用户执行的与该训练样本对应的前序业务，以确定用户执行的与所述前序业务对应的后续业务，并基于所述后续业务对应的对话数据确定反馈意图，作为该训练样本对应的第二标注；根据该训练样本对应的第一标注以及第二标注，确定该训练样本对应的第一风险识别结果；将该训练样本输入待训练的第二意图识别模型，确定该训练样本对应的各预测意图以及第二风险识别结果；根据各训练样本第一风险识别结果与第二风险识别结果之间的差异，确定损失，并以所述损失最小为优化目标对所述待训练的第二意图识别模型进行训练，所述第二意图识别模型用于与所述第一意图识别模型共同识别对话中由用户虚假意图引起的风险。2.如权利要求1所述的方法，将该训练样本输入待训练的第二意图识别模型，确定该训练样本对应的各预测意图以及第二风险识别结果之前，所述方法还包括：通过采用占位符替换训练样本的各轮对话中至少部分用户回复，得到各预训练样本，根据被替换的用户回复，确定各预训练样本的对话标注；将各预训练样本输入待训练的第二意图识别模型的输入层，通过所述第二意图识别模型的第一输出层，确定被替换的各用户回复对应的预测语句；以各预训练样本对应的预测语句与对话标注差异最小为优化目标，对所述待训练的第二意图识别模型进行预训练，直至达到训练结束条件为止，确定预训练得到的第二意图识别模型。3.如权利要求2所述的方法，将该训练样本输入待训练的第二意图识别模型，确定该训练样本对应的各预测意图，具体包括：将所述预训练得到的第二意图识别模型的第一输出层替换为第二输出层，所述第二输出层设置为用于输出预测意图；将该训练样本输入所述预训练得到的第二意图识别模型的输入层，通过所述第二输出层，得到该训练样本对应的各预测意图。4.如权利要求1所述的方法，确定用户执行的与该训练样本对应的前序业务，确定用户执行的与所述前序业务对应的后续业务，并基于所述后续业务对应的对话数据确定反馈意图，具体包括：根据该训练样本对应的历史对话数据，确定产生所述历史对话数据的前序业务；根据所述前序业务，确定用户执行的与所述前序业务对应的投诉业务；根据确定出的投诉业务对应的对话数据，确定所述对话数据对应的用户意图，作为该训练样本对应的反馈意图。5.如权利要求1所述的方法，根据该训练样本对应的第一标注以及第二标注，确定该训练样本对应的第一风险识别结果，具体包括：根据预设的各风险意图组合，判断该训练样本对应的第一标注与第二标注的组合，是2CN115033676A权利要求书2/3页否与任一风险意图组合匹配；若是，则确定该训练样本对应的第一风险识别结果为存在风险；若否，则确定该训练样本对应的第一风险识别结果为不存在风险。6.如权利要求1所述的方法，确定该训练样本对应的第二风险识别结果，具体包括：据预设的各风险意图组合，判断该训练样本对应的各预测意图的组合，是否与任一风险意图组合匹配；若是，则确定该训练样本对应的第二风