模型训练方法、模型训练装置、设备及存储介质.pdf

(19)国家知识产权局(12)发明专利申请(10)申请公布号CN115017288A(43)申请公布日2022.09.06(21)申请号202210689674.1G06F40/253(2020.01)(22)申请日2022.06.17G06F40/35(2020.01)G06K9/62(2022.01)(71)申请人平安科技（深圳）有限公司地址518057广东省深圳市福田区福田街道福安社区益田路5033号平安金融中心23楼(72)发明人李鹏宇(74)专利代理机构深圳市力道知识产权代理事务所(普通合伙)44507专利代理师郑永敏(51)Int.Cl.G06F16/332(2019.01)G06F16/35(2019.01)G06F16/33(2019.01)G06F16/9536(2019.01)权利要求书2页说明书10页附图2页(54)发明名称模型训练方法、模型训练装置、设备及存储介质(57)摘要本申请涉及人工智能技术领域，尤其涉及模型训练方法、模型训练装置、计算机设备及存储介质。所述方法包括：获取训练样本数据；获取待训练的回复生成模型，并将目标对话输入至回复生成模型中，得到模型回复信息；基于预训练的鉴别器，根据参考回复信息对模型回复信息进行回复质量评估，得到模型回复信息的第一信息评估结果；根据历史对话数据集对模型回复信息进行回复质量评估，得到模型回复信息的第二信息评估结果；根据第一信息评估结果和第二信息评估结果对回复生成模型进行风格迁移训练，得到目标回复生成模型。本申请实施例旨在训练得到能够根据不同语境生成对应对话风格的回复文本的回复生成模型。CN115017288ACN115017288A权利要求书1/2页1.一种模型训练方法，其特征在于，所述方法包括：获取训练样本数据，所述训练样本数据包括目标对话及所述目标对话对应的参考回复信息和历史对话数据集；获取待训练的回复生成模型，并将所述目标对话输入至所述回复生成模型中，得到模型回复信息；基于预训练的鉴别器，根据所述参考回复信息对所述模型回复信息进行回复质量评估，得到所述模型回复信息的第一信息评估结果；根据所述历史对话数据集对所述模型回复信息进行回复质量评估，得到所述模型回复信息的第二信息评估结果；根据所述第一信息评估结果和所述第二信息评估结果对所述回复生成模型进行风格迁移训练，得到目标回复生成模型。2.根据权利要求1所述的方法，其特征在于，所述获取训练样本数据，包括：获取对话风格需求，并根据所述对话风格需求确定训练语料库中对应的风格标签；根据所述风格标签，遍历所述训练语料库，得到所述训练样本数据。3.根据权利要求1所述的方法，其特征在于，所述基于预训练的鉴别器，根据所述参考回复信息对所述模型回复信息进行回复质量评估，得到所述模型回复信息的第一信息评估结果，包括：对所述模型回复信息进行分析，得到所述模型回复信息的语义分析结果和风格评估结果；根据所述语义分析结果和所述风格评估结果确定所述模型回复信息和所述参考回复信息的相似度；根据所述相似度生成所述模型回复信息的第一信息评估结果。4.根据权利要求3所述的方法，其特征在于，所述对所述模型回复信息进行分析，得到所述模型回复信息的语义分析结果和风格评估结果，包括：对所述模型回复信息进行分词处理，并预测分词处理之后的每个分词对应的词义；对每个分词对应的词义进行修正以及组合，得到所述模型回复信息的语义分析结果；对每个分词对应的词义进行风格评估，得到每个分词对应的风格评估结果。5.根据权利要求1所述的方法，其特征在于，所述根据所述历史对话数据集对所述模型回复信息进行回复质量评估，得到所述模型回复信息的第二信息评估结果，包括：遍历所述历史对话数据集，确定所述目标对话的位置；根据所述位置对所述历史对话数据集进行筛选，得到目标历史对话数据集；根据所述目标历史对话数据集对所述模型回复信息进行回复质量评估，得到所述模型回复信息的第二信息评估结果。6.根据权利要求5所述的方法，其特征在于，所述根据所述目标历史对话数据集对所述模型回复信息进行回复质量评估，得到所述模型回复信息的第二信息评估结果，包括：对所述模型回复信息和所述目标历史对话数据集进行风格评估，得到所述模型回复信息和所述目标历史对话数据集对应的风格标签；根据所述模型回复信息和所述目标历史对话数据集对应的风格标签对所述模型回复信息进行回复质量评估，得到所述模型回复信息的第二信息评估结果。2CN115017288A权利要求书2/2页7.根据权利要求1所述的方法，其特征在于，所述根据所述第一信息评估结果和所述第二信息评估结果对所述回复生成模型进行风格迁移训练，直至所述回复生成模型收敛，得到目标回复生成模型，包括：获取训练参数和所述回复生成模型的损失函数；根据所述训练参数、所述第一信息评估结果和所述第二