模型解释及训练方法、装置、设备、介质及程序产品.pdf

(19)国家知识产权局(12)发明专利申请(10)申请公布号CN115049067A(43)申请公布日2022.09.13(21)申请号202210513340.9(22)申请日2022.05.12(71)申请人支付宝（杭州）信息技术有限公司地址310000浙江省杭州市西湖区西溪路556号8层B段801-11(72)发明人赵叶宇董庆州方彦明(74)专利代理机构北京恒博知识产权代理有限公司11528专利代理师侯世俭(51)Int.Cl.G06N20/00(2019.01)G06K9/62(2022.01)G06N3/08(2006.01)权利要求书4页说明书24页附图6页(54)发明名称模型解释及训练方法、装置、设备、介质及程序产品(57)摘要本说明书实施例公开了一种模型解释及训练方法、装置、设备、介质及程序产品。其中，模型训练方法首先将获取包括多个样本测试数据的样本测试集输入由样本训练集训练得到的预设模型中，输出样本测试集中每个样本测试数据对应的第一预测结果，上述样本训练集包括多个已知目标值的样本训练数据，每个样本测试数据以及每个样本训练数据均对应N个特征，N为大于或等于2的正整数，然后通过根据上述样本测试集中每个样本测试数据对应的第一预测结果以及上述样本测试集中每个样本测试数据对应的N个特征，按照预设训练方式训练可解释模型。上述可解释模型用于解释上述预设模型产生上述第一预测结果的原因。CN115049067ACN115049067A权利要求书1/4页1.一种可解释模型训练方法，所述方法包括：获取样本测试集；所述样本测试集包括多个样本测试数据，每个所述样本测试数据对应N个特征；所述N为大于或等于2的正整数；将所述样本测试集输入预设模型中，输出所述样本测试集中每个样本测试数据对应的第一预测结果；所述预设模型由样本训练集训练得到，所述样本训练集包括多个已知目标值的样本训练数据，每个所述样本训练数据对应所述N个特征；根据所述样本测试集中每个样本测试数据对应的第一预测结果以及所述样本测试集中每个样本测试数据对应的N个特征，按照预设训练方式训练可解释模型；所述可解释模型用于解释所述预设模型产生所述第一预测结果的原因。2.如权利要求1所述的方法，所述根据所述样本测试集中每个样本测试数据对应的第一预测结果以及所述样本测试集中每个样本测试数据对应的N个特征，按照预设训练方式训练可解释模型，包括：将所述样本测试集中每个样本测试数据对应的N个特征输入可解释模型中，输出所述每个样本测试数据对应的第二预测结果；基于所述每个样本测试数据对应的第二预测结果以及所述每个样本测试数据对应的第一预测结果对所述可解释模型进行更新。3.如权利要求2所述的方法，所述可解释模型包括多个第一初始权重；每个所述第一初始权重与所述N个特征中的每个特征以及所述每个特征的特征值对应；所述每个样本测试数据对应的第二预测结果包括线性预测结果；所述将所述样本测试集中每个样本测试数据对应的N个特征输入可解释模型中，输出所述每个样本测试数据对应的第二预测结果，包括：根据所述每个样本测试数据对应的N个特征以及所述N个特征中每个特征的特征值，确定所述每个样本测试数据的所述N个特征各自对应的第一初始权重；计算所述每个样本测试数据的所述N个特征各自对应的第一初始权重之和，得到所述每个样本测试数据对应的线性预测结果；其中，所述可解释模型具体用于确定所述N个特征中对所述预设模型产生第一预测结果影响最大的M个特征；所述M为小于或等于N的正整数。4.如权利要求2所述的方法，所述可解释模型包括至少四个第二初始权重；每个所述第二初始权重与每个交叉特征以及所述每个交叉特征的特征值对应；所述交叉特征为所述N个特征中的至少两个特征组成的集合；所述交叉特征的特征值为所述交叉特征包括的所有特征的特征值；所述每个样本测试数据对应的第二预测结果包括交叉预测结果；所述将所述样本测试集中每个样本测试数据对应的N个特征输入可解释模型中，输出所述每个样本测试数据对应的第二预测结果，包括：根据所述每个样本测试数据对应的至少一个交叉特征以及每个所述交叉特征的特征值，确定所述每个样本测试数据的所述至少一个交叉特征对应的至少一个所述第二初始权重；计算所述每个样本测试数据的所述至少一个交叉特征对应的至少一个所述第二初始权重之和，得到所述每个样本测试数据对应的交叉预测结果；其中，所述可解释模型具体用于确定对所述预设模型产生第一预测结果影响最大的M2CN115049067A权利要求书2/4页个交叉特征；所述M为正整数。5.如权利要求4所述的方法，所述可解释模型还包括多个第一初始权重；每个所述第一初始权重与所述N个特征中的每个特征以及所述每个特征的特征值对应；所述每个样本测试数据对应的第二预测结果还包括线性预测结果；所述得到所述每个样本测试数据