业务模型训练方法、装置、系统及电子设备.pdf

(19)中华人民共和国国家知识产权局(12)发明专利申请(10)申请公布号CN111415015A(43)申请公布日2020.07.14(21)申请号202010228702.0(22)申请日2020.03.27(71)申请人支付宝（杭州）信息技术有限公司地址310000浙江省杭州市西湖区西溪路556号8层B段801-11(72)发明人邱伟峰(74)专利代理机构北京博思佳知识产权代理有限公司11415代理人郭思晨(51)Int.Cl.G06N20/10(2019.01)G06K9/62(2006.01)G06F21/62(2013.01)权利要求书7页说明书21页附图6页(54)发明名称业务模型训练方法、装置、系统及电子设备(57)摘要本说明书提出业务模型的训练方法、装置、系统及电子设备，数据提供方和数据使用方各自迭代各自模型单元的模型参数，双方模型单元的模型参数共同构成了业务模型的模型参数。在迭代后，数据提供方可将第一样本数据输入至第一模型单元，得到中间结果，并将中间结果发送给数据使用方。数据使用方可将中间结果和第二样本数据输入至第二模型单元，并基于第二模型单元输出的预测结果和标签确定是否接受本次迭代的模型参数，若接受，则双发各自进行下次模型参数的迭代更新。若不接受，则双方回退至上次迭代的模型参数，继续下次模型参数的迭代更新，直至业务模型收敛，从而实现防止个人数据泄露的情况下，丰富数据使用方的数据的特征维度。CN111415015ACN111415015A权利要求书1/7页1.一种业务模型的训练方法，所述业务模型包括第一模型单元和第二模型单元，所述第一模型单元配置在数据提供方，所述第二模型单元配置在数据使用方，所述数据提供方持有样本对象的第一样本数据，所述数据使用方持有所述样本对象的第二样本数据和所述样本对象的标签，所述第一样本数据和所述第二样本数据的特征维度不完全相同，所述方法应用在数据提供方，包括：基于所述第一模型单元上次迭代时的模型参数MT-1，生成本次迭代的模型参数MT；将所述第一样本数据输入模型参数为MT的第一模型单元，得到中间结果，并将该中间结果发送给所述数据使用方；接收数据使用方返回的参数更新决策，所述参数更新决策由所述数据使用方将所述中间结果和所述第二样本数据输入模型参数为NT的第二模型单元后，基于该第二模型单元输出的预测结果和所述样本对象的标签确定；所述NT为所述第二模型单元本次迭代的模型参数；当所述参数更新决策是接受本次迭代的模型参数时，检测所述业务模型是否收敛；若否，则基于所述第一模型单元本次迭代时的模型参数MT，执行生成下次迭代的模型参数MT+1的步骤；若是，则停止所述第一模型单元的模型参数的迭代，并确定所述业务模型训练完成。2.根据权利要求1所述的方法，所述方法还包括：当所述参数更新决策是不接受本次迭代的模型参数时，基于第一模型上次迭代时的模型参数MT-1，生成下次迭代的模型参数MT+1。3.根据权利要求1所述的方法，所述基于所述第一模型单元上次迭代时的模型参数MT-1，生成本次迭代的模型参数MT，包括：基于模型参数MT-1、第一模型单元上次迭代的协方差矩阵以及预设的概率分布类型，确定目标概率分布；依据所述目标概率分布，生成服从所述目标概率分布的本次迭代的模型参数MT；其中，所述第一模型单元上次迭代的协方差矩阵通过所述第一模型单元上上次迭代时的协方差矩阵、以及所述第一模型单元上次迭代的模型参数MT-1确定。4.根据权利要求3所述的方法，所述第一模型单元上次迭代的协方差矩阵为关联矩阵，或者，所述第一模型单元上次迭代的协方差矩阵为动量矩阵。5.根据权利要求4所述的方法，当所述第一模型单元上次迭代的协方差矩阵为关联矩阵时，所述第一模型单元上次迭代的协方差矩阵通过如下公式确定：TCT-1＝γCT-2+(1-γ)MT-1·MT-1；其中，CT-2是第一模型单元上上次迭代的关联矩阵；CT-1是第一模型单元上次迭代时的关联矩阵；MT-1是第一模型单元上次迭代时的模型参数；γ是预设值。6.根据权利要求1所述的方法，所述样本对象为用户，所述第一样本数据和所述第二样本数据均为用户数据。7.一种业务模型的训练方法，所述业务模型包括第一模型单元和第二模型单元，所述第一模型单元配置在数据提供方，所述第二模型单元配置在数据使用方，所述数据提供方2CN111415015A权利要求书2/7页持有样本对象的第一样本数据，所述数据使用方持有所述样本对象的第二样本数据和所述样本对象的标签，所述第一样本数据和所述第二样本数据的特征维度不完全相同，所述方法应用在数据使用方，包括：基于所述第二模型单元上次迭代时的模型参数NT-1，生成本次迭代的模型参数NT；在接收到数据提供方发送的中间结果时，将所述中间结果和所述第二样本数据输入至模型参数为N