业务模型训练方法、装置及系统.pdf
论文****酱吖
亲,该文档总共23页,到这已经超出免费预览范围,如果喜欢就直接下载吧~
相关资料
业务模型训练方法、装置及业务模型训练系统.pdf
本说明书的实施例提供业务模型训练方法及装置。业务模型包括至少一个非线性模型结构。模型训练系统包括第一成员设备和第二成员设备,第一成员设备具有标签值,各个成员设备的子模型共同组成业务模型。在模型训练时,迭代执行循环过程。在每次循环时,各个成员设备使用训练样本数据以及各自的当前子模型得到当前业务模型的当前预测值,其中,与至少一个非线性模型结构对应的模型计算采用线性近似处理方式实现。在不满足循环结束条件时,根据当前预测差值,调整各个成员设备的当前子模型,调整后的各个成员设备的当前子模型用作下一循环过程的当前子模
业务模型训练方法、装置及系统.pdf
本说明书实施例提供用于经由第一成员设备和至少两个第二成员设备训练业务模型的方法、装置和系统。各个第二成员设备具有本地业务模型和本地样本数据,并且所具有的本地样本数据是非独立同分布数据。各个第二成员设备将本地样本数据分布信息提供给第一成员设备。第一成员设备根据各个第二成员设备的本地样本数据分布信息确定整体样本数据概率分布,并发送给各个第二成员设备。各个第二成员设备根据整体样本数据概率分布和超参数,从本地样本数据中确定各类样本数据的扩充样本数据,所述扩充样本数据用于扩充业务模型的训练样本数据。
业务模型训练方法、装置及系统.pdf
本说明书实施例提供用于经由多个成员设备训练业务模型的方法、装置及系统。第一和第二成员设备分别具有第一和第二数据,第一和第二数据按照垂直切分方式组成用于模型训练的训练样本集,并且第一成员设备具有训练样本的标签数据。在每次循环时,各个成员设备协同,使用当前训练样本训练出当前业务模型并得到当前训练样本的模型预测结果。在第一成员设备处根据模型预测结果确定出当前训练样本中的预测误差最大的第一训练样本,并将第一训练样本的样本标识发送给各个第二成员设备。各个成员设备协同来从未使用训练样本中选择出与第一训练样本相似的第二
业务模型的训练方法、装置及系统.pdf
本说明书实施例提供一种业务模型的训练方法、装置及系统,在训练方法中,先由第一方基于本地丰富的源域样本,训练高性能业务模型,并将其发送给第二方。之后第一方利用知识蒸馏法,训练轻量化业务模型。具体以第一业务模型为老师模型,第二业务模型为学生模型,再结合源域样本指导学生模型训练。之后,第一方将训练后的第二业务模型发送给第二方,第二方再次利用知识蒸馏法,微调接收的第二业务模型。具体以接收的第一业务模型为老师模型,接收的第二业务模型为学生模型,再结合目标域样本微调学生模型,得到目标业务模型。
业务模型训练方法、装置、系统及电子设备.pdf
本说明书提出业务模型的训练方法、装置、系统及电子设备,数据提供方和数据使用方各自迭代各自模型单元的模型参数,双方模型单元的模型参数共同构成了业务模型的模型参数。在迭代后,数据提供方可将第一样本数据输入至第一模型单元,得到中间结果,并将中间结果发送给数据使用方。数据使用方可将中间结果和第二样本数据输入至第二模型单元,并基于第二模型单元输出的预测结果和标签确定是否接受本次迭代的模型参数,若接受,则双发各自进行下次模型参数的迭代更新。若不接受,则双方回退至上次迭代的模型参数,继续下次模型参数的迭代更新,直至业务