建立个性化模型的方法和装置.pdf

(19)中华人民共和国国家知识产权局(12)发明专利申请(10)申请公布号CN113780572A(43)申请公布日2021.12.10(21)申请号202110952740.5(22)申请日2021.08.19(71)申请人支付宝（杭州）信息技术有限公司地址310000浙江省杭州市西湖区西溪路556号8层B段801-11(72)发明人申书恒傅欣艺王维强(74)专利代理机构济南信达专利事务所有限公司37100代理人李世喆(51)Int.Cl.G06N20/00(2019.01)G06F3/01(2006.01)G06F21/62(2013.01)权利要求书2页说明书9页附图4页(54)发明名称建立个性化模型的方法和装置(57)摘要本说明书实施例提供了一种建立个性化模型的方法和装置。根据该实施例的方法，首先在服务器端利用全局用户数据进行学习，构建全局模型；然后利用目标场景对应的局部用户数据在所述全局模型基础上进一步学习，得到所述目标场景对应的个性化模型；最后再将所述个性化模型部署于所述目标场景对应的终端设备。CN113780572ACN113780572A权利要求书1/2页1.建立个性化模型的方法，包括：在服务器端利用全局用户数据进行学习，构建全局模型；利用目标场景对应的局部用户数据在所述全局模型基础上进一步学习，得到所述目标场景对应的个性化模型；将所述个性化模型部署于所述目标场景对应的终端设备。2.根据权利要求1所述的方法，其中，所述在服务器端利用全局用户数据进行学习，构建全局模型包括：在每轮迭代中，根据局部用户数据量进行重要性采样，利用采样得到的样本进行本轮迭代的模型参数更新。3.根据权利要求1所述的方法，其中，在服务器端利用全局用户数据进行学习的过程中，在每一轮迭代中利用各目标场景对应的个性化模型的损失函数的梯度和，作为最终梯度进行本轮全局模型参数的更新。4.根据权利要求1所述的方法，其中，所述利用目标场景对应的局部用户数据在所述全局模型基础上进一步学习，得到所述目标场景对应的个性化模型包括：利用目标场景对应的局部用户数据对所述全局模型进行N轮迭代，并保留每一轮迭代的模型参数，所述N为正整数；利用验证集对每一轮迭代的模型参数进行验证，取效果最优的模型参数对应的个性化模型。5.根据权利要求1所述的方法，其中，将所述个性化模型部署于所述目标场景对应的终端设备包括：将所述个性化模型和所述全局模型部署于所述目标场景对应的终端设备。6.根据权利要求1至5中任一项所述的方法，其中，所述学习包括元学习，所述全局模型包括元模型。7.建立个性化模型的方法，包括：在目标场景对应的终端设备预先部署由服务器端预先学习得到的所述目标场景对应的个性化模型；其中所述个性化模型是所述服务器端利用全局用户数据进行学习构建全局模型后，利用所述目标场景对应的局部用户数据在所述全局模型基础上进一步学习得到的；所述终端设备调用所述个性化模型进行决策。8.根据权利要求7所述的方法，还包括：所述终端设备周期性获取累积的局部用户数据，利用所述累积的局部用户数据更新所述个性化模型。9.根据权利要求8所述的方法，还包括：在所述目标场景对应的终端设备预先部署所述全局模型；利用所述累积的局部用户数据更新所述个性化模型包括：在所述全局模型的基础上，利用当前周期累积的局部用户数据进一步学习得到局部更新模型；对当前的个性化模型和所述局部更新模型进行平滑平均，利用平滑平均得到的模型更新个性化模型。2CN113780572A权利要求书2/2页10.根据权利要求9所述的方法，其中，在所述全局模型的基础上，利用当前周期累积的局部用户数据进一步学习得到局部更新模型包括：利用当前周期累积的局部用户数据对所述全局模型进行M轮迭代，并保留每一轮迭代的模型参数，所述M为正整数；利用验证集对每一轮迭代的模型参数进行验证，取效果最优的模型参数对应的局部更新模型。11.建立个性化模型的装置，设置于服务器端，包括：全局训练单元，被配置为利用全局用户数据进行学习，构建全局模型；局部训练单元，被配置为利用目标场景对应的局部用户数据在所述全局模型基础上进一步学习，得到所述目标场景对应的个性化模型；模型部署单元，被配置为将所述个性化模型部署于所述目标场景对应的终端设备。12.建立个性化模型的装置，设置于终端设备，包括：模型部署单元，被配置为预先部署由服务器端预先学习得到的目标场景对应的个性化模型；其中所述个性化模型是所述服务器端利用全局用户数据进行学习构建全局模型后，利用所述目标场景对应的局部用户数据在所述全局模型基础上进一步学习得到的；模型应用单元，被配置为调用所述个性化模型进行决策。13.一种计算设备，包括存储器和处理器，其特征在于，所述存储器中存储有可执行代码，所述处理器执行所述可执行代码时，实现权利要求1‑1