目标模型的训练方法及装置.pdf

(19)国家知识产权局(12)发明专利申请(10)申请公布号CN114996568A(43)申请公布日2022.09.02(21)申请号202210509927.2(22)申请日2022.05.11(71)申请人中国工商银行股份有限公司地址100140北京市西城区复兴门内大街55号(72)发明人鲁转丽王凯周洪菊赵凯宁(74)专利代理机构北京康信知识产权代理有限责任公司11240专利代理师周春枚(51)Int.Cl.G06F16/9535(2019.01)G06N20/00(2019.01)权利要求书2页说明书12页附图5页(54)发明名称目标模型的训练方法及装置(57)摘要本申请公开了一种目标模型的训练方法及装置。涉及人工智能领域，该方法包括：向目标服务器发送发起训练指令，其中，发起训练指令用于触发目标服务器发起联合训练；将本地用户模型的模型参数发送给目标服务器，接收目标服务器发送的目标模型参数，其中，目标服务器接收多个参与方发送的多个模型参数，并根据多个模型参数确定目标模型参数；根据目标模型参数对本地用户模型进行调参，并继续训练，直至本地用户模型收敛。通过本申请，解决了相关技术中不同服务方的数据无法合法互通，模型的各个服务方的数据源互相隔离，对用户进行智能推荐的模型较为片面，导致模型准确率较低的问题。CN114996568ACN114996568A权利要求书1/2页1.一种目标模型的训练方法，其特征在于，包括：向目标服务器发送发起训练指令，其中，所述发起训练指令用于触发所述目标服务器发起联合训练；将本地用户模型的模型参数发送给所述目标服务器，接收所述目标服务器发送的目标模型参数，其中，所述目标服务器接收多个参与方发送的多个模型参数，并根据多个所述模型参数确定目标模型参数；根据所述目标模型参数对所述本地用户模型进行调参，并继续训练，直至所述本地用户模型收敛。2.根据权利要求1所述的方法，其特征在于，将本地用户模型的模型参数发送给所述目标服务器，接收所述目标服务器发送的目标模型参数之前，所述方法还包括：将所述本地用户模型的模型参数数据进行加密后，发送给联合训练的多个参与方，并接收多个参与方对加密后的模型参数数据二次加密后得到的模型参数；接收联合训练的多个参与方对各自对应的用户模型的模型参数数据加密后的模型参数密文，并对所述模型参数密文进行二次加密返回给对应的参与方。3.根据权利要求2所述的方法，其特征在于，所述方法还包括：将接收多个参与方加密处理后的模型参数密文进行解密，得到多个参与方的模型参数，其中，所述模型参数用于对所述用户模型进行继续训练。4.根据权利要求3所述的方法，其特征在于，根据所述目标模型参数对所述用户模型进行调参，并继续训练，直至所述本地用户模型收敛包括：根据所述目标模型参数对所述本地用户模型进行调参；利用所述多个参与方的模型参数对所述本地用户模型进行继续训练；通过所述本地用户模型的损失函数，确定损失值；在所述损失值达到预设数值的情况下，确定所述本地用户模型收敛。5.根据权利要求1至4中任一项所述的方法，其特征在于，根据所述目标模型参数对所述本地用户模型进行调参，并继续训练，直至所述本地用户模型收敛之后，所述方法还包括：将用户信息输入所述本地用户模型，生成用户标签；根据所述用户标签向所述用户信息的账户进行业务推送，或者生成所述用户信息感兴趣的业务内容。6.一种目标模型的训练方法，其特征在于，包括：向联合训练的多个参与方发送训练请求，其中，每个所述参与方根据自身权限的用户数据创建有相同类型的用户模型；接收所述多个参与方响应所述训练请求发送的多个模型参数，其中，所述模型参数为每个参与方的用户模型的模型参数；根据多个所述模型参数确定目标模型参数；将所述目标模型参数下发给所述多个参与方，其中，所述参与方根据接收的所述目标模型参数对用户模型进行调参，并继续训练。7.根据权利要求1所述的方法，其特征在于，所述多个参与方包括：一个发起方，向多个参与方发送训练请求之前，所述方法还包括：2CN114996568A权利要求书2/2页接收所述发起方发送的发起训练指令；响应所述发起训练指令，执行向联合训练的所述多个参与方发送训练请求的步骤。8.一种目标模型的训练装置，其特征在于，包括：第一发送模块，用于向目标服务器发送发起训练指令，其中，所述发起训练指令用于触发所述目标服务器发起联合训练；第一接收模块，用于将本地用户模型的模型参数发送给所述目标服务器，接收所述目标服务器发送的目标模型参数，其中，所述目标服务器接收多个参与方发送的多个模型参数，并根据多个所述模型参数确定目标模型参数；训练模块，用于根据所述目标模型参数对所述本地用户模型进行调参，并继续训练，直至所述本地用户模型收敛。9.一种用于训练目标模型的服务器，其特征在于，包括：第二发