基于隐私保护的业务预测模型训练方法和装置.pdf

(19)中华人民共和国国家知识产权局(12)发明专利申请(10)申请公布号CN111291401A(43)申请公布日2020.06.16(21)申请号202010384203.0(22)申请日2020.05.09(71)申请人支付宝（杭州）信息技术有限公司地址310000浙江省杭州市西湖区西溪路556号8层B段801-11(72)发明人张宁王磊(74)专利代理机构北京亿腾知识产权代理事务所(普通合伙)11309代理人陈霁周良玉(51)Int.Cl.G06F21/60(2013.01)G06F21/62(2013.01)G06F17/15(2006.01)G06F17/16(2006.01)G06F17/18(2006.01)权利要求书4页说明书17页附图4页(54)发明名称基于隐私保护的业务预测模型训练方法和装置(57)摘要本说明书实施例提供一种基于隐私保护的业务预测模型训练方法和装置。该方法可以通过训练系统中的可信计算单元和非可信计算单元执行。可信计算单元将初始模型参数、多个业务样本的样本特征和对应的标签值分别进行同态加密，并将其发送至非可信计算单元，执行多轮模型迭代，其中任意一轮模型迭代包括，可信计算单元与非可信计算单元进行交互，使得非可信计算单元至少基于对同态加密后的特征数据和模型参数进行同态运算，确定本轮更新后的第二加密模型参数，可信计算单元根据第二加密模型参数和第一加密模型参数的差异，确定模型训练过程是否满足收敛条件，在不满足时进行下一轮模型迭代。CN111291401ACN111291401A权利要求书1/4页1.一种基于隐私保护的业务预测模型训练方法，通过训练系统中处于可信执行环境下的可信计算单元执行，所述训练系统还包括非可信计算单元；所述方法包括：获取用于训练所述业务预测模型的训练集和所述业务预测模型的初始模型参数，其中所述训练集包括多个业务样本的样本特征和对应的标签值；使用加密密钥，将所述初始模型参数同态加密为初始加密模型参数，将所述多个业务样本的样本特征和对应的标签值分别同态加密为多个加密样本和加密标签值；将所述初始加密模型参数、所述多个加密样本和加密标签值发送至所述非可信计算单元；执行多轮模型迭代，其中任意一轮模型迭代包括，与所述非可信计算单元进行交互，从所述非可信计算单元中获取本轮更新后的第二加密模型参数，所述第二加密模型参数，至少基于对所述多个加密样本、多个加密标签值和本轮更新前的第一加密模型参数的同态运算确定；根据所述第二加密模型参数和所述第一加密模型参数的差异，确定模型训练过程是否满足收敛条件，在不满足时进行下一轮模型迭代。2.根据权利要求1所述的方法，所述业务预测模型属于逻辑回归模型；所述与所述非可信计算单元进行交互，从所述非可信计算单元中获取本轮更新后的第二加密模型参数的步骤，包括：接收所述非可信计算单元发送的与每个业务样本对应的加密中间结果；其中，所述加密中间结果根据所述第一加密模型参数分别与每个加密样本的样本特征同态相乘得到；采用与所述加密密钥对应的解密密钥，对所述多个加密中间结果进行解密，得到多个中间结果，将所述多个中间结果分别代入激活函数，计算得到针对每个业务样本的预测值；使用所述加密密钥将每个业务样本的预测值同态加密为多个加密预测值，并将其发送至所述非可信计算单元，以使得所述非可信计算单元根据每个业务样本的加密预测值与对应的加密标签值之间的同态差值确定加密损失值，基于所述加密损失值将所述第一加密模型参数更新为所述第二加密模型参数；接收所述非可信计算单元发送的所述第二加密模型参数。3.根据权利要求1所述的方法，所述业务预测模型属于线性回归模型；所述与所述非可信计算单元进行交互，从所述非可信计算单元中获取本轮更新后的第二加密模型参数的步骤，包括：接收所述非可信计算单元发送的所述第二加密模型参数；其中，所述第二加密模型参数是所述非可信计算单元基于加密损失值对所述第一加密模型参数进行更新得到，所述加密损失值为基于每个业务样本的加密预测值与对应的加密标签值之间的同态差值得到，所述每个业务样本的加密预测值基于将所述第一加密模型参数分别与每个加密样本的样本特征同态相乘得到。4.根据权利要求1所述的方法，所述任意一轮模型迭代还包括：使用解密密钥将所述第二加密模型参数解密为第二模型参数，将其作为用于下一轮模型迭代的更新后的第一模型参数，所述解密密钥与所述加密密钥对应；使用所述加密密钥，将更新后的第一模型参数同态加密为更新后的第一加密模型参数；2CN111291401A权利要求书2/4页将更新后的所述第一加密模型参数发送给所述非可信计算单元。5.根据权利要求1所述的方法，所述根据所述第二加密模型参数和所述第一加密模型参数的差异，确定模型训练过程是否满足收敛条件的步骤，包括：获取由所述非可信计算单元同态计