一种基于双层区块链的联邦学习方法、系统及装置.pdf

(19)国家知识产权局(12)发明专利申请(10)申请公布号CN115907042A(43)申请公布日2023.04.04(21)申请号202211404002.8(22)申请日2022.11.10(71)申请人北京联合大学地址100101北京市朝阳区北四环东路97号(72)发明人丁庆洋李丹丹裴一蕾(74)专利代理机构北京融智邦达知识产权代理事务所(普通合伙)11885专利代理师吴强(51)Int.Cl.G06N20/20(2019.01)G06N3/0464(2023.01)G06N3/08(2023.01)G06F21/62(2013.01)G06F21/64(2013.01)权利要求书2页说明书12页附图6页(54)发明名称一种基于双层区块链的联邦学习方法、系统及装置(57)摘要本发明提供了一种基于双层区块链的联邦学习方法、系统及装置，涉及区块链技术领域和联邦学习技术领域，方法主要包括：在系统中构建双层区块链，通过分类器将若干个子区块链节点和子区块链关键节点划分为若干个联邦学习组；子区块链节点基于局部信息通过联邦学习方法进行局部模型训练；子区块链关键节点搜集所在子区块链中的训练结果，并将经过共识的训练结果打包成一个新的区块发布至所在子区块链中；主区块链节点通过联邦学习方法进行全局模型训练；主区块链关键节点搜集所在主区块链中的训练结果，并将共识的训练结果打包成一个新的区块发布至主区块链中。本方案可大幅提升联邦学习框架的安全性，从而得到优化的学习模型及准确的预测数据。CN115907042ACN115907042A权利要求书1/2页1.一种基于双层区块链的联邦学习方法，其特征在于，包括如下步骤：步骤1、在系统中构建双层区块链，包括子区块链单元及主区块链单元：所述子区块链单元包括分类器、子区块链节点和子区块链关键节点：所述分类器基于同质数据将若干个所述子区块链节点和所述子区块链关键节点划分为若干个联邦学习组；所述主区块链单元包括主区块链节点和主区块链关键节点，所述主区块链节点由所述子区块链关键节点充当；步骤2、所述联邦学习组中的子区块链节点基于局部信息通过联邦学习方法进行局部模型训练；步骤3、所述子区块链关键节点在预设时间间隔内搜集所在子区块链中的训练结果，并将所述训练结果中经过共识的训练结果打包成一个新的区块发布至所在子区块链中；步骤4、所述联邦学习组中的主区块链节点基于子区块链中的训练结果通过联邦学习方法进行全局模型训练；步骤5、所述主区块链关键节点在预设时间间隔内搜集所在主区块链中的训练结果，并将所述训练结果中经过共识的训练结果打包成一个新的区块发布至所述主区块链中。2.根据权利要求1所述的基于双层区块链的联邦学习方法，其特征在于，所述系统为农业物联网系统，所述局部信息为传感器探测到的农用信息。3.根据权利要求1所述的基于双层区块链的联邦学习方法，其特征在于，所述子区块链单元包括若干个私有链，所述主区块链单元包括若干个联盟链：所述私有链包括若干个子区块链节点，从某个私有链的所有子区块链节点中选择一个作为私有链关键节点；所述主区块链单元通过若干个所述私有链关键节点构建联盟链；从所在联盟链中的若干节点中选择一个作为联盟链关键节点。4.根据权利要求3所述的基于双层区块链的联邦学习方法，其特征在于，所述步骤2具体包括：步骤2.1、私有链节点基于所述局部信息进行本地训练，将训练结果发送至所在私有链中的其他私有链节点；步骤2.2、所述私有链节点接收到其他私有链节点发送的训练结果后，进行加权运算后更新本地训练结果；步骤2.3、模型判断所述本地训练结果是否收敛，若收敛则执行步骤3，否则执行步骤2。5.根据权利要求3所述的基于双层区块链的联邦学习方法，其特征在于，所述步骤4包括如下步骤：步骤4.1、联盟链节点将本地训练结果发送至所在联盟链中的其他联盟链节点；步骤4.2、所述联盟链节点接收到其他联盟链节点发送的训练结果后，发送至所在私有链中的其他私有链节点，所述私有链节点接收到所述训练结果后进行加权运算后更新本地训练结果；步骤4.3、模型判断所在系统的全局训练结果是否收敛，若收敛则执行步骤5，否则执行步骤4。6.根据权利要求3所述的基于双层区块链的联邦学习方法，其特征在于，所述联邦学习方法还包括隐私保护，所述隐私保护包括动态加权与局部差分隐私：2CN115907042A权利要求书2/2页所述动态加权用于防止虚假的训练结果导致全局训练结果失真，所述动态加权的验证标准为交叉熵；所述局部差分隐私包括自适应拉普拉斯机制。7.根据权利要求6所述的基于双层区块链的联邦学习方法，其特征在于，所述联邦学习方法还包括模型聚合，所述模型聚合的方法是在联合平均处理过程中引入模型训练的权重值，所述模型聚合的停止标准是模型聚合后的交叉熵小于等于预设阈值或迭代次数达到