全网唯一标准王
(19)中华 人民共和国 国家知识产权局 (12)发明 专利申请 (10)申请公布号 (43)申请公布日 (21)申请 号 202111384552.3 (22)申请日 2021.11.19 (71)申请人 海南火链科技有限公司 地址 571924 海南省澄迈县老城镇高新 技 术产业示范区海南生态软件园沃克公 园8830 (72)发明人 范进 张兵兵 林悦  (74)专利代理 机构 北京中强智尚知识产权代理 有限公司 1 1448 代理人 王妍 (51)Int.Cl. H04L 67/10(2022.01) H04L 9/32(2006.01) H04L 9/40(2022.01) H04L 41/0893(2022.01)H04L 41/14(2022.01) (54)发明名称 基于区块链的去中心化自适应协同训练方 法和装置 (57)摘要 本申请提供了一种基于区块链的去中心化 自适应协同训练方法和装置、 电子设备及计算机 可读存储介质, 涉及计算机技术领域。 该方法基 于选取的区块链网络类型构建主区块链网络和 多个分片网络, 训练任务通过主区块链网络的智 能合约分发, 随后将训练任务写入分片网络进行 共识; 分片中的其他节点参与分片共识之后, 获 取到计算任务, 并根据计算任务的内容获取训练 数据集、 训练模型等必要的生产要素, 随后开始 训练任务。 可 以看到, 本申请实施例通过基于区 块链的自适应协同训练方案解决区块链无法处 理大规模数据训练的问题, 通过联邦学习、 区块 链和分片机制的深度融合, 从应用层面拓展区块 链的训练能力, 以达到去中心化协同训练的目 的。 权利要求书3页 说明书11页 附图2页 CN 114244835 A 2022.03.25 CN 114244835 A 1.一种基于区块链的去中心化自适应协同训练方法, 其特 征在于, 包括: 有任务计算需求的节点选取训练的区块链网络类型, 输入用于训练的生产要素; 基于选取的区块链网络类型构建主区块链网络和多个分片网络; 将所述生产要素写入所述主区块链网络的智能合约, 通过所述主区块链网络的共识将 携带所述生产要素的计算任务请求共享给 所述多个分片网络; 对于所述多个分片网络 中的各分片网络, 各分片网络 中的主节点将计算任务请求通过 共识分发给各分片网络中的各个客户端节点, 由各个客户端节点根据计算任务请求执行训 练任务, 将训练的模型参数通过共识共享给各分片网络中的主节点; 各分片网络中的主节 点对各个客户端训练的模型参数进行验证, 将验证满足第一预设条件的模型参数进行聚 合, 得到分片聚合的模型参数, 并通过分片共识将该分片聚合的模型参数下发给各分片网 络中的各个客户端节点; 当分片聚合 次数达到所述生产要素中任务指定的分片迭代轮次时, 得到当前聚合的最 优模型参数, 各分片网络中的主节点将当前聚合的最优模型参数通过所述主区块链网络的 共识共享给所述主区块链网络的主节点; 所述主区块链网络的主节点对所述多个分片网络 中各分片网络的当前聚合的最优模型参数进 行验证, 将验证满足第二预设条件的模型参数 进行聚合, 得到主区块链 聚合模型参数, 并通过主区块链共识将该主区块链 聚合模型参数 下发给各分片网络, 各分片网络通过分片共识将该主区块链聚合模型参数下发给各分片网 络中的各个客户端节点, 以此完成一次全局迭代轮次; 当全局迭代轮次达到所述生产要素中任务指定的全局迭代轮次时, 训练结束, 所述主 区块链网络的主节点将最后一次全局迭代的主区块链聚合模型参数写入智能合约, 完成本 次的训练任务。 2.根据权利要求1所述的基于区块链的去中心化自适应协同训练方法, 其特征在于, 若 选取的区块链网络类型为支持通道机制的联盟链网络, 所述基于选取的区块链网络类型构 建主区块链网络和多个分片网络, 包括: 获取有意愿参与训练并贡献 数据进行训练的多个客户端节点; 所述多个客户端节点根据预设信息进行分簇, 随后根据轮询算法选出簇头, 由簇头在 联盟链网络中建立通道, 其他客户端节点加入该通道网络; 每个簇组成一个联盟链通道网 络为一个分片网络, 簇头为该分片网络内的主节点, 用于和主区块链网络进行数据 交互并 且聚合分片的模型参数; 联盟链网络中的主区块链网络即联盟链网络本身, 主区块链共识 选出的节点为聚合节 点, 主区块链网络和分片网络之 间的数据交互通过联盟链网络提供的 通道数据交 互接口完成。 3.根据权利要求2所述的基于区块链的去中心化自适应协同训练方法, 其特征在于, 所 述分片网络和所述主区块链网络基于实用拜占庭 容错PBFT来完成共识, 且PBFT中的leader 节点为进行聚合的服 务器节点, 即所述主区块链网络的主节点。 4.根据权利要求1所述的基于区块链的去中心化自适应协同训练方法, 其特征在于, 若 选取的区块链网络类型为不支持通道机制的公有链网络, 所述基于选取的区块链网络类型 构建主区块链网络和多个分片网络, 包括: 获取有意愿参与训练并贡献 数据进行训练的多个客户端节点; 所述多个客户端节点首先加入主区块链网络, 主区块链网络的智能合约 为每个客户端权 利 要 求 书 1/3 页 2 CN 114244835 A 2节点分配唯一的身份标识, 随后根据身份标识以及哈希函数随机生成每个客户端 所属的分 片标识, 将分片标识相同的客户端节点组成一个分片网络; 公有链网络中的分片网络将每 个分片内最后一个加入分片的节点为该分片的主节点, 用于和主区块链网络进行数据交 互; 公有链网络中的主区块链即运行智能合约的主区块链网络, 主区块链网络和分片网络 之间的数据交 互通过公有链网络提供的智能合约交 互接口完成。 5.根据权利要求4所述的基于区块链的去中心化自适应协同训练方法, 其特征在于, 所 述分片网络内基于PBFT完成共识, 且PBFT中的leader节点为聚合节点, 即所述分片网络的 主节点; 所述主区块链网络基于委托权益证明DPoS完成共识, 且共识选出的超级节点为聚 合节点, 即所述主区块链网络的主节点。 6.根据权利要求1所述的基于区块链的去中心化自适应协同训练方法, 其特征在于, 各 分片网络中的主节点对各个客户端训练的模型参数进 行验证, 将验证满足第一预设条件的 模型参数进行聚合, 得到分片聚合的模型参数, 包括: 各分片网络 中的主节点根据 所述生产要素中测试数据存储地址、 模型存储地址获取相 应的测试数据、 训练模型, 并以各个客户端训练的模型参数作为模型参数, 得到正确 率; 若 客户端训练的模型参数输出的正确率低于任务指 定的第一阈值, 则该客户端训练的模型参 数不参与聚合; 各分片网络中的主节点验证完所有客户端训练的模型参数之后, 将超过第 一阈值对应的模型参数进行聚合, 得到分片聚合的模型参数。 7.根据权利要求1所述的基于区块链的去中心化自适应协同训练方法, 其特征在于, 所 述主区块链网络的主节点对所述多个分片网络中各分片网络的当前聚合的最优模型参数 进行验证, 将验证满足第二预设条件的模型参数进 行聚合, 得到主区块链聚合模 型参数, 包 括: 所述主区块链网络的主节点根据所述生产要素中测试数据存储地址、 模型存储地址获 取相应的测试数据、 训练模型, 并以所述多个分片网络中各分片网络的当前聚合的最优模 型参数作为模型参数, 得到正确率; 若各分片网络的当前聚合的最优模型参数输出 的正确 率低于任务指定的第二阈值, 则该分片网络的当前聚合的最优模型参数不参与聚合; 所述 主区块链网络的主节 点验证完所有分片网络的当前聚合的最优模型参数之后, 将超过第二 阈值对应的模型参数进行聚合, 得到主区块链聚合模型参数。 8.一种基于区块链的去中心化自适应协同训练装置, 其特 征在于, 包括: 输入模块, 用于有任务计算需求的节点选取训练的区块链网络类型, 输入用于训练的 生产要素; 构建模块, 用于基于 选取的区块链网络类型构建主区块链网络和多个分片网络; 训练模块, 用于将所述生产要素写入所述主区块链网络的智能合约, 通过所述主区块 链网络的共识将携带 所述生产要素的计算任务请求共享给 所述多个分片网络; 对于所述多个分片网络 中的各分片网络, 各分片网络 中的主节点将计算任务请求通过 共识分发给各分片网络中的各个客户端节点, 由各个客户端节点根据计算任务请求执行训 练任务, 将训练的模型参数通过共识共享给各分片网络中的主节点; 各分片网络中的主节 点对各个客户端训练的模型参数进行验证, 将验证满足第一预设条件的模型参数进行聚 合, 得到分片聚合的模型参数, 并通过分片共识将该分片聚合的模型参数下发给各分片网 络中的各个客户端节点;权 利 要 求 书 2/3 页 3 CN 114244835 A 3

.PDF文档 专利 基于区块链的去中心化自适应协同训练方法和装置

文档预览
中文文档 17 页 50 下载 1000 浏览 0 评论 309 收藏 3.0分
温馨提示:本文档共17页,可预览 3 页,如浏览全部内容或当前文档出现乱码,可开通会员下载原始文档
专利 基于区块链的去中心化自适应协同训练方法和装置 第 1 页 专利 基于区块链的去中心化自适应协同训练方法和装置 第 2 页 专利 基于区块链的去中心化自适应协同训练方法和装置 第 3 页
下载文档到电脑,方便使用
本文档由 人生无常 于 2024-03-18 21:01:06上传分享
友情链接
站内资源均来自网友分享或网络收集整理,若无意中侵犯到您的权利,敬请联系我们微信(点击查看客服),我们将及时删除相关资源。