全网唯一标准王
(19)国家知识产权局 (12)发明 专利申请 (10)申请公布号 (43)申请公布日 (21)申请 号 202211370809.4 (22)申请日 2022.11.03 (71)申请人 中国电信股份有限公司 地址 100033 北京市西城区金融大街31号 (72)发明人 于志刚 王戈  (74)专利代理 机构 北京律智知识产权代理有限 公司 11438 专利代理师 李建忠 (51)Int.Cl. G06N 20/00(2019.01) G06F 21/60(2013.01) G06K 9/62(2022.01) G06Q 40/04(2012.01) (54)发明名称 联邦学习方法、 装置、 电子设备及计算机可 读存储介质 (57)摘要 本公开提供了一种联邦学习方法、 装置、 电 子设备及计算机可读存储介质, 涉及机器学习技 术领域。 该方法包括: 获取串联顺序, 串联顺序用 于指示任一边缘节点对应的下一个节 点; 接收任 一边缘节 点的上一个节点发送的第一模型; 根据 第一模型进行本地训练, 得到第二模型; 聚合第 二模型和第一模型, 得到第三模型; 向下一个节 点发送第三模 型, 以便于下一个节 点根据第三模 型进行本轮联邦学习。 向下一个节 点发送第二模 型和第一模 型聚合后的第三模型的方式, 可以避 免边缘节点经过训练后得到的第二模型的模型 参数泄露, 实现了在无需为训练样 本或模型参数 添加噪声的情况下, 降低边缘节 点数据样本泄露 的风险。 权利要求书2页 说明书14页 附图4页 CN 115526339 A 2022.12.27 CN 115526339 A 1.一种联邦学习方法, 其特征在于, 应用于参与联邦学习的多个边缘节点中的任一边 缘节点, 包括: 获取串联顺序, 所述串联顺序用于指示所述任一边缘节点对应的下一个节点, 所述下 一个节点是 所述多个边 缘节点中的一个边 缘节点, 或者是 联邦学习的中心 节点; 接收所述任一边缘节点的上一个节点发送的第 一模型, 所述上一个节点是所述多个边 缘节点中的一个节点, 或者是 所述中心 节点; 根据所述第一模型进行本地训练, 得到第二模型; 聚合所述第二模型和所述第一模型, 得到第三模型; 向所述下一个节点发送所述第 三模型, 以便于所述下一个节点根据所述第 三模型进行 本轮联邦学习。 2.根据权利要求1所述的方法, 其特 征在于, 还 包括: 获取对所述第一模型进行本地训练得到的训练参数; 向区块链上传所述训练参数, 以便于所述中心节点从所述区块链中获取所述训练参 数, 并根据所述训练参数确定所述任一 边缘节点在本轮联邦学习的训练分。 3.根据权利要求2所述的方法, 其特征在于, 所述训练参数包括所述第 二模型的性能指 标和/或所述任一 边缘节点对所述第一模型进行本地训练的相对效率 参数; 所述相对效率参数包括所述任一边缘节点对所述第一模型进行本地训练使用的时间 和数据量, 或者包括 根据所述时间和数据量计算得到的相对效率。 4.根据权利要求1所述的方法, 其特 征在于, 所述获取串联顺序, 包括: 从区块链中获取 所述串联顺序。 5.根据权利要求1所述的方法, 其特 征在于, 还 包括: 获取所述任一 边缘节点的性能参数; 向区块链上传所述性能参数, 以便于所述中心节点从所述区块链中获取所述性能参 数, 并根据所述 性能参数确定参与第一轮联邦学习的边 缘节点。 6.根据权利要求5所述的方法, 其特征在于, 所述性 能参数包括所述任一边缘节点具有 的样本数据量和/或图形处 理器GPU性能参数。 7.一种联邦学习方法, 其特征在于, 应用于联邦学习的中心节点, 所述中心节点具有第 一全局模型, 包括: 确定参与本轮联邦学习的多个边 缘节点; 确定所述多个边 缘节点之间的串联顺序; 向所述串联顺序指示的第一个边 缘节点发送所述第一全局模型; 接收所述串联顺序指示的最后一个边 缘节点发送的半全局模型; 根据所述半全局模型 更新所述第一全局模型, 得到第二全局模型。 8.根据权利要求7 所述的方法, 其特 征在于, 还 包括: 将所述串联顺序 上传至区块链, 以便于所述多个边缘节点从所述 区块链中获取所述串 联顺序, 以及根据所述串联顺序进行 联邦学习。 9.根据权利要求7所述的方法, 其特征在于, 所述确定参与本轮联邦学习的多个边缘节 点, 包括: 从区块链中获取参与第一轮联邦学习的多个参与边 缘节点的训练参数;权 利 要 求 书 1/2 页 2 CN 115526339 A 2根据所述训练参数, 确定所述多个参与边 缘节点的信任值; 根据所述信任值, 从所述 参与边缘节点中确定出参与本轮联邦学习的多个边 缘节点。 10.根据权利要求9所述的方法, 其特征在于, 所述根据所述训练参数, 确定所述多个参 与边缘节点的信任值, 包括: 根据所述训练参数确定所述多个参与边 缘节点在历史参与联邦学习中的训练分; 确定所述多个参与边缘节点中每一参与边缘节点的训练分的权重, 每一参与边缘节点 的训练分的权 重之和相同; 根据所述权 重, 确定所述多个参与边 缘节点中每一 参与参边缘节点的信任值。 11.一种联邦学习 装置, 其特征在于, 应用于参与联邦学习的多个边缘节点中的任一边 缘节点, 包括: 获取模块, 用于获取串联顺序, 所述串联顺序用于指示所述任一边缘节点对应的下一 个节点, 所述下一个节点是所述多个边缘节点中的一个边缘节点, 或者是联邦学习的中心 节点; 第一接收模块, 用于接收所述任一边缘节点的上一个节点发送的第一模型, 所述上一 个节点是 所述多个边 缘节点中的一个节点, 或者是 所述中心 节点; 处理模块, 用于根据所述第一模型进行本地训练, 得到第二模型; 聚合模块, 用于聚合所述第二模型和所述第一模型, 得到第三模型; 第一发送模块, 用于向所述下一个节点发送所述第三模型, 以便于所述下一个节点根 据所述第三模型进行本轮联邦学习。 12.一种联邦学习装置, 其特征在于, 应用于联邦学习的中心节点, 所述中心节点具有 第一全局模型, 包括: 确定模块, 用于确定参与本轮联邦学习的多个边 缘节点; 所述确定模块, 还用于确定所述多个边 缘节点之间的串联顺序; 第二发送模块, 用于向所述串联顺序指示的第一个边 缘节点发送所述第一全局模型; 第二接收模块, 用于 接收所述串联顺序指示的最后一个边 缘节点发送的半全局模型; 更新模块, 用于根据所述半全局模型 更新所述第一全局模型, 得到第二全局模型。 13.一种电子设备, 其特 征在于, 包括: 处理器; 以及 存储器, 用于存 储所述处 理器的可 执行指令; 其中, 所述处理器配置为经由执行所述可执行指令来执行权利要求1~10中任意一项 所述联邦学习方法。 14.一种计算机可读存储介质, 其上存储有计算机程序, 其特征在于, 所述计算机程序 被处理器执行时实现权利要求1~10中任意 一项所述的联邦学习方法。权 利 要 求 书 2/2 页 3 CN 115526339 A 3

.PDF文档 专利 联邦学习方法、装置、电子设备及计算机可读存储介质

文档预览
中文文档 21 页 50 下载 1000 浏览 0 评论 309 收藏 3.0分
温馨提示:本文档共21页,可预览 3 页,如浏览全部内容或当前文档出现乱码,可开通会员下载原始文档
专利 联邦学习方法、装置、电子设备及计算机可读存储介质 第 1 页 专利 联邦学习方法、装置、电子设备及计算机可读存储介质 第 2 页 专利 联邦学习方法、装置、电子设备及计算机可读存储介质 第 3 页
下载文档到电脑,方便使用
本文档由 人生无常 于 2024-03-17 23:44:23上传分享
友情链接
站内资源均来自网友分享或网络收集整理,若无意中侵犯到您的权利,敬请联系我们微信(点击查看客服),我们将及时删除相关资源。