全网唯一标准王
(19)国家知识产权局 (12)发明 专利申请 (10)申请公布号 (43)申请公布日 (21)申请 号 202210468852.8 (22)申请日 2022.04.29 (71)申请人 北京灵汐科技有限公司 地址 100080 北京市海淀区北四环西路67 号8层801 (72)发明人 祝夭龙 吴臻志 何伟  (74)专利代理 机构 北京天昊联合知识产权代理 有限公司 1 1112 专利代理师 彭瑞欣 柴亮 (51)Int.Cl. G06N 3/063(2006.01) G06N 3/04(2006.01) G06F 9/445(2018.01) G06F 15/78(2006.01) (54)发明名称 权重数据传输的方法、 众核系统、 电子设备、 介质 (57)摘要 本公开提供一种权重数据传输的方法, 其包 括: 响应于稀疏的当前神经元的发放, 从片外存 储器获取当前神经元的第一权重数据, 使当前神 经元的各后继神经元所在的目标处理核获取当 前神经元与其中各后继神经元间的全部非零连 接权重值; 响应于非稀疏的当前神经元的发放, 从处理核内获取当前神经元的第二权重数据, 使 当前神经元的各后继神经元所在的目标处理核 获取当前神经元与其中各后继神经元间的全部 非零连接权重值; 稀 疏的神经元为发放率低于预 设标准的神经元, 非稀 疏的神经元为发放率高于 或等于预设标准的神经元; 神经元的权重数据至 少包括该神经元与各后继神经元间的全部非零 连接权重值。 本公开还提供一种众核系统、 电子 设备、 计算机可读介质。 权利要求书3页 说明书14页 附图8页 CN 114792128 A 2022.07.26 CN 114792128 A 1.一种权重数据传输的方法, 用于众核系统, 所述众核系统包括多个处理核, 所述多个 处理核中配置多个构成神经网络的神经 元, 所述方法包括: 响应于稀疏的当前神经元的发放, 从片外存储器获取当前神经元的第一权重数据, 使 当前神经元 的各后继神经元所在的目标处理核获取当前神经元与其中各后 继神经元间的 全部非零连接 权重值; 响应于非稀疏的当前神经元的发放, 从处理核内获取当前神经元的第二权重数据, 使 当前神经元 的各后继神经元所在的目标处理核获取当前神经元与其中各后 继神经元间的 全部非零连接 权重值; 其中, 所述稀疏的神经元为发放率低于预设标准的神经元, 非稀疏的神经元为发放率 高于或等于预设标准的神经元; 神经元的权重数据至少包括该神经元与各后继神经元间的 全部非零连接 权重值。 2.根据权利要求1所述的方法, 其中, 神经元的第 一权重数据包括索引 信息、 权重信 息、 位置信息, 所述索引信息表征该神经元与各后 继神经元间的连接权重值是否为零, 所述权 重信息包括该神经元与各后继神经元间的全部非零连接权重值, 所述位置信息表征该神经 元的各后继神经 元所在的后继处 理核; 所述从片外存储器获取当前神经元的第 一权重数据, 使当前神经元的各后继神经元所 在的目标 处理核获取当前神经元与其中各后继神经元间的全部非零连接权重值包括: 从片 外存储器获取当前神经元 的第一权重数据; 根据所述第一权重数据, 确定当前神经元 的各 后继神经元所在的目标处理核, 以及当前神经元与各后继神经元间的全部非零连接权重 值; 将当前神经元与各后继神经元间的非零连接权重值, 分别传输至相 应后继神经元所在 的目标处 理核。 3.根据权利要求2所述的方法, 其中, 神经元的第 一权重数据中, 所述索引 信息包括与 该神经元的后继处理核一一对应的索 引段; 所述索引段表征该神经元与对应后继处理核中配置的各后继神经元间的连接权重值 是否为零; 所述权重信息包括与该神经元 的后继处理核一一对应的权重段; 所述权重段包 括该神经元与对应后继处理核中配置的各后继神经元间的全部非零连接权重值; 所述位置 信息表征 所述索引段、 权 重段与后继处 理核的对应关系; 所述根据所述第一权重数据, 确定当前神经元的各后继神经元所在的目标处理核, 以 及当前神经元与各后继神经元间的全部非零连接权重值包括: 根据所述位置信息, 确定索 引段、 权重段对应的后继处 理核; 所述将当前神经元与 各后继神经元间的非零连接权重值, 分别传输至相应后继神经元 所在的目标 处理核包括: 将 每个所述后继处理核对应的索引段、 权重段, 传输至相应后继处 理核。 4.根据权利要求2所述的方法, 其中, 所述将当前神经元与 各后继神经元间的非零连接权重值, 分别传输至相应后继神经元 所在的目标 处理核包括: 当前神经元所在的处理核, 将当前神经元的发放信息, 以及当前神 经元与各后继神经元间的非零连接权重值, 分别传输至相应后继神经元所在的目标处理 核。 5.根据权利要求2所述的方法, 其中,权 利 要 求 书 1/3 页 2 CN 114792128 A 2所述将当前神经元与 各后继神经元间的非零连接权重值, 分别传输至相应后继神经元 所在的目标 处理核包括: 众核系统的调 度器将当前神经元与各后继神经元间的非零连接权 重值, 分别传输 至相应后继神经 元所在的目标处 理核。 6.根据权利要求1所述的方法, 其中, 所述从片外存储器获取当前神经元的第 一权重数 据, 使当前神经元的各后继神经元所在的目标处理核获取当前神经元与其中各后继神经元 间的全部非零连接 权重值包括: 当前神经元的各后继神经元所在的目标处理核, 分别从片外存储器获取当前神经元与 其中各后继神经 元间的全部非零连接 权重值。 7.根据权利要求1所述的方法, 其中, 神经元的第 二权重数据包括该神经元与 各后继神经元间的全部非零连接权重值, 以及 该神经元的各后继神经 元所在的后继处 理核的信息 。 8.根据权利要求7 所述的方法, 其中, 神经元的第 二权重数据中, 该神经元的各后继神经元所在的后继处理核的信 息存储在 该神经元所在的处理核中; 该神经元与各后继神经元间的非零连接权重值分别存储在相应 后继神经 元所在的后继处 理核中; 所述从处理核内获取当前神经元的第 二权重数据, 使当前神经元的各后继神经元所在 的目标处理核获取当前神经元与其中各后继神经元间的全部非零连接权重值包括: 当前神 经元所在的处理核, 根据本地存储的当前神经元的各后继神经元所在的后继处理核的信 息, 确定当前神经元 的各后继神经元所在的目标处理核, 并将当前神经元 的发放信息传输 至所述目标处理核; 所述 目标处理核, 从本地获取当前神经元与其中配置的后 继神经元间 的非零连接 权重值。 9.根据权利要求7 所述的方法, 其中, 神经元的第二权 重数据存 储在该神经 元所在的处 理核中; 所述从处理核内获取当前神经元的第 二权重数据, 使当前神经元的各后继神经元所在 的目标处理核获取当前神经元与其中各后继神经元间的全部非零连接权重值包括: 当前神 经元所在的处理核, 根据本地存储的当前神经元 的第二权重数据, 确定当前神经元 的各后 继神经元所在的目标处理核; 当前神经元所在的处理核, 将当前神经元的发放信息, 以及本 地存储的当前神经元与各后继神经元间的非零连接权重值, 分别 传输至相应后继神经元所 在的目标处 理核。 10.一种众核系统, 其包括: 多个处理核, 所述多个处理核中配置有多个构成神经网络的神经元, 且存储有全部非 稀疏的神经 元的第二权 重数据; 片上网络, 被 配置为交 互所述多个处 理核间的数据和外 部数据; 一个或多个所述处理核中存储有一个或多个指令, 一个或多个所述指令被一个或多个 所述处理核执行时, 能实现根据权利要求1至9中任意 一项所述的权 重数据传输的方法。 11.一种电子设备, 其包括: 根据权利要求10所述的众核系统; 片外存储器, 其中存 储有全部稀疏的神经 元的第一权 重数据。 12.一种计算机可读介质, 其中存储有一个或多个指令, 一个或多个所述指令被处理器权 利 要 求 书 2/3 页 3 CN 114792128 A 3

.PDF文档 专利 权重数据传输的方法、众核系统、电子设备、介质

文档预览
中文文档 26 页 50 下载 1000 浏览 0 评论 309 收藏 3.0分
温馨提示:本文档共26页,可预览 3 页,如浏览全部内容或当前文档出现乱码,可开通会员下载原始文档
专利 权重数据传输的方法、众核系统、电子设备、介质 第 1 页 专利 权重数据传输的方法、众核系统、电子设备、介质 第 2 页 专利 权重数据传输的方法、众核系统、电子设备、介质 第 3 页
下载文档到电脑,方便使用
本文档由 人生无常 于 2024-03-18 00:06:21上传分享
友情链接
站内资源均来自网友分享或网络收集整理,若无意中侵犯到您的权利,敬请联系我们微信(点击查看客服),我们将及时删除相关资源。