全网唯一标准王
(19)国家知识产权局 (12)发明 专利申请 (10)申请公布号 (43)申请公布日 (21)申请 号 202210762624.1 (22)申请日 2022.06.30 (71)申请人 东方合智数据科技 (广东) 有限责任 公司 地址 528237 广东省佛山市南海区狮山 镇 强狮路2号 (厂房A) C区 (住所申报) (72)发明人 王晓峰 邓秀东 康凯  (74)专利代理 机构 深圳市君胜知识产权代理事 务所(普通 合伙) 44268 专利代理师 陈专 (51)Int.Cl. G06F 16/22(2019.01) G06F 16/2458(2019.01) G06F 16/25(2019.01) (54)发明名称 一种基于工业互联网数据的存储方法及相 关设备 (57)摘要 本发明公开了一种基于工业互联网数据的 存储方法及相关设备, 所述方法包括: 根据采集 的设备指标的基础类型创建超级表, 每种基础类 型创建一个对应的超级表, 每一个 设备指标参数 存储在一个超级表的子表中; 从物联网设备网关 获取的设备上采集的指标参数发布到Kafka中; 从Kafka中获取消费数据进行解析, 并按照预设 规则进行处理后按定义好的表结构存储到目标 数据引擎中。 本发明解决了物联网设备在采集指 标的频繁变动的易维护性下同时保证海量数据 的高效存储和查询, 保证海量设备数据的高效存 储和查询的同时能应对设备查询指标的频繁变 换, 从而降低系统维护的工作量。 权利要求书1页 说明书6页 附图2页 CN 115098507 A 2022.09.23 CN 115098507 A 1.一种基于工业互联网数据的存储方法, 其特征在于, 所述基于工业互联网数据的存 储方法包括: 根据采集的设备指标的基础类型创建超级表, 每种基础类型创建一个对应的超级表, 每一个设备指标参数存 储在一个超级表的子表中; 从物联网设备网关获取的设备 上采集的指标参数发布到Kafka 中; 从Kafka中获取消费数据进行解析, 并按照预设规则进行处理后按定义好的表结构存 储到目标 数据引擎中。 2.根据权利要求1所述的基于工业互联网数据的存储方法, 其特征在于, 所述基础类型 表示数据库内置的定义数据表字段的数据类型。 3.根据权利要求1所述的基于工业互联网数据的存储方法, 其特征在于, 所述设备指标 参数包括: 温度、 湿度、 设备用水量、 电压和设备运行状态。 4.根据权利要求1所述的基于工业互联网数据的存储方法, 其特征在于, 通过设备名和 指标名确定一个子表。 5.根据权利要求1所述的基于工业互联网数据的存储方法, 其特征在于, 所述指标参数 包括: 指标参数名、 指标参数值以及采集时间。 6.根据权利要求1所述的基于工业互联网数据的存储方法, 其特征在于, 所述基于工业 互联网数据的存 储方法还 包括: 当设备需要新增一个采集指标时, 无需添加或者修改表结构, 无需修改数据存储的代 码, 只需要在设备端配置添加一个采集的指标参数, 传输到数据存储平台时, 数据 平台将指 标参数的名称作为标签的方式存 储。 7.根据权利要求1所述的基于工业互联网数据的存储方法, 其特征在于, 所述按照预设 规则进行处 理后按定义 好的表结构存 储到目标 数据引擎中, 具体包括: 对解析后的所述消费数据进行筛选过滤, 筛选出需要的数据后对数据结构进行转换, 转换成数据库存 储的结构, 并存 储到目标 数据引擎中; 其中, 所述目标 数据引擎 为TDengi ne。 8.一种基于工业互联网数据的存储系统, 其特征在于, 所述基于工业互联网数据的存 储系统包括: 数据采集模块, 用于根据采集的设备指标的基础类型创建超级表, 每种基础类型创建 一个对应的超级表, 每一个设备指标参数存 储在一个超级表的子表中; 数据传输模块, 用于从物联网设备网关获取的设备 上采集的指标参数发布到Kafka 中; 数据存储模块, 用于从Kafka中获取消费数据进行解析, 并按照预设规则进行处理后按 定义好的表结构存 储到目标 数据引擎中。 9.一种终端, 其特征在于, 所述终端包括: 存储器、 处理器及存储在所述存储器上并可 在所述处理器上运行的基于工业互联网数据的存储程序, 所述基于工业互联网数据的存储 程序被所述处理器执行时实现如权利要求 1‑7任一项所述的基于工业互联网数据的存储方 法的步骤。 10.一种计算机可读存储介质, 其特征在于, 所述计算机可读存储介质存储有基于工业 互联网数据的存储程序, 所述基于工业互联网数据的存储程序被处理器执行时实现如权利 要求1‑7任一项所述的基于 工业互联网数据的存 储方法的步骤。权 利 要 求 书 1/1 页 2 CN 115098507 A 2一种基于工 业互联网数据的存 储方法及相关设 备 技术领域 [0001]本发明涉及数据存储技术领域, 尤其涉及一种基于工业互联网数据的存储方法、 系统、 终端及计算机可读存 储介质。 背景技术 [0002]通过对工厂设备数据的采集, 实时传送到服务器端存入时序数据库的TDengine (TDengine是一款开源、 高性能、 分布式、 支持SQL的时序空间大数据引擎, 除时序存储外还 提供缓存、 数据订阅、 流式计算等功能, 最大程度减少研发和运维的复杂度; TDengine虽然 能提供海量数据的实时高效存储和查询, 但是TDengine需要预先定义好数据结构, 而这对 于工业设备采集指标会频繁变动的情况下增加了系统的开发工作和维护工作量)中, 同时 建立灵活的数据 表结构, 既能将海量的数据按照时序数据能够实现高性能查询的规则特点 存储数据, 同时又可以固定表结构设计预先定义好表结构, 又可以在要采集的设备指标变 动后无需修改表结构, 做到高性能又易维护的数据存 储和查询。 [0003]使用传统的关系型数据库, 虽然在采集设备指标发生变动时可以很容易的修改表 结构, 但是无法满足 高吞吐量的数据写入和海量数据的查询分析, 即使 数据量较小, 能满足 实时数据写入的需求, 但是无法满足实时计算分析的需求; 如使用非关系型数据库, 虽然能 灵活的应对后续采集设备数据指标的变动而 无需修改表结构, 但存在的问题和关系型数据 库一样, 无法满足海量数据的实时写入和计算分析, 而且也存在另外一个巨大的缺陷, 其需 要保存大量的冗余数据, 这对于需要存储海量数据的工业物联网来说明显是不适合的, 浪 费大量的存储空间, 使企业投入成本巨大; 而传统的Hadoop生态的大数据架构虽然提供了 消息引擎、 实时数据的写入、 流数据计算、 离线 数据仓库、 离线 数据计算等多个部件, 通过对 这些部件的综合应用能够实现工业互联网平台海量数据的实时存储和计算分析, 但是由于 所使用的部件多, 流 程复杂, 导 致这套方案过于庞大和臃肿, 实施和维护的成本非常之高。 [0004]使用TDengine存储物联网设备数据, 可以解决高效存储和查询的问题, 但是目前 TDengine使用的建表方案主要有两种方式, 一是同时上报的数据存储在一个超级表 中, 一 个设备的数据存储在一个子表中; 二是每一个设备采集指标建一个超级表, 一个设备一个 采集指标的数据存储在一个子表中。 这两种方案所存在的问题是当需要 添加设备采集指标 时, 第一种方案需要 添加字段, 第二种方案需要新增一个超级表。 两种方案在变更或者新增 数据采集指标时都需要修改数据库 表结构和更新数据存储和查询的代码, 对于物联网设备 采集指标频繁变动和增加且对于多租户平台, 每个租户采集的指标有很大差别的情况下无 疑是一个巨大的挑战。 [0005]因此, 现有技 术还有待于改进和发展。 发明内容 [0006]本发明的主要 目的在于提供一种基于工业互联网数据的存储方法、 系统、 终端及 计算机可读存储介质, 旨在解决现有技术中由于设备采集指标的频繁变换, 海量设备数据说 明 书 1/6 页 3 CN 115098507 A 3

PDF文档 专利 一种基于工业互联网数据的存储方法及相关设备

文档预览
中文文档 10 页 50 下载 1000 浏览 0 评论 0 收藏 3.0分
温馨提示:本文档共10页,可预览 3 页,如浏览全部内容或当前文档出现乱码,可开通会员下载原始文档
专利 一种基于工业互联网数据的存储方法及相关设备 第 1 页 专利 一种基于工业互联网数据的存储方法及相关设备 第 2 页 专利 一种基于工业互联网数据的存储方法及相关设备 第 3 页
下载文档到电脑,方便使用
本文档由 SC 于 2024-02-24 01:02:16上传分享
友情链接
站内资源均来自网友分享或网络收集整理,若无意中侵犯到您的权利,敬请联系我们微信(点击查看客服),我们将及时删除相关资源。