全网唯一标准王
(19)国家知识产权局 (12)发明 专利申请 (10)申请公布号 (43)申请公布日 (21)申请 号 202210826726.5 (22)申请日 2022.07.13 (71)申请人 重庆长安汽车股份有限公司 地址 400020 重庆市江北区鱼嘴镇长安汽 车全球研发中心 (72)发明人 黄立 蓝文良 吴志军  (74)专利代理 机构 北京清亦华知识产权代理事 务所(普通 合伙) 11201 专利代理师 黄琼 (51)Int.Cl. G06F 16/21(2019.01) G06F 16/23(2019.01) G06F 16/25(2019.01) G06F 16/27(2019.01) (54)发明名称 数据库的增量数据迁移方法、 装置、 电子设 备及存储介质 (57)摘要 本申请涉及Hbase数据库技术领域, 特别涉 及一种数据库的增量数据迁移方法、 装置、 电子 设备及存储介质, 其中, 方法包括: 获取源集群数 据库的待迁移增量数据; 将待迁移增量数据存放 至待迁移增量数据的增量数据目录上, 并将待迁 移增量数据的增量数据目录上的待迁移增量数 据同步至目标集群数据库的增量数据目录上; 根 据目标集群数据库的增量数据目录的待迁移增 量数据生成H File文件, 并将H File文件加载至目 标集群数据库的hbase表中。 由此, 解决了相关技 术中调用Hbase的Put  Api进行处理, 会给 HbaseRegionServer节点带来较大的写入压力, 造成Hbase集群不稳定, 甚至节点宕机等问题。 权利要求书2页 说明书9页 附图3页 CN 115098473 A 2022.09.23 CN 115098473 A 1.一种数据库的增量数据迁移方法, 其特 征在于, 包括以下步骤: 获取源集群数据库的待迁移增量数据; 将所述待迁移增量数据存放至所述待迁移增量数据的增量数据目录上, 并将所述待迁 移增量数据的增 量数据目录上的待迁移增 量数据同步至目标集群数据库的增 量数据目录 上; 根据所述目标集群数据库的增量数据目录的待迁移增量数据生成HFile文件, 并将所 述HFile文件加载至所述目标集群数据库的hbase表中。 2.根据权利要求1所述的方法, 其特征在于, 所述根据所述目标集群数据库的增量数据 目录的待迁移增量数据生成HFi le文件, 包括: 对所述待迁移增量数据进行抽取、 转换和加载操作, 得到所述目标集群数据库的hbase 表的HFile文件。 3.根据权利要求1所述的方法, 其特征在于, 所述将所述待迁移增量数据的增量数据目 录上的待迁移增量数据同步至目标集群数据库的增量数据目录上, 包括: 压缩所述待迁移增量数据, 得到 压缩数据; 将所述压缩数据同步至目标集群数据库的增量数据目录上, 其中, 在同步过程中跳过 循环冗余校验。 4.根据权利要求1 ‑3任意一项所述的方法, 其特征在于, 所述获取源集群数据库的待迁 移增量数据, 包括: 利用Export工具从所述源集群数据库的hbase表中导出目标版本的增量数据, 并获取 增量数据导出的统计数量; 在所述统计数量大于导出数量阈值时, 停止增量数据的导出, 得到所述待迁移增量数 据。 5.一种数据库的增量数据迁移装置, 其特 征在于, 包括: 获取模块, 用于获取源集群数据库的待迁移增量数据; 同步模块, 用于将所述待迁移增量数据存放至所述待迁移增量数据的增量数据目录 上, 并将所述待迁移增量数据的增量数据目录上的待迁移增量数据同步至目标集群数据库 的增量数据目录上; 迁移模块, 用于根据所述目标集群数据库的增量数据目录的待迁移增量数据生成 HFile文件, 并将所述HFi le文件加载至所述目标集群数据库的hbase表中。 6.根据权利要求5所述的装置, 其特 征在于, 所述迁移模块用于: 对所述待迁移增量数据进行抽取、 转换和加载操作, 得到所述目标集群数据库的hbase 表的HFile文件。 7.根据权利要求5所述的装置, 其特 征在于, 所述同步模块用于: 压缩所述待迁移增量数据, 得到 压缩数据; 将所述压缩数据同步至目标集群数据库的增量数据目录上, 其中, 在同步过程中跳过 循环冗余校验。 8.根据权利要求5 ‑7任意一项所述的装置, 其特 征在于, 所述获取模块用于: 利用Export工具从所述源集群数据库的hbase表中导出目标版本的增量数据, 并获取 增量数据导出的统计数量;权 利 要 求 书 1/2 页 2 CN 115098473 A 2在所述统计数量大于导出数量阈值时, 停止增量数据的导出, 得到所述待迁移增量数 据。 9.一种电子设备, 其特征在于, 包括: 存储器、 处理器及存储在所述存储器上并可在所 述处理器上运行的计算机程序, 所述处理器执行所述程序, 以实现如权利要求 1‑4任一项所 述的数据库的增量数据迁移方法。 10.一种计算机可读存储介质, 其上存储有计算机程序, 其特征在于, 该程序被处理器 执行, 以用于实现如权利要求1 ‑4任一项所述的数据库的增量数据迁移方法。权 利 要 求 书 2/2 页 3 CN 115098473 A 3

PDF文档 专利 数据库的增量数据迁移方法、装置、电子设备及存储介质

文档预览
中文文档 15 页 50 下载 1000 浏览 0 评论 0 收藏 3.0分
温馨提示:本文档共15页,可预览 3 页,如浏览全部内容或当前文档出现乱码,可开通会员下载原始文档
专利 数据库的增量数据迁移方法、装置、电子设备及存储介质 第 1 页 专利 数据库的增量数据迁移方法、装置、电子设备及存储介质 第 2 页 专利 数据库的增量数据迁移方法、装置、电子设备及存储介质 第 3 页
下载文档到电脑,方便使用
本文档由 SC 于 2024-02-24 01:02:07上传分享
友情链接
站内资源均来自网友分享或网络收集整理,若无意中侵犯到您的权利,敬请联系我们微信(点击查看客服),我们将及时删除相关资源。