全网唯一标准王
(19)国家知识产权局 (12)发明 专利申请 (10)申请公布号 (43)申请公布日 (21)申请 号 202210739523.2 (22)申请日 2022.06.28 (71)申请人 浪潮云信息技 术股份公司 地址 250100 山东省济南市高新区浪潮路 1036号浪潮科技园S01号楼 (72)发明人 樊喜申 王庆明 周庆勇 胡清  (74)专利代理 机构 济南信达专利事务所有限公 司 37100 专利代理师 孙园园 (51)Int.Cl. G06F 16/21(2019.01) G06F 16/27(2019.01) G06F 16/25(2019.01) G06F 16/22(2019.01) G06F 16/28(2019.01)G06F 16/18(2019.01) (54)发明名称 实现MySQ L增量同步数据的优化方法及系统 (57)摘要 本发明公开了实现MySQL增量同步数据的优 化方法及系统, 属于数据同步技术领域, 本发明 要解决的技术问题为如何有效避免数据乱码现 象, 降低数据同步过程中出现错误的概率, 提高 数据同步效率, 采用的技术方案为: 该方法是基 于数据格式转换规则, 在nifi组件中配置数据抽 取后的编码格式, 且数据抽取后的编码格式与 MySQL数据库的数据库表编码格式保持一致; 当 通过nifi组件获取到MySQL数据库日志后, 对 MySQL数据库 日志进行逐条数据分析, 判断每一 个字段对应的数据类型, 完成数据转换, 保证数 据的准确性。 权利要求书2页 说明书7页 附图1页 CN 115203171 A 2022.10.18 CN 115203171 A 1.一种实现MySQL增量同步数据的优化方法, 其特征在于, 该方法是基于数据格 式转换 规则, 在nifi组件中配置数据抽取后的编码 格式, 且数据抽取后的编码格式与M ySQL数据库 的数据库表编码格式保持一致; 当通过nifi组件获取到MySQL数据库日志后, 对MySQL数据 库日志进 行逐条数据分析, 判断每一个字段对应的数据类型, 完成数据转换, 保证数据的准 确性。 2.根据权利要求1所述的实现MySQL增量同步数据的优化方法, 其特征在于, 该方法具 体如下: S1、 设置编码格式: 增加nifi组件配置的编码格式参数的传值, 将数据库字符编码格 式 传值; S2、 设置编码格式判断: 判断编码格式是否正确设置; S3、 通过字节数组输入流读取 所抽取的每一条MySQ L数据库日志数据; S4、 创建byte类型的数据, 将 读取后的数据存放于 字节数组内; S5、 检查字节数组的偏移量、 长度值以及内容范围, 并判断是否符合 解码要求; S6、 将字节数组按照设置的编码格式进行解码, 即将字节数组内的数据转换为String 类型的数据。 3.根据权利要求2所述的实现MySQL增量同步数据的优化方法, 其特征在于, 步骤S1中 的设置编码格式具体如下: S101、 将数据库字符编码格式传值; S102、 通过读取字节数组的数据和正确的字符编码, 将数据转换为对应编码格式的字 符串。 4.根据权利要求2所述的实现MySQL增量同步数据的优化方法, 其特征在于, 步骤S2中 当编码格式未正确设置时, 则将编码格式设置为U TF‑8编码格式。 5.根据权利要求1所述的实现MySQL增量同步数据的优化方法, 其特征在于, MySQL数据 库的数据库表的数据类型包括VARCHAR、 CHAR、 DATE、 DATETI  ME、 TIME、 TIMESTAMP、 INT、 INTEGER、 DOUBLE、 FLOAT、 TEXT、 BIT、 TI NYINT及SMAL LINT。 6.一种实现MySQ L增量同步数据的优化系统, 其特 征在于, 该系统包括, 数据转换 单元, 用于将n ifi组件抽取的数据根据数据类型的不同, 逐一进行 数据转换; 编码格式转换单元, 用于根据nifi组件中具体的格 式设置将不同的数据类型分别进行 编码格式的转换。 7.根据权利要求6所述的实现MySQL增量同步数据的优化系统, 其特征在于, 所述编码 格式转换 单元包括, 设置模块, 用于设置编码格式, 即增加nifi组件配置的编码格 式参数的传值, 将数据库 字符编码格式传值; 判断模块, 用于设置编码格式判断, 判断编码格式是否正确设置; 读取模块, 用于通过字节数组输入流读取 所抽取的每一条MySQ L数据库日志数据; 创建模块, 用于创建byte类型的数据, 将 读取后的数据存放于 字节数组内; 检查模块, 用于检查字节数组的偏移量、 长度值以及内容范围, 并判断是否符合解码要 求; 解码模块, 用于将字节数组按照设置的编码格式进行解码, 即将字节数组内的数据转权 利 要 求 书 1/2 页 2 CN 115203171 A 2换为String类型的数据。 8.根据权利 要求6或7所述的实现MySQL增量同步数据的优化系统, 其特征在于, 所述设 置模块包括, 传值子模块, 用于将数据库字符编码格式传值; 转换子模块, 用于通过读取字节数组的数据和正确的字符编码, 将数据转换为对应编 码格式的字符串。 9.一种电子设备, 其特 征在于, 包括: 存 储器和至少一个处 理器; 其中, 所述存 储器上存 储有计算机程序; 所述至少一个处理器执行所述存储器存储的计算机程序, 使得所述至少一个处理器执 行如权利要求1至 5任一项所述的实现MySQ L增量同步数据的优化方法。 10.一种计算机可读存储介质, 其特征在于, 所述计算机可读存储介质中存储有计算机 程序, 所述计算机程序可被处理器执行以实现如权利要求1至5中任一项所述的实现MySQL 增量同步数据的优化方法。权 利 要 求 书 2/2 页 3 CN 115203171 A 3

PDF文档 专利 实现MySQL增量同步数据的优化方法及系统

文档预览
中文文档 11 页 50 下载 1000 浏览 0 评论 0 收藏 3.0分
温馨提示:本文档共11页,可预览 3 页,如浏览全部内容或当前文档出现乱码,可开通会员下载原始文档
专利 实现MySQL增量同步数据的优化方法及系统 第 1 页 专利 实现MySQL增量同步数据的优化方法及系统 第 2 页 专利 实现MySQL增量同步数据的优化方法及系统 第 3 页
下载文档到电脑,方便使用
本文档由 SC 于 2024-02-24 01:02:19上传分享
友情链接
站内资源均来自网友分享或网络收集整理,若无意中侵犯到您的权利,敬请联系我们微信(点击查看客服),我们将及时删除相关资源。