全网唯一标准王
(19)国家知识产权局 (12)发明 专利申请 (10)申请公布号 (43)申请公布日 (21)申请 号 202210536895.5 (22)申请日 2022.05.17 (71)申请人 咪咕数字传媒有限公司 地址 310018 浙江省杭州市西湖区西溪银 座1幢1层101室 申请人 咪咕文化科技有限公司   中国移动通信集团有限公司 (72)发明人 何少华  (74)专利代理 机构 北京市浩天知识产权代理事 务所(普通 合伙) 11276 专利代理师 梁倩 (51)Int.Cl. G06F 16/27(2019.01) G06F 16/23(2019.01) G06F 16/22(2019.01) (54)发明名称 一种数据同步校验方法、 装置、 计算设备和 存储介质 (57)摘要 本发明公开了一种数据同步校验方法、 装 置、 计算设备和存储介质。 根据本发明提供的技 术方案, 将源 数据从源数据库同步至目标数据库 的过程中, 生成与源数据对应的源对象以及目标 对象, 并根据源对象构建源哈希 映射表, 根据目 标对象构建布谷鸟过滤器集合; 其中, 所述布谷 鸟过滤器集合中存储有目标对象的指纹数据; 并 发遍历所述源哈希映射表中的源对象, 针对源哈 希映射表中的每个源对象, 在布谷鸟过滤器集合 中查找该源对象的指纹数据, 根据查找结果确定 数据同步校验结果。 本发明通过在数据同步后, 利用指纹数据完成对数据迁移全部数据的校验, 可以快速精确地进行数据的迁移和校验, 并极大 地保障数据一 致性。 权利要求书2页 说明书9页 附图6页 CN 114880400 A 2022.08.09 CN 114880400 A 1.一种数据同步校验方法, 包括: 在将源数据从源数据库同步至目标数据库的过程中, 生成与源数据对应的源对象以及 目标对象, 并根据所述源对 象构建源哈希映射表, 根据所述 目标对象构建布谷鸟过滤器集 合; 其中, 所述布谷鸟过 滤器集合中存储有所述目标对象的指纹数据; 并发遍历所述源哈希映射表中的源对象, 针对所述源 哈希映射表中的每个源对象, 在 所述布谷鸟过滤器集合中查找该源对象的指纹数据, 根据查找结果确定数据同步校验结 果。 2.根据权利要求1所述的方法, 其特征在于, 所述在将源数据从源数据库同步至目标数 据库的过程中, 生成与源数据对应的源对 象以及目标对 象, 并根据所述源对 象构建源哈希 映射表, 根据所述目标对象构建布谷鸟过 滤器集合进一步包括: 从源数据库中读取源数据, 对所述源数据进行数据转换处理, 生成与源数据对应的源 对象以及目标对象; 将所述源 对象添加至源消息队列, 消费所述源消息队列构建源哈希映射表; 将所述目标对象添加至目标消息队列, 将所述目标对象写入至目标数据库中, 消费所 述目标消息队列构建布谷鸟过 滤器集合。 3.根据权利要求2所述的方法, 其特征在于, 所述消费所述源消息队列构建源哈希映射 表进一步包括: 消费所述源消息队列中的源 对象, 对所述源 对象进行序列化存 储, 并设置哈希算法; 采用链表以及红黑 树模型, 对序列化存 储后的源 对象进行处 理, 构建源哈希映射表。 4.根据权利要求2所述的方法, 其特征在于, 所述消费所述目标消息队列构建布谷鸟过 滤器集合进一步包括: 消费所述目标消息队列中的目标对象, 将所述目标对象的哈希值中预设比特位数的数 据作为所述目标对象的指纹数据, 将所述指纹数据写入至布谷鸟过 滤器集合中。 5.根据权利要求1 ‑4任一项所述的方法, 其特征在于, 所述针对所述源哈希映射表中的 每个源对象, 在所述布谷鸟过 滤器集合中查找该源 对象的指纹数据进一 步包括: 计算该源 对象的指纹数据; 利用第一哈希算法对该源 对象进行哈希处 理, 得到第一桶地址; 利用第二哈希算法对该源 对象的指纹数据进行哈希处 理, 得到指纹哈希值; 对所述第一桶地址和所述指纹哈希值进行异或处 理, 得到第二桶地址; 在所述布谷鸟过滤器集合中, 查找第 一桶地址对应的桶中或者第 二桶地址对应的桶中 是否存储有该源 对象的指纹数据。 6.根据权利要求1 ‑5任一项所述的方法, 其特征在于, 所述根据查找结果确定数据同步 校验结果进一 步包括: 若查找到该源对象的指纹数据, 则确定该源对象对应的源数据的数据同步校验结果为 正常结果, 继续遍历所述源哈希映射表中的其 他源对象; 若未查找到该源对象的指纹数据, 则确定该源对象对应的源数据的数据同步校验结果 为异常结果, 并将该源 对象对应的源数据作为异常数据进行存 储。 7.根据权利要求6所述的方法, 其特 征在于, 所述方法还 包括: 按照预设异常处 理方案对异常数据进行处 理。权 利 要 求 书 1/2 页 2 CN 114880400 A 28.一种数据同步校验 装置, 包括: 同步模块和校验 模块; 其中, 所述同步模块, 用于在将源数据从源数据库同步至目标数据库的过程中, 生成与源数 据对应的源对 象以及目标对 象, 并根据所述源对 象构建源哈希映射表, 根据所述 目标对象 构建布谷鸟过 滤器集合; 其中, 所述布谷鸟过 滤器集合中存储有所述目标对象的指纹数据; 所述校验模块, 用于并发遍历所述源 哈希映射表中的源对象, 针对所述源 哈希映射表 中的每个源对 象, 在所述布谷鸟过滤器集合中查找该源对 象的指纹数据, 根据查找结果确 定数据同步校验结果。 9.一种计算设备, 包括: 处理器、 存储器、 通信接口和通信总线, 所述处理器、 所述存储 器和所述 通信接口通过 所述通信总线完成相互间的通信; 所述存储器用于存放至少一可执行指令, 所述可执行指令使所述处理器执行如权利要 求1‑7中任一项所述的数据同步校验方法对应的操作。 10.一种计算机存储介质, 所述存储介质中存储有至少一可执行指令, 所述可执行指令 使处理器执行如权利要求1 ‑7中任一项所述的数据同步校验方法对应的操作。权 利 要 求 书 2/2 页 3 CN 114880400 A 3

PDF文档 专利 一种数据同步校验方法、装置、计算设备和存储介质

文档预览
中文文档 18 页 50 下载 1000 浏览 0 评论 0 收藏 3.0分
温馨提示:本文档共18页,可预览 3 页,如浏览全部内容或当前文档出现乱码,可开通会员下载原始文档
专利 一种数据同步校验方法、装置、计算设备和存储介质 第 1 页 专利 一种数据同步校验方法、装置、计算设备和存储介质 第 2 页 专利 一种数据同步校验方法、装置、计算设备和存储介质 第 3 页
下载文档到电脑,方便使用
本文档由 SC 于 2024-02-24 00:49:46上传分享
友情链接
站内资源均来自网友分享或网络收集整理,若无意中侵犯到您的权利,敬请联系我们微信(点击查看客服),我们将及时删除相关资源。