全网唯一标准王
(19)国家知识产权局 (12)发明 专利申请 (10)申请公布号 (43)申请公布日 (21)申请 号 202210539517.2 (22)申请日 2022.05.17 (71)申请人 浙江大学 地址 310058 浙江省杭州市西湖区余杭塘 路866号 (72)发明人 陈奇 杨武 冯泽晖 裘英杰  梁思源  (74)专利代理 机构 杭州求是专利事务所有限公 司 33200 专利代理师 刘静 (51)Int.Cl. G06F 9/445(2018.01) (54)发明名称 一种可热插拔的数据融合平台算子动态扩 展方法 (57)摘要 本发明公开了一种可热插拔的数据融合平 台算子动态扩展方法。 本发明将需要更新的插件 包通过上传模块上传到数据融合平台, 并解析算 子的插件包, 并将其分发给各节点; 算子执行模 块在执行新的数据融合流程时, 调用插件模块, 对未加载的插件以及依赖进行加载。 如果找不到 相关依赖, 将加载依赖类委托给算子执行模块的 类加载器进行加载。 本发明不仅实现了插件包多 节点分发, 还提供了不重启服务的热插拔式更新 方法。 权利要求书1页 说明书3页 附图1页 CN 114936049 A 2022.08.23 CN 114936049 A 1.一种可热插拔的数据融合平台算子动态扩展方法, 其特征在于, 所述数据融合平台 包括前端应用模块、 上传模块、 算子执 行模块和插 件模块; 该方法包括以下步骤: S1、 将需要更新的插 件包通过上传模块上传到数据融合平台; S2、 上传模块针对上传的插件包在上传时进行解析, 把插件包的内容二次分发到前端 应用模块和算子执 行模块; S3、 用户操作前端界面时, 读取前端应用模块中所需要用的插件包资源, 前端应用模块 调用算子执 行模块启动数据流 服务, 进行数据融合 流程; S4、 数据流服务在启动时, 检查所需要用到的算子是否在算子执行模块的缓存中存在, 如果存在, 执行数据流服务, 直到结束流程; 如果不存在, 则调用插件模块, 执行步骤S5, 执 行数据流服务以及调用插件模块时, 不需要数据融合平台停止提供服务, 直接实现算子的 动态扩展; S5、 插件模块根据预先定义的算子插件规范, 从算子执行模块的插件包资源中读取所 有需要加载的类名, 插件模块调用自己的类加载器, 读取插件包中的类, 以及其依赖, 如果 存在找不到相关依赖的情况, 插件模块将需要加载依赖类委托给算子执行模块的类加载器 进行加载。 2.根据权利要求1所述的一种可热插拔的数据融合平台算子动态扩展方法, 其特征在 于, 步骤S3中, 读取前端应用模块中所需要用的插件包资源时, 如果插件包无法读取, 则会 提醒用户该插 件包损坏, 无法提供插 件对应的功能。 3.根据权利要求1所述的一种可热插拔的数据融合平台算子动态扩展方法, 其特征在 于, 步骤S4中, 执 行数据流服务时已经用过的算子缓存在算子执 行模块中。 4.根据权利要求1所述的一种可热插拔的数据融合平台算子动态扩展方法, 其特征在 于, 步骤S5中从自定义的M ETA_INF(类名目录文件)中读取类名进行加载。权 利 要 求 书 1/1 页 2 CN 114936049 A 2一种可热插 拔的数据融合平台算子动态扩展方 法 技术领域 [0001]本发明涉及数据融合领域, 特别是涉及一种可热插拔的数据融合平台算子动 态扩 展方法。 背景技术 [0002]现有的服务插件进行更新时, 常常需要停机更新, 会导致服务较长时间的不可用, 对数据有实时性要求的服务来说, 是难以接受的, 所以需要有一种技术 实现服务的热更新。 同时, 停机更新在重启后恢复现场需要消 耗大量的人力去维护服务是否正常启动, 以及手 动恢复服 务断档期间数据丢失的问题, 所以需要 避免服务的重启。 [0003]另外, 在软件开发的过程中, 不同应用场景对功能有定制化的需求, 同时又需要依 靠主线版本更新的内容, 现有的技术不可避免的需要对每个分支进行维护, 所以需要一种 技术可以在主 线版本上集成定制化的功能。 [0004]原有的插件技术, 仅针对单节点服务进行更新, 最直观的就是后端算子进行了更 新, 但是前端算子的展现形式未更新, 所以需要一种技术, 使得多个节点, 前后端之 间, 均能 通过一次热插拔实现全量更新。 发明内容 [0005]基于此, 本发明的目的在于, 提供一种可热插拔的数据 融合平台算子动态扩展方 法, 减少数据融合相关算子的大小并实现各算子间的依赖隔离 。 [0006]本发明解决技术问题采用如下技术方案: 一种可热插拔的数据融合平台算子动态 扩展方法, 所述数据融合平台包括前端应用模块、 上传模块、 算子执行模块和插件模块; 该 方法包括以下步骤: [0007]S1、 将需要更新的插 件包通过上传模块上传到数据融合平台; [0008]S2、 上传模块针对上传的插件包在上传 时进行解析, 把插件包的内容二次分发到 前端应用模块和算子执 行模块; [0009]S3、 用户操作前端界面时, 读取前端应用模块中所需要用的插件包资源, 前端应用 模块调用算子执 行模块启动数据流 服务, 进行数据融合 流程; [0010]S4、 数据流服务在启动时, 检查所需要用到 的算子是否在算子执行模块的缓存中 存在, 如果存在, 执行数据流服务, 直到结束流程; 如果不存在, 则调用插件模块, 执行步骤 S5, 执行数据流服务以及调用插件模块时, 不需要 数据融合平台停止提供服务, 直接实现算 子的动态扩展; [0011]S5、 插件模块根据预先定义的算子插件规范, 从算子执行模块的插件包资源中读 取所有需要加载的类名, 插件模块调用自己的类加载器, 读取插件包中的类, 以及其依赖, 如果存在找不到相关依赖的情况, 插件模块将需要加载依赖类委托给算子执行模块的类加 载器进行加载。 [0012]进一步地, 步骤S3中, 读取前端应用模块中所需要用的插件包资源时, 如果插件包说 明 书 1/3 页 3 CN 114936049 A 3

.PDF文档 专利 一种可热插拔的数据融合平台算子动态扩展方法

文档预览
中文文档 6 页 50 下载 1000 浏览 0 评论 309 收藏 3.0分
温馨提示:本文档共6页,可预览 3 页,如浏览全部内容或当前文档出现乱码,可开通会员下载原始文档
专利 一种可热插拔的数据融合平台算子动态扩展方法 第 1 页 专利 一种可热插拔的数据融合平台算子动态扩展方法 第 2 页 专利 一种可热插拔的数据融合平台算子动态扩展方法 第 3 页
下载文档到电脑,方便使用
本文档由 人生无常 于 2024-03-17 23:58:59上传分享
友情链接
站内资源均来自网友分享或网络收集整理,若无意中侵犯到您的权利,敬请联系我们微信(点击查看客服),我们将及时删除相关资源。