买专利,只认龙图腾
首页 专利交易 科技果 科技人才 科技服务 商标交易 会员权益 IP管家助手 需求市场 关于龙图腾
 /  免费注册
到顶部 到底部
清空 搜索

【发明授权】一种支持在线分析统计的实时查询库设计方法_国网江苏省电力有限公司营销服务中心;江苏方天电力技术有限公司_202111253832.0 

申请/专利权人:国网江苏省电力有限公司营销服务中心;江苏方天电力技术有限公司

申请日:2021-10-27

公开(公告)日:2024-03-22

公开(公告)号:CN113961546B

主分类号:G06F16/21

分类号:G06F16/21;G06F16/28;G06F16/2458;G06F11/34;G06F16/23

优先权:

专利状态码:有效-授权

法律状态:2024.03.22#授权;2022.02.15#实质审查的生效;2022.01.21#公开

摘要:一种支持在线分析统计的实时查询库设计方法,包括:步骤1,在源端Oracle业务库中部署数据复制软件进行日志收集;步骤2,使用插件对收集到的日志进行解析,得到增量日志数据;步骤3,对增量日志数据进行离线归档;步骤4,增量日志数据实时写入目标端查询库中;步骤5,历史数据从离线数据库中离线同步到目标端查询库中。将Oracle业务库中的数据通过OGG+datahub+Blink的传输链路同步至查询库,正常通讯延迟在30s到1分钟左右,查询库数据与业务库既能保证实时同步,也具有数据一致性,实现了查询库具有在线分析的能力,解决了查询库只能是同构数据库的限制,为系统后续提供在线数据服务奠定了基础。

主权项:1.一种支持在线分析统计的实时查询库设计方法,其特征在于,所述方法包括:步骤1,在源端Oracle业务库中部署数据复制软件进行日志收集;其中,在Oracle业务库中,部署基于日志的结构化数据复制软件OGG,并建立OGG用户;建立OGG用户包括:创建OGG用户表空间、授权OGG用户、创建OGG相关的子目录;步骤2,使用插件对收集到的日志进行解析,得到增量日志数据;使用云流数据处理平台Datahub对目标端Trail文件进行解析,将得到的增量日志数据实时订阅到Datahub中;其中,Oracle业务库中的每一张表Table均对应Datahub中一个独立主题Topic;步骤3,对增量日志数据进行离线归档;步骤4,增量日志数据实时写入目标端查询库中;包括:步骤4.1,使用实时计算平台Blink实时订阅Datahub中的Topic,将Datahub中的增量日志数据实时订阅到Blink缓存;其中,设置Blink任务并发度与Topic的碎片数一致;步骤4.2,通过Blink将订阅到的增量日志数据转换成目标端查询库的结构化查询语言后,按照设定的顺序写入目标端查询库;其中,查询库部署在云平台;采用云原生数据库和交互式分析数据库分别作为在线服务分析层的查询库;查询库,用于提供实时查询、在线分析统计;步骤5,历史数据从离线数据库中离线同步到目标端查询库中。

全文数据:

权利要求:

百度查询: 国网江苏省电力有限公司营销服务中心;江苏方天电力技术有限公司 一种支持在线分析统计的实时查询库设计方法

免责声明
1、本报告根据公开、合法渠道获得相关数据和信息,力求客观、公正,但并不保证数据的最终完整性和准确性。
2、报告中的分析和结论仅反映本公司于发布本报告当日的职业理解,仅供参考使用,不能作为本公司承担任何法律责任的依据或者凭证。