买专利,只认龙图腾
首页 专利交易 科技果 科技人才 科技服务 商标交易 会员权益 IP管家助手 需求市场 关于龙图腾
 /  免费注册
到顶部 到底部
清空 搜索

【发明公布】一种基于binlog与双环形缓冲区的数据推送系统_深圳市亲邻科技有限公司_202310943827.5 

申请/专利权人:深圳市亲邻科技有限公司

申请日:2023-07-31

公开(公告)日:2023-10-31

公开(公告)号:CN116980475A

主分类号:H04L67/55

分类号:H04L67/55;H04L67/568

优先权:

专利状态码:在审-实质审查的生效

法律状态:2023.11.17#实质审查的生效;2023.10.31#公开

摘要:本发明公开了一种基于binlog与双环形缓冲区的数据推送系统,涉及数据推送技术领域。该系统包括通信连接且用于采用canal组件对业务数据库的数据变动进行监控,获取binlog并对其进行解析的日志订阅单元、用于对binlog解析数据进行预处理操作,并将获取预处理数据制作成宽表存储的数据预处理单元、用于对预处理数据进行分拣并二次处理而获取待推送任务及将其存入任务库中等待调度的规则引擎及任务调度单元以及用于对调度的待推送任务进行推送处理的数据推送单元。本发明通过对binlog进行即时监听、高效解析以及配置自定义规则,实现统一高效的数据推送;并且在对接平台和业务数据量增多的情况下满足多种推送需求。

主权项:1.一种基于binlog与双环形缓冲区的数据推送系统,其特征在于:包括依次通信连接的日志订阅单元、数据预处理单元、规则引擎及任务调度单元和数据推送单元;所述日志订阅单元,采用canal组件对业务数据库的数据变动进行监控,获取所述业务数据库中的binlog并对其进行解析,获取binlog解析数据;所述数据预处理单元,用于对所述binlog解析数据进行预处理操作,获取预处理数据,将所述预处理数据制作成宽表进行存储;所述规则引擎及任务调度单元,用于对所述预处理数据进行分拣,并对分拣后的数据进行二次处理,获取待推送任务;将所述待推送任务存入任务库中等待任务调度中心进行调度;所述数据推送单元,用于对所述任务调度中心调度的所述待推送任务进行推送处理;其中,所述业务数据库的数据变动表示为所述业务数据库执行的写入性操作;其中,所述数据预处理单元包括第一环形缓冲区;所述第一环形缓冲区用于存放所述binlog解析数据;其中,所述数据推送单元包括多种推送服务,多种所述推送服务支持对接平台的多种推送协议类型;根据多种所述推送协议类型设立多个第二环形缓冲区;多个所述第二环形缓冲区用于存放所述待推送任务。

全文数据:

权利要求:

百度查询: 深圳市亲邻科技有限公司 一种基于binlog与双环形缓冲区的数据推送系统

免责声明
1、本报告根据公开、合法渠道获得相关数据和信息,力求客观、公正,但并不保证数据的最终完整性和准确性。
2、报告中的分析和结论仅反映本公司于发布本报告当日的职业理解,仅供参考使用,不能作为本公司承担任何法律责任的依据或者凭证。

相关技术
相关技术
相关技术
相关技术