申请/专利权人：杭州玳数科技有限公司

申请日：2022-08-09

公开（公告）日：2022-11-01

公开（公告）号：CN115268934A

主分类号：G06F8/41

分类号：G06F8/41;G06F8/71;G06F16/18;G06F16/27;G06F16/22

优先权：

专利状态码：在审-实质审查的生效

法律状态：2022.11.18#实质审查的生效;2022.11.01#公开

摘要：本申请公开了一种基于Flink实现Binlog到Doris的实时采集方法及系统，涉及数据安全技术领域，包括以下步骤：采集原始数据源的Binlog增量日志信息，并将所述日志信息封装成Flink数据对象RowData；配置任务脚本中的NameMapping算子以获取当前任务中的映射关系，并根据所述映射关系对所述RowData中的信息进行映射重组；配置Doris数据源信息，并根据所述Doris数据源信息和映射重组后的RowData信息构建用于将数据写入Doris数据源的DorisStreamLoad。本申请可以将不同表结构的数据信息都写入到Doris数据源的表中，并降低数据传输的延迟。

主权项：1.一种基于Flink实现Binlog到Doris的实时采集方法，其特征在于，包括以下步骤：采集原始数据源的Binlog增量日志信息，并将所述日志信息封装成Flink数据对象RowData；配置任务脚本中的NameMapping算子以获取当前任务中的映射关系，并根据所述映射关系对所述RowData中的信息进行映射重组；配置Doris数据源信息，并根据所述Doris数据源信息和映射重组后的RowData信息构建用于将数据写入Doris数据源的DorisStreamLoad。

全文数据：

权利要求：

百度查询： 杭州玳数科技有限公司 一种基于Flink实现Binlog到Doris的实时采集方法及系统

免责声明
1、本报告根据公开、合法渠道获得相关数据和信息，力求客观、公正，但并不保证数据的最终完整性和准确性。
2、报告中的分析和结论仅反映本公司于发布本报告当日的职业理解，仅供参考使用，不能作为本公司承担任何法律责任的依据或者凭证。

阅读全文 双屏查看 官方信息 专利公告 收藏专利 下载PDF 下载WORD