申请/专利权人:江苏大塔科技有限公司
申请日:2023-12-29
公开(公告)日:2024-04-19
公开(公告)号:CN117909410A
主分类号:G06F16/27
分类号:G06F16/27;G06F16/23;G06F11/10
优先权:
专利状态码:在审-实质审查的生效
法律状态:2024.05.07#实质审查的生效;2024.04.19#公开
摘要:本发明公开了一种基于快照的无锁全增量一体化数据同步方法,涉及数据同步技术领域,为了解决数据在进行同步时无法对大量数据进行有效处理的问题。本发明将队列中插入BINLOG_END记录,并比较数据剔除分片结果中重复的数据并插入队列,有效的提升了在大数据量下数据处理速度,能够并发读取,状态存储,可以做到提升效率的作用,分片id和分片状态可用于从异常失败中重新恢复未完成的数据分片的再次进行执行,通过标记日志数据,可以更清晰地了解数据的来源、用途和重要性,将数据进行CRC校验法进行校验可以在不确定目标同步数据的信息字段和校验字段长度的情况下进行更快速的校验。
主权项:1.一种基于快照的无锁全增量一体化数据同步方法,其特征在于,包括如下步骤:S1:将需要进行处理的源数据进行获取,获取后将源数据传输至待处理库中,并且,当源数据传输至待处理库时,将源数据根据数据的大小选择传输速度最快的传输信道;S2:将待处理库中的源数据进行数据表创建,并将数据表中的数据进行数据分片,将数据分片完成的数据进行日志数据标记;S3:将日志数据标记完成的数据进行数据增量变更判断,并根据判断结果将日志数据标记完成的数据进行变更处理,处理完成后得到目标同步数据;S4:将目标同步数据进行数据校验,并将校验完成的数据进行完整性检测,并将完整性检测完成的数据标记为标准同步数据。
全文数据:
权利要求:
百度查询: 江苏大塔科技有限公司 一种基于快照的无锁全增量一体化数据同步方法
免责声明
1、本报告根据公开、合法渠道获得相关数据和信息,力求客观、公正,但并不保证数据的最终完整性和准确性。
2、报告中的分析和结论仅反映本公司于发布本报告当日的职业理解,仅供参考使用,不能作为本公司承担任何法律责任的依据或者凭证。