申请/专利权人:航天信息股份有限公司
申请日:2023-12-19
公开(公告)日:2024-04-09
公开(公告)号:CN117851383A
主分类号:G06F16/21
分类号:G06F16/21;G06F16/23;G06F16/27
优先权:
专利状态码:在审-实质审查的生效
法律状态:2024.04.26#实质审查的生效;2024.04.09#公开
摘要:本申请实施例公开了一种数据迁移方法和系统,属于互联网技术领域,所述方法包括:搜索服务器集群将业务端存入的实时数据发送至消息中间件集群;Hadoop集群中的第一预设工具从所述消息中间件集群获取实时数据,写入数据库中;Hadoop集群通过第二预设工具从所述搜索服务器集群中获取预设周期前的历史数据,存入第一数据表中;按照所述预设周期从所述数据库中查询目标数据存储至第二数据表中;依据所述第一数据表、所述第二数据表确定增量数据,并将所述增量数据添加至所述第一数据表中。本申请提供的数据迁移方案,能够对快速地完成搜索服务器集群至Hadoop集群的百亿级数据的迁移、更新。
主权项:1.一种数据迁移方法,其特征在于,包括:搜索服务器集群将业务端存入的实时数据发送至消息中间件集群;Hadoop集群中的第一预设工具从所述消息中间件集群获取实时数据,写入数据库中;所述Hadoop集群通过第二预设工具从所述搜索服务器集群中获取预设周期前的历史数据,存入第一数据表中;所述Hadoop集群按照所述预设周期从所述数据库中查询目标数据存储至第二数据表中;其中,所述目标数据为写入时间属于前一预设周期且数据生成时长大于或等于两个预设周期的历史数据;所述Hadoop集群依据所述第一数据表、所述第二数据表确定增量数据,并将所述增量数据添加至所述第一数据表中。
全文数据:
权利要求:
百度查询: 航天信息股份有限公司 一种数据迁移方法和系统
免责声明
1、本报告根据公开、合法渠道获得相关数据和信息,力求客观、公正,但并不保证数据的最终完整性和准确性。
2、报告中的分析和结论仅反映本公司于发布本报告当日的职业理解,仅供参考使用,不能作为本公司承担任何法律责任的依据或者凭证。