首页 专利交易 科技果 科技人才 科技服务 商标交易 会员权益 IP管家助手 需求市场 关于龙图腾
 /  免费注册
到顶部 到底部
清空 搜索

【发明授权】数据更新方法、数据更新装置、计算机设备及存储介质_中国平安财产保险股份有限公司_201910541926.4 

申请/专利权人:中国平安财产保险股份有限公司

申请日:2019-06-21

公开(公告)日:2024-04-30

公开(公告)号:CN110442585B

主分类号:G06F16/23

分类号:G06F16/23;G06F16/27;G06F16/28

优先权:

专利状态码:有效-授权

法律状态:2024.04.30#授权;2021.03.19#实质审查的生效;2019.11.12#公开

摘要:本发明公开了一种数据更新方法、数据更新装置、计算机设备及存储介质,获取在预设时间点之前从应用系统同步来的第一数据,并将第一数据导入第一数据表中;获取在预设时间点之后从应用系统同步来的第二数据,并将第二数据导入第二数据表中,其中第二数据表的格式与第一数据表的格式相一致;联合第一数据表和第二数据表,生成总数据表;及除去总数据表中的重复数据,获取更新后的总数据表。本发明提供的数据更新方法、数据更新装置、计算机及存储介质通过联合第一数据表和第二数据表再去重,逻辑简单,省去了手工处理的麻烦,节省了大量的人力物力,同时也确保了数据更新的准确性。

主权项:1.一种数据更新方法,其特征在于,所述数据更新方法包括步骤:获取在预设时间点之前从应用系统同步来的第一数据,并将所述第一数据导入第一数据表中;获取在所述预设时间点之后从所述应用系统同步来的第二数据,并将所述第二数据导入第二数据表中,其中,所述第二数据表的格式与所述第一数据表的格式相一致;联合所述第一数据表和所述第二数据表,生成总数据表;及除去所述总数据表中的重复数据,获取更新后的总数据表;所述联合所述第一数据表和所述第二数据表,生成总数据表的步骤包括:利用UNIONALL命令,对所述第一数据表和所述第二数据表进行并集操作,生成所述总数据表;所述获取在所述预设时间点之后从所述应用系统同步来的第二数据,并将所述第二数据导入第二数据表中的步骤之前,所述数据更新方法还包括:创建Hive数据库;及获取原始数据源,根据所述原始数据源,在所述Hive数据库中,创建与所述原始数据源的格式相符合的第一数据表;所述除去所述总数据表中的重复数据,获取更新后的总数据表的步骤之后,所述数据更新方法包括:在所述更新后的总数据表中,增加变更字段,获取第一过渡总数据表,以记录所述更新后的总数据表中其他字段的变更时间;及根据所述第一过渡总数据表和所述变更时间,获取同步的总数据表;所述根据所述第一过渡总数据表和所述变更时间,获取同步的数据表的步骤之后,所述数据更新方法包括:在所述同步的总数据表中,增加删除字段,获取第二过渡总数据表,以记录所述同步的总数据表中其他字段的删除情况;及根据所述删除情况,对所述同步的总数据表进行删除,再次获取同步的数据表;所述获取在所述预设时间点之后从所述应用系统同步来的第二数据,并将所述第二数据导入第二数据表的步骤之后,所述数据更新方法还包括:左关联所述第一数据表与所述第二数据表,获取左关联数据表;根据所述左关联数据表,获取所述第一数据表和所述第二数据表的共有的主键分组;用所述共有的主键分组在所述第二数据表中所在行的数据覆盖所述共有的主键分组在所述第一数据表中所在行的数据,获取覆盖后的数据表;及过滤所述第二数据表中的数据,获取单独存在于所述第二数据表中的数据,并将所述第二数据表中的数据插入所述覆盖后的数据表中,获取更新后的数据表。

全文数据:

权利要求:

百度查询: 中国平安财产保险股份有限公司 数据更新方法、数据更新装置、计算机设备及存储介质

免责声明
1、本报告根据公开、合法渠道获得相关数据和信息,力求客观、公正,但并不保证数据的最终完整性和准确性。
2、报告中的分析和结论仅反映本公司于发布本报告当日的职业理解,仅供参考使用,不能作为本公司承担任何法律责任的依据或者凭证。