买专利,只认龙图腾
首页 专利交易 科技果 科技人才 科技服务 商标交易 会员权益 IP管家助手 需求市场 关于龙图腾
 /  免费注册
到顶部 到底部
清空 搜索

【发明公布】一种全链路的数据缓慢变化监测方法、装置、设备及介质_中电通商数字技术(上海)有限公司_202311814404.X 

申请/专利权人:中电通商数字技术(上海)有限公司

申请日:2023-12-26

公开(公告)日:2024-03-22

公开(公告)号:CN117743313A

主分类号:G06F16/215

分类号:G06F16/215;G06F16/21;G06F16/22;G06F16/2458;G06F16/28

优先权:

专利状态码:在审-实质审查的生效

法律状态:2024.04.09#实质审查的生效;2024.03.22#公开

摘要:本申请公开了一种全链路的数据缓慢变化监测方法、装置、设备及介质,涉及数据监测领域,包括:采集目标数据源的若干数据仓库中的初始数据,并配置数据字典;基于数据字典判断初始数据对应的数据集是否首次加载,将数据集分为首次加载数据集和历史加载数据集,并筛选历史加载数据集中的目标数据;确定目标数据的数据类型,将不同数据集中同类型的目标数据映射为标准类型数据,并映射至目标数据集中;基于标准类型数据确定清洗策略并进行清洗生成清洗后数据,以写入目标拉链表中。对传统数据拉链进行优化,增加跨数据库的能力,提升查询效率;增加数据类型适应的能力,高效实现数据的一致性;增加数据链路监控能力,及时精准的记录数据历史的变化。

主权项:1.一种全链路的数据缓慢变化监测方法,其特征在于,包括:采集目标数据源的若干预设数据仓库中的初始数据,并根据所述初始数据配置数据字典;基于所述数据字典判断所述初始数据对应的数据集是否为首次加载,根据判断结果将所述数据集分类为首次加载数据集和历史加载数据集,并筛选所述历史加载数据集中的目标数据;所述目标数据为基于所述历史加载数据集对应的历史数据确定的所述历史加载数据集中的新增数据;确定所述目标数据的数据类型,利用对象关系映射技术将不同数据集中同类型的所述目标数据映射为标准类型数据,并利用预设对象匹配方法将所述标准类型数据映射至目标数据集中;基于所述标准类型数据的数据类型确定对应的清洗策略,并利用所述清洗策略对所述标准类型数据进行数据清洗生成清洗后数据,以将所述清洗后数据写入目标拉链表中。

全文数据:

权利要求:

百度查询: 中电通商数字技术(上海)有限公司 一种全链路的数据缓慢变化监测方法、装置、设备及介质

免责声明
1、本报告根据公开、合法渠道获得相关数据和信息,力求客观、公正,但并不保证数据的最终完整性和准确性。
2、报告中的分析和结论仅反映本公司于发布本报告当日的职业理解,仅供参考使用,不能作为本公司承担任何法律责任的依据或者凭证。