买专利,只认龙图腾
首页 专利交易 科技果 科技人才 科技服务 商标交易 会员权益 IP管家助手 需求市场 关于龙图腾
 /  免费注册
到顶部 到底部
清空 搜索

【发明公布】数据巡检中数据清洗的方法及装置_贝壳找房(北京)科技有限公司_202311585791.4 

申请/专利权人:贝壳找房(北京)科技有限公司

申请日:2023-11-24

公开(公告)日:2024-04-02

公开(公告)号:CN117807062A

主分类号:G06F16/215

分类号:G06F16/215;G06F16/22;G06F16/2455;G06F8/30;G06F8/71

优先权:

专利状态码:在审-实质审查的生效

法律状态:2024.04.19#实质审查的生效;2024.04.02#公开

摘要:本发明实施例提供一种数据巡检中数据清洗的方法及装置,该方法包括:获取数据巡检任务直接依赖的数据源,若数据源为预处理数据源,则进一步获取预处理数据源直接依赖的数据源,直至获取到的数据源均为原始数据源,根据数据巡检任务、预处理数据源及原始数据源的依赖关系构建依赖树;根据依赖树对各个预处理数据源进行数据清洗任务编排,执行各个预处理数据源对应的数据清洗操作,直至数据巡检任务依赖的预处理数据源对应的数据清洗操作完成。本发明实施例实现了根据数据巡检任务进行多轮数据清洗任务的自动化任务编排,提高了数据巡检中数据清洗的灵活性、通用性、可扩展性、可维护性及兼容性,有利于提高数据巡检的效率和质量。

主权项:1.一种数据巡检中数据清洗的方法,其特征在于,包括:获取数据巡检任务直接依赖的数据源,响应于所述数据巡检任务直接依赖的数据源为预处理数据对应的预处理数据源,则进一步获取所述预处理数据源直接依赖的数据源,直至获取到的数据源均为原始数据对应的原始数据源,根据所述数据巡检任务、所述预处理数据源及所述原始数据源的依赖关系,以所述数据巡检任务作为根节点、所述预处理数据源作为中间节点、所述原始数据源作为叶子节点构建依赖树;根据所述依赖树对各个所述预处理数据源进行数据清洗任务编排,根据所述数据清洗任务编排执行各个所述预处理数据源对应的数据清洗操作,直至所述数据巡检任务依赖的所述预处理数据源对应的数据清洗操作完成;其中,在执行各个所述预处理源数据源对应的数据清洗操作时,根据所述预处理数据源的节点依赖情况,对所述预处理数据源直接依赖的所述原始数据源对应的原始数据和或所述预处理数据源直接依赖的其他预处理数据源对应的预处理数据执行数据清洗操作。

全文数据:

权利要求:

百度查询: 贝壳找房(北京)科技有限公司 数据巡检中数据清洗的方法及装置

免责声明
1、本报告根据公开、合法渠道获得相关数据和信息,力求客观、公正,但并不保证数据的最终完整性和准确性。
2、报告中的分析和结论仅反映本公司于发布本报告当日的职业理解,仅供参考使用,不能作为本公司承担任何法律责任的依据或者凭证。