申请/专利权人:广东奡风科技股份有限公司
申请日:2019-12-30
公开(公告)日:2020-05-26
公开(公告)号:CN111198847A
主分类号:G06F16/13(20190101)
分类号:G06F16/13(20190101);G06F16/16(20190101);G06F16/182(20190101)
优先权:
专利状态码:在审-实质审查的生效
法律状态:2020.06.19#实质审查的生效;2020.05.26#公开
摘要:本发明提供了一种适用于大数据集的数据并行处理方法、装置及系统,通过以主数据集的主键列数据为基础进行分片信息的计算,并采用并行处理的方式对多个输入数据集进行分片及合并,可对大量满足条件的数据表同时进行合并,运行效率高,同时并行计算可以在多台服务器中均衡进行,避免单节点的数据处理瓶颈,通过对分片数量参数的设定即可控制整个分片的细度,具有运行资源可控、系统开销少的特点,在硬件配置较低的环境下也可以使用,不会出现内存溢出、系统宕机等问题。
主权项:1.一种适用于大数据集的数据并行处理方法,其特征在于,包括以下步骤:获取主数据集的主键列数据,并对所述主键列数据根据分片数量参数计算得到分片信息;所述分片信息包括分片编号、所述分片编号对应的分片储存位置以及对应的主键列值区间;分别获取多个输入数据集,并行地根据所述分片信息将每一所述输入数据集进行拆分,得到多个从属数据集,并将所述从属数据集保存于对应的分片编号所对应的分片储存位置;分别获取多个所述分片储存位置上的从属数据集,通过所述主数据集的主键列对每一所述分片储存位置上的所有从属数据集进行关联合并,以形成多个输出主数据集。
全文数据:
权利要求:
百度查询: 广东奡风科技股份有限公司 一种适用于大数据集的数据并行处理方法、装置及系统
免责声明
1、本报告根据公开、合法渠道获得相关数据和信息,力求客观、公正,但并不保证数据的最终完整性和准确性。
2、报告中的分析和结论仅反映本公司于发布本报告当日的职业理解,仅供参考使用,不能作为本公司承担任何法律责任的依据或者凭证。