申请/专利权人:华为技术有限公司
申请日:2022-09-26
公开(公告)日:2024-04-02
公开(公告)号:CN117806842A
主分类号:G06F9/54
分类号:G06F9/54
优先权:
专利状态码:在审-实质审查的生效
法律状态:2024.04.19#实质审查的生效;2024.04.02#公开
摘要:本申请提供了一种数据访问方法、装置及设备,该方法应用于大数据分布式处理系统中的第一工作节点,大数据分布式处理系统包括数据管理节点以及至少一个工作节点,该方法包括:获取第一数据的元数据,第一数据为所述第一工作节点中的第一执行器中的第一任务请求访问的共享数据,第一数据的元数据用于指示第一数据在共享内存池中的存储位置信息,共享内存池包括数据管理节点的内存池以及各工作节点的内存池;根据第一数据的元数据,从共享内存池获取第一数据;将第一数据存储至第一工作节点的内存池,第一工作节点的内存池用于存储第一工作节点中各执行器共享的数据。第一工作节点仅在其内存池中存储一份第一数据,因此可以减少存储资源的消耗。
主权项:1.一种数据访问方法,应用于大数据分布式处理系统中的第一工作节点,所述大数据分布式处理系统包括数据管理节点以及至少一个工作节点,其特征在于,所述方法包括:获取第一数据的元数据,所述第一数据为所述第一工作节点中的第一执行器中的第一任务请求访问的共享数据,所述第一数据的元数据用于指示所述第一数据在共享内存池中的存储位置信息,所述共享内存池包括所述数据管理节点的内存池以及各工作节点的内存池,所述共享内存池用于存储所述大数据分布处理系统中各工作节点共享的数据;根据所述第一数据的元数据,从所述共享内存池获取所述第一数据;将所述第一数据存储至所述第一工作节点的内存池,所述第一工作节点的内存池用于存储所述第一工作节点中各执行器共享的数据。
全文数据:
权利要求:
百度查询: 华为技术有限公司 一种数据访问方法、装置及设备
免责声明
1、本报告根据公开、合法渠道获得相关数据和信息,力求客观、公正,但并不保证数据的最终完整性和准确性。
2、报告中的分析和结论仅反映本公司于发布本报告当日的职业理解,仅供参考使用,不能作为本公司承担任何法律责任的依据或者凭证。