申请/专利权人：深圳市新国都智盾科技有限公司

申请日：2020-09-24

公开（公告）日：2024-05-17

公开（公告）号：CN112181297B

主分类号：G06F3/06

分类号：G06F3/06;G06F16/182;G06F21/64

优先权：

专利状态码：有效-授权

法律状态：2024.05.17#授权;2024.05.10#专利申请权的转移;2021.01.22#实质审查的生效;2021.01.05#公开

摘要：本发明公开了一种分布式文件切片生成与存储系统及其控制方法。分布式文件切片生成与存储系统包括：切分器模块；DAGService模块，所述DAGService模块用于将所述切片文件定义为MerkleDAG数据结构；通过Layout文件布局器计算切片内容，以填充引用部分和数据部分；Blockstore模块，用于实现块存储，将所述数据部分内的数据编码成数据块进行操作；Datastore模块，所述Datastore模块用于数据存储前的缓存，增加levelDB数据库和Batch缓存，以加速文件切片存储过程；Flatfs模块，所述Flatfs模块用于所述切片文件最终写入磁盘介质，包括对磁盘容量查询和文件读写功能。本发明的技术方案解决相关技术中，节点上的文件切片易被篡改，不能够很好的去重节点上存在的文件分片，以及无法通过多重Hash来唯一识别文件切片的技术问题。

主权项：1.一种分布式文件切片生成与存储系统的控制方法，其特征在于，包括如下步骤：S1，获取源文件相关信息，将源文件以字节流的方式发送给切分器模块；S2，所述切分器模块拿到文件字节流，默认256KB构建文件切片，根据文件属性、大小信息自定义构建Splitter切分器；S3，将所述Splitter切分器传递给DAGService模块，构建MerkleDAG的数据格式；通过Layout文件布局器拆散并组合成一个符合IPLD规范的DAG对象；S4，所述DAGService模块会模拟生成目录对象，用来存放于文件叶子节点之间关系的映射link；S5，初始化Datastore模块，创建batch缓存区，将构建好的DAG对象存入缓存区，加快处理读写文件的速度；S6，将所述DAGService模块中叶子节点文件切片数据通过Blockstore模块，以protobuf序列化的方式构建文件块；S7，将序列化后的文件块放入所述Datastore模块，所述Datastore模块分了两个库进行存储；其中一个是leveldb用来存储关系，也就是MerkleDAG中的cid加密散列值和links的映射；另一个filedb库存储的是cid和rawdata的映射，将关系和数据分开存储；S8，filedb库存储的关系和映射，通过Flatfs模块与存储介质构建关联，确认切片文件存储介质，并创建存储需要的路径文件夹；S9，文件块在写入磁盘前，会创建存储目录；所述目录的生成规则是以cid的值后三位的前两位作为文件夹名称。

全文数据：

权利要求：

百度查询： 深圳市新国都智盾科技有限公司 一种分布式文件切片生成与存储系统及其控制方法

免责声明
1、本报告根据公开、合法渠道获得相关数据和信息，力求客观、公正，但并不保证数据的最终完整性和准确性。
2、报告中的分析和结论仅反映本公司于发布本报告当日的职业理解，仅供参考使用，不能作为本公司承担任何法律责任的依据或者凭证。

阅读全文 双屏查看 官方信息 专利公告 收藏专利 下载PDF 下载WORD