申请/专利权人：青岛以萨数据技术有限公司;北京以萨智能技术有限公司;安徽以萨数据技术有限公司

申请日：2020-12-17

公开（公告）日：2024-03-19

公开（公告）号：CN112506960B

主分类号：G06F16/2453

分类号：G06F16/2453;G06F16/2458;G06F16/27

优先权：

专利状态码：有效-授权

法律状态：2024.03.19#授权;2022.04.29#著录事项变更;2021.04.02#实质审查的生效;2021.03.16#公开

摘要：本发明提供了基于ArangoDB引擎的多模型数据存储方法及系统，方法包括：获取外部来源数据，对所述外部来源数据进行预处理后，将预处理后的外部来源数据推给Kafka集群；利用Flink集群监控Kafka集群，并消费Kafka集群中的数据；在Flink集群上构建计算模型，利用该计算模型对消费后的数据进行计算，将计算后的数据分别存储在ArangoDB数据库和Clickhouse数据库集群中；接收API业务接口的业务数据，根据该业务数据从ArangoDB数据库和Clickhouse数据库集群中读取相应的数据。该方法基于ArangoDB为核心引擎，适用于高性能领域需求。

主权项：1.一种基于ArangoDB引擎的多模型数据存储方法，其特征在于，包括以下步骤：获取外部来源数据，对所述外部来源数据进行预处理后，将预处理后的外部来源数据推给Kafka集群；利用Flink集群监控Kafka集群，并消费Kafka集群中的数据；在Flink集群上构建计算模型，利用该计算模型对消费后的数据进行计算，将计算后的数据分别存储在ArangoDB数据库和Clickhouse数据库集群中；接收API业务接口的业务数据，根据该业务数据从ArangoDB数据库和Clickhouse数据库集群中读取相应的数据；所述利用该计算模型对消费后的数据进行计算，将计算后的数据分别存储在ArangoDB数据库和Clickhouse数据库集群中具体包括：使用Zookeeper集群对Kafka集群中的服务器进行管理，其中Zookeeper集群的主服务器通过以下任意一种方式选举得到：定义Zookeeper集群中事务ID最大的服务器为主服务器；定义Zookeeper集群中选举ID最大的服务器为主服务器；所述方法将基础搜索放在Clickhouse数据库集群，ArangoDB数据库用来进行关系计算；所述计算模型通过以下方法构建：在Flink集群上创建StreamExecutionEnvironment，调用相应的Source算子创建原始的DataStream；调用零到多次转换算子，生成零到多次DataStream；调用Sink，并提交给JobManager，由JobManager进行优化后，生成所述计算模型。

全文数据：

权利要求：

百度查询： 青岛以萨数据技术有限公司;北京以萨智能技术有限公司;安徽以萨数据技术有限公司 基于ArangoDB引擎的多模型数据存储方法及系统

免责声明
1、本报告根据公开、合法渠道获得相关数据和信息，力求客观、公正，但并不保证数据的最终完整性和准确性。
2、报告中的分析和结论仅反映本公司于发布本报告当日的职业理解，仅供参考使用，不能作为本公司承担任何法律责任的依据或者凭证。

阅读全文 双屏查看 官方信息 专利公告 收藏专利 下载PDF 下载WORD