买专利,只认龙图腾
首页 专利交易 科技果 科技人才 科技服务 商标交易 会员权益 IP管家助手 需求市场 关于龙图腾
 /  免费注册
到顶部 到底部
清空 搜索

【发明授权】一种提升基于ES的日志系统性能的索引分配方法及装置_中国农业银行股份有限公司_201911232250.7 

申请/专利权人:中国农业银行股份有限公司

申请日:2019-12-04

公开(公告)日:2024-02-23

公开(公告)号:CN110990366B

主分类号:G06F16/18

分类号:G06F16/18;G06F16/182;G06F16/13

优先权:

专利状态码:有效-授权

法律状态:2024.02.23#授权;2020.05.05#实质审查的生效;2020.04.10#公开

摘要:本发明公开了一种提升基于ES的日志系统性能的索引分配方法及装置,方法包括:索引分析模块实时动态收集ES集群中的索引信息,并基于索引信息,通过索引拆分算法与合并算法确定出索引分配策略,其中,索引分配策略包括:索引拆分策略或索引合并策略;配置中心为日志分发集群提供包括索引名称和索引分配策略的配置信息,日志分发集群中的每个节点获取索引的配置信息,在ES集群接收到日志后根据索引名称将日志写入指定的索引中。本发明能够保证索引容量在ES节点上均匀分布,从而确保ES集群各个节点工作负载均衡。

主权项:1.一种提升基于ES的日志系统性能的索引分配方法,其特征在于,包括:索引分析模块实时动态收集ES集群中的索引信息,并基于所述索引信息,通过索引拆分算法与合并算法确定出索引分配策略,其中,索引分配策略包括:索引拆分策略或索引合并策略;配置中心为日志分发集群提供包括索引名称和所述索引分配策略的配置信息;所述日志分发集群中的每个节点获取索引的所述配置信息;在ES集群接收到日志后根据所述索引名称将日志写入指定的索引中;其中,所述拆分算法包括:步骤1:当时,否则SplitNum=0,跳转到步骤3;步骤2:步骤3:返回IndexName,ShardNum,SplitNum;其中,IndexName为索引名,IndexSize为过去一段时间索引的平均大小,ShardNum为当前索引的分片数,N为ES集群节点数,R为索引副本数,ShardSize为最大分片大小,SplitNum为索引拆分的子索引数,为0表示不拆分;其中,所述合并算法包括:步骤1:当时,mergeMode=d,跳转到步骤5,否则跳转步骤2;步骤2:当时,mergeMode=w,跳转到步骤5,否则跳转步骤3;步骤3:当时,mergeMode=m,跳转到步骤5,否则跳转步骤4;步骤4:当时,mergeMode=y,跳转到步骤5,否则跳转步骤5;步骤5:返回IndexName,ShardNum,mergeMode;其中,IndexName为索引名,IndexSize为过去一段时间索引的平均大小,ShardNum为当前索引的分片数,N为ES集群节点数,R为索引副本数,ShardSize为最大分片大小,mergeMode表示按照天、周、月、年合并索引,取值为d,w,m,y。

全文数据:

权利要求:

百度查询: 中国农业银行股份有限公司 一种提升基于ES的日志系统性能的索引分配方法及装置

免责声明
1、本报告根据公开、合法渠道获得相关数据和信息,力求客观、公正,但并不保证数据的最终完整性和准确性。
2、报告中的分析和结论仅反映本公司于发布本报告当日的职业理解,仅供参考使用,不能作为本公司承担任何法律责任的依据或者凭证。