买专利,只认龙图腾
首页 专利交易 科技果 科技人才 科技服务 商标交易 会员权益 IP管家助手 需求市场 关于龙图腾
 /  免费注册
到顶部 到底部
清空 搜索

【发明公布】一种电信用户实时位置数据的流式处理方法_天翼云科技有限公司_202311693625.6 

申请/专利权人:天翼云科技有限公司

申请日:2023-12-11

公开(公告)日:2024-04-09

公开(公告)号:CN117858004A

主分类号:H04W4/02

分类号:H04W4/02;G06F16/215;G06F16/29;G06F16/2455

优先权:

专利状态码:在审-实质审查的生效

法律状态:2024.04.26#实质审查的生效;2024.04.09#公开

摘要:本发明公开了一种电信用户实时位置数据的流式处理方法,其涉及大数据分析处理技术领域,旨在解决大量的商家在使用这个服务时,对服务器及计算资源占用较多,因此不能达到理想效果的问题,其技术方案要点是S1:数据输入,将大量的实时流式数据输入,并对输入的大量实时流式数据进行处理;S2:数据处理,对接收到的数据进行处理;A1:数据预处理;A2:用户实时位置数据与商家订阅位置的匹配;A3:去重功能实现;S3:结果输出;S4:减少内存占用,对于字典中那些较长时间没有更新的记录,启用定时线程,删除缓存字典中的数据。达到了满足了低延时的要求,在硬件资源上减少了服务器占用,而对新增业务进行简单的线性扩展即可的效果。

主权项:1.一种电信用户实时位置数据的流式处理方法,其特征在于:其方法如下:S1:数据输入,将大量的实时流式数据输入,并对输入的大量实时流式数据进行处理;S2:数据处理,对接收到的数据进行处理,具体处理步骤如下:A1:数据预处理:Kafka接收移动实时位置信令OIDD数据,进行数据的清洗后,按照手机尾号0-9创建不同的KafkaTopic并发送相应的数据;A2:用户实时位置数据与商家订阅位置的匹配:从Kafka接收清洗之后的实时流式数据,提取经纬度数据,用Spark程序对经纬度数据使用GeoHash算法计算获得Hash值,再对商家订阅的位置经纬度和距离范围进行匹配,获得满足商家要求的记录,再将这些记录发送到KafkaTopic做下一环节处理;A3:去重功能实现:包含两步,第一步使用两次缓存即队列与字典,实现数据存储功能,第二步利用流式并行处理实现数据去重功能,使用两次缓存即队列与字典,实现数据存储功能;S3:结果输出,根据每个商家的去重时间窗口的长短,使用多线程从M个队列中分别取一定批量记录添加到集合List,转为Stream,与对应的M个Map中的数据做并行比较,当List的数据比较之后,将Set转为Stream,并行发送到需求端;S4:减少内存占用,对于字典中那些较长时间没有更新的记录,启用定时线程,删除缓存字典中的数据。

全文数据:

权利要求:

百度查询: 天翼云科技有限公司 一种电信用户实时位置数据的流式处理方法

免责声明
1、本报告根据公开、合法渠道获得相关数据和信息,力求客观、公正,但并不保证数据的最终完整性和准确性。
2、报告中的分析和结论仅反映本公司于发布本报告当日的职业理解,仅供参考使用,不能作为本公司承担任何法律责任的依据或者凭证。