申请/专利权人：北京中科凡语科技有限公司

申请日：2023-06-30

公开（公告）日：2024-04-26

公开（公告）号：CN117931594A

主分类号：G06F11/34

分类号：G06F11/34;G06F16/25;G06F16/27;G06F16/23;G06F16/951;G06F16/958

优先权：

专利状态码：在审-实质审查的生效

法律状态：2024.05.14#实质审查的生效;2024.04.26#公开

摘要：本发明涉及一种用于网页数据的监听处理方法，其通过数据采集模块获取网页数据，并将其同步存储至第一数据库和第二数据库中，再通过监听服务器查询第一数据库中是否有未处理的数据，并将未处理的数据拆分成多组，每种数据处理服务创建多个线程，最后将处理后的数据同步至第二服务器中。该用于网页数据的监听处理方法，通过将数据采集服务和web服务同步数据处理的过程进行了解耦，使得两个服务独立运行，只通过MongoDB数据库进行数据交互，相互独立，将调用数据处理服务多节点部署，并开启多个线程异步地并行处理数据，大大的提高数据处理速度的同时避免了同步处理数据容易因数据异常导致流程阻塞的问题。

主权项：1.一种用于网页数据的监听处理方法，其特征在于：包括以下步骤：S1：通过数据采集模块获取网页数据，并将其存储至数据存储模块中；该模块包括第一数据库和第二数据库；S2：监听服务器查询第一数据库中是否有未处理的数据；如有未处理则跳转至步骤S3，没有则跳转至步骤S5；S3：将未处理的数据拆分成多组，每种数据处理服务创建多个线程；S4：第一数据库中的数据都处理完成后，同步地更新第二数据库中的数据；S5：对第一数据库中的数据持续进行监控。

全文数据：

权利要求：

百度查询： 北京中科凡语科技有限公司 一种用于网页数据的监听处理方法

免责声明
1、本报告根据公开、合法渠道获得相关数据和信息，力求客观、公正，但并不保证数据的最终完整性和准确性。
2、报告中的分析和结论仅反映本公司于发布本报告当日的职业理解，仅供参考使用，不能作为本公司承担任何法律责任的依据或者凭证。

阅读全文 双屏查看 官方信息 专利公告 收藏专利 下载PDF 下载WORD