【发明公布】网站资源获取方法、系统、装置及计算机存储介质_云盾智慧安全科技有限公司_202010912458.X 

申请/专利权人:云盾智慧安全科技有限公司

申请日:2020-09-03

发明/设计人:陶波;何闯;赵士瑞;欧怀谷;王枭卿

公开(公告)日:2020-10-13

代理机构:广州德科知识产权代理有限公司

公开(公告)号:CN111770119A

代理人:万振雄;杨中强

主分类号:H04L29/06(20060101)

地址:100037 北京市西城区阜成门外大街31号6层618A

分类号:H04L29/06(20060101);G06F16/951(20190101)

优先权:

专利状态码:在审-公开

法律状态:2020.10.13#公开

摘要:网站资源获取方法、系统、装置及计算机存储介质,该方法应用于网络资源获取系统;网络资源获取系统分别与内容分发网络的边缘节点和源站存在通信连接;该方法包括:从网络资源获取系统已存储的第一网络资源中查找边缘节点请求访问的目标网络资源;第一网络资源是网络资源获取系统主动从源站中爬取到的;获取一个或多个未查找到的目标网络资源作为待爬取的第二网络资源;从源站中爬取第二网络资源;将爬取到的第二网络资源存储至网络资源获取系统,从而可以无需访问源站,网络资源获取系统为边缘节点提供网络资源,使得源站异常时边缘节点或者客户端都可以获取到网络资源,还可以对漏爬的连接进行补爬。

主权项:1.一种网络资源获取方法,其特征在于,所述方法应用于网络资源获取系统;所述网络资源获取系统分别与内容分发网络的边缘节点和内容分发网络的源站存在通信连接;所述方法包括:从所述网络资源获取系统已存储的第一网络资源中查找所述边缘节点请求访问的目标网络资源;所述第一网络资源是所述网络资源获取系统主动从所述源站中爬取到的;获取一个或多个未查找到的所述目标网络资源作为待爬取的第二网络资源;从所述源站中爬取所述第二网络资源;将爬取到的所述第二网络资源存储至所述网络资源获取系统。

全文数据:

权利要求:

百度查询: 云盾智慧安全科技有限公司 网站资源获取方法、系统、装置及计算机存储介质