发明名称 | 一种测试网络爬虫的方法及系统 | ||
摘要 | 本申请实施例公开了一种测试网络爬虫的方法及系统,所述方法包括:第一服务器配置预设数量的顶级域名,并将所述顶级域名设置为指向第二服务器的IP地址;网络爬虫服务器读取所述顶级域名并根据所述顶级域名扩展出海量域名;网络爬虫服务器遍历所述海量域名,并针对每个域名向第二服务器发起抓取请求;第二服务器选取网站,并将所述网站提供给网络爬虫服务器抓取。本申请实施例公开的测试网络爬虫的方法及系统,可以在不对真实网站形成打扰的情况下,检测网络爬虫抓取海量网站页面时的工作性能。 | ||
申请公布号 | CN105656707A | 申请公布日期 | 2016.06.08 |
申请号 | CN201410655647.8 | 申请日期 | 2014.11.18 |
申请人 | 阿里巴巴集团控股有限公司 | 发明人 | 王辉 |
分类号 | H04L12/26(2006.01)I | 主分类号 | H04L12/26(2006.01)I |
代理机构 | 北京三友知识产权代理有限公司 11127 | 代理人 | 党晓林;李永强 |
主权项 | 一种测试网络爬虫的方法,其特征在于,包括:第一服务器配置预设数量的顶级域名,并将所述顶级域名设置为指向第二服务器的IP地址;网络爬虫服务器读取所述顶级域名并根据所述顶级域名扩展出海量域名;网络爬虫服务器将存储的DNS服务器地址设置为所述第一服务器的地址;网络爬虫服务器遍历所述海量域名,并针对每个域名向第一服务器发起所述域名到第二服务器IP地址的转换请求;网络爬虫服务器接收第一服务器发来的根据所述域名转换的第二服务器IP地址,并根据所述第二服务器的IP地址对第二服务器发起抓取请求;第二服务器选取网站,并将所述网站提供给网络爬虫服务器抓取。 | ||
地址 | 英属开曼群岛大开曼 |