发明名称 | 一种并行的垂直交叉网络数据采集方法及系统 | ||
摘要 | 本发明提供一种并行的垂直交叉网络数据采集方法及系统,方法包括:S1确定采集方式,若是普通URL列表采集方式根据URL列表直接下载待下载网页数据及其元数据,若是垂直交叉采集方式利用交叉关键字列表检索待下载页,并下载该网页数据及其元数据;S2定时更新任务,对已下载的网页中第一层到当前层的所有网页进行扫描检查,当新下载的页面最后修改时间大于已下载的页面最后修改时间时,对该新下载的页面重新进行数据采集,更新网页数据记录。本发明避掉了多线程技术的一些潜在风险和代价,降低了多线程并行采集的潜在风险与代价,可以实现海量数据更稳定、更高效的并行采集,提高了数据读取和查询的效率。 | ||
申请公布号 | CN103258017A | 申请公布日期 | 2013.08.21 |
申请号 | CN201310146080.7 | 申请日期 | 2013.04.24 |
申请人 | 中国科学院计算技术研究所 | 发明人 | 敖翔;何清;庄福振 |
分类号 | G06F17/30(2006.01)I | 主分类号 | G06F17/30(2006.01)I |
代理机构 | 北京律诚同业知识产权代理有限公司 11006 | 代理人 | 祁建国;梁挥 |
主权项 | 一种并行的垂直交叉网络数据采集方法,其特征在于,该方法包括:步骤1,根据配置参数确定采集方式,若是普通URL列表采集方式,则根据URL列表直接下载待下载网页数据及其元数据,若是垂直交叉采集方式,则利用交叉关键字列表检索待下载页,并下载该网页数据及其元数据;步骤2,定时更新任务,对已下载的网页中第一层到当前层的所有网页进行扫描检查,当新下载的页面最后修改时间大于已下载的页面最后修改时间时,对该新下载的页面重新进行数据采集更新网页数据记录。 | ||
地址 | 100190 北京市海淀区中关村科学院南路6号 |