发明名称 |
一种微博信息抓取方法及装置 |
摘要 |
一种微博信息抓取方法及装置,所述方法包括:获取用户发布的历史微博,并根据所述历史微博的发布时间建立所述历史微博与预设时间点间的映射关系,所述预设时间点通过预设步长选取;将映射历史微博数的偏差在预设范围内的至少两个相邻预设时间点合并为一个时间段;根据每个时间段的时间长度及其映射的每条历史微博的权重确定每个时间段的抓取周期;根据每个时间段的抓取周期以及抓取初始时间点预测用户再次发布微博的时间点,并在该预测时间点上进行微博信息抓取。如此,就可避免空闲期进行信息抓取导致的资源浪费,同时还能保证繁忙期有足够的抓取资源,通过这种变周期的抓取方式就提高了微博信息的抓取效率。 |
申请公布号 |
CN103366017B |
申请公布日期 |
2016.11.23 |
申请号 |
CN201310334840.7 |
申请日期 |
2013.08.02 |
申请人 |
人民搜索网络股份公司 |
发明人 |
张爱琦;崔世起;杨青 |
分类号 |
G06F17/30(2006.01)I |
主分类号 |
G06F17/30(2006.01)I |
代理机构 |
北京集佳知识产权代理有限公司 11227 |
代理人 |
王宝筠 |
主权项 |
一种微博信息抓取方法,其特征在于,所述方法包括:获取用户发布的历史微博,并根据所述历史微博的发布时间建立所述历史微博与预设时间点间的映射关系,所述预设时间点通过预设步长选取;将映射历史微博数的偏差在预设范围内的至少两个相邻预设时间点合并为一个时间段;根据每个时间段的时间长度及其映射的每条历史微博的权重确定每个时间段的抓取周期;根据每个时间段的抓取周期以及抓取初始时间点预测用户再次发布微博的时间点,并在该预测时间点上进行微博信息抓取;其中,预先设置一个合并窗,所述合并窗的窗口大小用于表示能够合并的预设时间点的个数,则所述将映射历史微博数的偏差在预设范围内的至少两个相邻预设时间点合并为一个时间段,包括:统计每个预设时间点映射的历史微博数;判断位于所述合并窗内的预设时间点映射的历史微博数的偏差是否在预设范围内:如果是,则将所述合并窗内的预设时间点合并为一个时间段;如果否,则判断所述合并窗外是否存在未判断预设时间点,如果存在,则将所述合并窗顺序后移一个预设时间点,继续执行所述判断位于所述合并窗内的预设时间点映射的历史微博数的偏差是否在预设范围内的步骤,直至所述合并窗外不存在未判断预设时间点时结束本流程。 |
地址 |
100020 北京市朝阳区东三环中路1号环球金融中心西塔16层 |