发明名称 | 一种网页去重方法和设备 | ||
摘要 | 本申请公开了一种网页去重方法和设备,包括:提取需要处理的网页的特征码;将所述特征码转换为key值,并在存储空间中查找是否存在所述key值;若存在,判断所述需要处理的网页的字符数与所述存储空间中所述key值对应的网页的字符数之间是否满足预设要求;若判断结果为满足,则确定所述需要处理的网页重复;本申请能实现对内容相同的网页进行有效的去重,同时能节约存储资源,并提高用户的检索体验。 | ||
申请公布号 | CN105574004A | 申请公布日期 | 2016.05.11 |
申请号 | CN201410532559.9 | 申请日期 | 2014.10.10 |
申请人 | 阿里巴巴集团控股有限公司 | 发明人 | 唐小棚;游永胜 |
分类号 | G06F17/30(2006.01)I | 主分类号 | G06F17/30(2006.01)I |
代理机构 | 北京鑫媛睿博知识产权代理有限公司 11297 | 代理人 | 龚家骅 |
主权项 | 一种网页去重方法,其特征在于,包括:提取需要处理的网页的特征码;将所述特征码转换为key值,并在存储空间中查找是否存在所述key值;若存在,判断所述需要处理的网页的字符数与所述存储空间中所述key值对应的网页的字符数之间是否满足预设要求;若判断结果为满足,则确定所述需要处理的网页重复。 | ||
地址 | 英属开曼群岛大开曼资本大厦一座四层847号邮箱 |