发明名称 一种网页去重方法和设备
摘要 本申请公开了一种网页去重方法和设备,包括:提取需要处理的网页的特征码;将所述特征码转换为key值,并在存储空间中查找是否存在所述key值;若存在,判断所述需要处理的网页的字符数与所述存储空间中所述key值对应的网页的字符数之间是否满足预设要求;若判断结果为满足,则确定所述需要处理的网页重复;本申请能实现对内容相同的网页进行有效的去重,同时能节约存储资源,并提高用户的检索体验。
申请公布号 CN105574004A 申请公布日期 2016.05.11
申请号 CN201410532559.9 申请日期 2014.10.10
申请人 阿里巴巴集团控股有限公司 发明人 唐小棚;游永胜
分类号 G06F17/30(2006.01)I 主分类号 G06F17/30(2006.01)I
代理机构 北京鑫媛睿博知识产权代理有限公司 11297 代理人 龚家骅
主权项 一种网页去重方法,其特征在于,包括:提取需要处理的网页的特征码;将所述特征码转换为key值,并在存储空间中查找是否存在所述key值;若存在,判断所述需要处理的网页的字符数与所述存储空间中所述key值对应的网页的字符数之间是否满足预设要求;若判断结果为满足,则确定所述需要处理的网页重复。
地址 英属开曼群岛大开曼资本大厦一座四层847号邮箱