发明名称 |
一种改进的基于文档结构的文档相似性度量方法 |
摘要 |
本发明涉及一种改进的基于文档子主题结构的文档相似性度量方法,属于语言的计算机处理和信息检索技术领域。针对传统相似性度量方法丢失了词语在文档各个部分的分布信息这个缺点以及利用最优匹配的基于文档子主题结构的方法只允许子主题之间一对一匹配的缺点。本发明所述的方法利用文档结构分析方法分别得到所述两个文档A和B的子主题结构,然后通过构建一个带权二部图G并根据求解线性规划的方法求解其货物运输距离EMD(A,B),最后根据1-EMD(A,B)得到文档A和B之间的相似度值。本发明允许文档子主题之间在一定约束条件下进行多对多匹配,从而提高了文档相似性判断的准确度,同时,该方法具有更好的鲁棒性。 |
申请公布号 |
CN1828610A |
申请公布日期 |
2006.09.06 |
申请号 |
CN200610072588.7 |
申请日期 |
2006.04.13 |
申请人 |
北大方正集团有限公司;北京大学;北京北大方正技术研究院有限公司 |
发明人 |
万小军;彭宇新;杨建武;吴於茜;陈晓鸥 |
分类号 |
G06F17/30(2006.01);G06F17/27(2006.01) |
主分类号 |
G06F17/30(2006.01) |
代理机构 |
北京英赛嘉华知识产权代理有限责任公司 |
代理人 |
田明;王达佐 |
主权项 |
1、一种改进的基于文档结构的文档相似性度量方法,该方法包括以下步骤:(1)对于待比较的两个文档A和B,利用文档结构分析方法分别得到所述两个文档A和B的子主题结构;(2)根据文档A和B的子主题结构信息构建一个带权二部图G,其中每个顶点带有自身的权重,任两个分属A和B的子主题之间利用传统相似性度量方法计算语义距离;(3)在建立的带权图G中,根据求解线性规划的方法求解其货物运输距离EMD(A,B);(4)根据1-EMD(A,B)得到文档A和B之间的相似度值。 |
地址 |
100871北京市海淀区成府路298号方正大厦 |