发明名称 |
一种新闻网页内容的抽取方法 |
摘要 |
本发明新闻网页内容的抽取方法,该方法包括:先将页面解析成树结构,然后观察每个树节点,计算该节点及其子节点中纯文字数、长链接数和短链接数,并根据纯文字数占整个页面中的纯文字数的比例,长链接数和短链接数与纯文字数之间的比例,计算出哪个节点是最底层的包含正文的节点,经过关键词广告及版权声明处理器过滤,从而抽取出正文。 |
申请公布号 |
CN103136312A |
申请公布日期 |
2013.06.05 |
申请号 |
CN201110444156.5 |
申请日期 |
2011.12.27 |
申请人 |
北京麦克斯泰科技有限公司 |
发明人 |
黄靖 |
分类号 |
G06F17/30(2006.01)I |
主分类号 |
G06F17/30(2006.01)I |
代理机构 |
|
代理人 |
|
主权项 |
一种去除噪音信息的新闻网页内容抽取方法,其特征在于,该方法包括以下步骤:解析Html页面,将html转换成标准xml格式,并过滤掉非显示的标记;生成文档树结构(DOMTree)并遍历该计算页面包含的正文数,短链接数和长链接数;一层一层计算每个节点的权重,找到最权重最大的节点,该节点就是包含正文的节点。 |
地址 |
100081 北京市海淀区中关村南大街9号理工科技大厦818室 |