一种主题网络爬虫系统的构建方法

专利类型:
发明专利(1)
专利有效性:
无效专利(1)
法律状态:
权利终止(1)
高级筛选:

路标网共为您找到相关结果1

公开(公告)时间
申请时间

一种主题网络爬虫系统的构建方法

发明专利无效专利
  • 申请号:CN201110007710.3
  • 申请人:哈尔滨工程大学
  • 申请日:2011-01-14
  • 主分类号:G06F17/30
  • 公开(公告)日:2011-05-25
  • 公开/公告号:CN102073730A
申请同类专利

摘要:本发明提供的是一种主题网络爬虫系统的构建方法。(1)定义主题初始描述向量,设定相关度初始阀值、初始化URL队列;(2)从初始URL队列中依次获取URL进行爬取;(3)对URL进行文本分析;(4)对URL进行链接分析;(5)计算URL与主题的相关度;(6)将相关度大于相关度阈值的URL加入有序的URL队列,URL依照与主题向量的相关度高低排序,依次爬取,直至队列为空,对于每个爬到的网页,提取其中的子URL,返回到步骤(3);(7)使用遗传算法进行遗传算法最优化;(8)Rocchio反馈模块对主题向量更新,并动态调整相关度阈值,继续爬取网页。本发明不需要事先准备大量的训练文本,速度快,适合处理海量的在线网页数据。

著录信息权利要求说明书PDF全文法律状态引证文献
  • 1
前往
没找到想要的结果?为您推荐专业专利顾问检索  一种主题网络爬虫系统的构建方法 专利,更快更准确
免费
我想查:已帮助11116865位用户进行查询

在售专利  早买早用

热售中更多>

*来源于国家知识产权局数据,仅供参考,专利服务由北京酷爱智慧知识产权代理公司提供