搜索引擎

Apache Nutch(Java搜索引擎工具) V2.3 官方版
  • Apache Nutch(Java搜索引擎工具) V2.3 官方版

  • 类别:搜索引擎系统: WinAll
  • 大小:7.21M时间:2018-05-05 15:06:08

应用简介

  Apache Nutch是一个开放源代码的Java搜索引擎框架,它提供了运行自己的搜索引擎所需要的全部工具,包括全文搜索和Web爬虫,使用Nutch不仅可以建立自己内部网的搜索引擎,同时也可以针对整个网络建立搜索引擎。

Apache Nutch

【软件特色】

  1、Nutch致力于让每个人能很容易,同时花费很少就可以配置世界一流的Web搜索引擎

  2、每个月取几十亿网页

  3、为这些网页维护一个索引

  4、对索引文件进行每秒上千次的搜索

  5、提供高质量的搜索结果

【功能特点】

  1、支持将起始URL集合注入到Nutch系统之中

  2、支持生成片段文件,其中包含了将要抓取的URL地址

  3、根据URL地址在互联网上抓取相应的内容

  4、解析所抓取到的网页,并分析其中的文本和数据

  5、根据新抓取的网页中的URL集合来更新起始URL集合,并再次进行抓取

  6、同时,对抓取到的网页内容建立索引,生成索引文件存放在系统之中

Apache Nutch

【使用教程】

  1、首先先运行软件,选择File -> Import Project ->选择apache-nutch-1.9文件夹,确定后选择Import project from external model(Eclipse)

  2、一直点击next到结束,成功将项目导入project中去

  3、源码导入工程后,并不能执行完整的爬取。Nutch将爬取的流程切分成很多阶段,每个阶段分别封装在一个类的main函数中。在外面通过Linux Shell调用这些main函数,来完整爬取的流程。下面我们来运行Nutch中最简单的流程:Inject。我们知道爬虫在初始阶段,是需要人工给出一个或多个url,作为起始点(广度遍历树的树根)。Inject的作用,就是把用户写在文件里的种子(一行一个url,是TextInputFormat),插入到爬虫的URL管理文件(crawldb,是SequenceFile)中。

  4、接下来我们按照Nutch默认的配置,需要修改Nutch的配置文件,为插件文件夹指定一个绝对路径,修改conf/nutch-default.xml文件内容,并且保存到工程中

  5、接下来我们就可以开始对指定的网站的信息进行完整的爬取了

【更新日志】

  V1.9更新:

  1、增加了可爬取的数据类型

  2、增加对Web爬虫的管理功能

  3、解决了一些格式上的已知问题

  4、修复了一些bug,优化了软件界面

  5、优化了软件性能

展开 收起

猜你喜欢

热门专题

热门推荐

  • Via浏览器 V6.0.0 安卓版

    Via浏览器 V6.0.0 安卓版

  • 360浏览器APP V10.1.5.750 安卓官方版

    360浏览器APP V10.1.5.750 安卓官方版

  • 夸克2024版本 V7.4.6.681 安卓版

    夸克2024版本 V7.4.6.681 安卓版

  • 夸克浏览器 V7.4.6.681 安卓官方版

    夸克浏览器 V7.4.6.681 安卓官方版

  • 悟空浏览器手机版 V12.6.1 安卓版

    悟空浏览器手机版 V12.6.1 安卓版

  • QQ浏览器手机版 V15.6.7.7030 安卓最新版

    QQ浏览器手机版 V15.6.7.7030 安卓最新版

  • ES文件浏览器 V4.4.2.17 安卓版

    ES文件浏览器 V4.4.2.17 安卓版

  • Microsoft Edge手机版 V130.0.2849.68 最新版

    Microsoft Edge手机版 V130.0.2849.68 最新版

  • UC浏览器手机版 V17.1.8.1349 安卓最新版

    UC浏览器手机版 V17.1.8.1349 安卓最新版

  • 百度手机版 V13.72.0.10 安卓最新版

    百度手机版 V13.72.0.10 安卓最新版

  • 360极速浏览器APP V3.5.4.400 安卓版

    360极速浏览器APP V3.5.4.400 安卓版

  • 欧朋浏览器APP V12.96.0.1 安卓最新版

    欧朋浏览器APP V12.96.0.1 安卓最新版

推荐排名

  • P2PSearcher(种子搜索神器) V3.5 去广告版 1.95M12.3万人在用 P2PSearcher3.5去广告版是一款完全免费的种子资源搜索下载软件,该款软件集资源搜索和下载功能于一身,用户可随心所欲的搜索网络上的各种电影、小说、音乐、视频等资源。

    详情
  • 智谱清言PC版 V1.0.25 官方版 683K2.8万人在用 智谱清言电脑版是北京智谱华章科技有限公司推出的生成式智能助手,基于ChatGLM2模型开发,这个模型由清华大学 KEG实验室和智谱公司于2023年共同训练的语言模型。

    详情
  • 磁力云PC版 V2.8.2 最新免费版 40.74M1万人在用 磁力云电脑版是一款非常专业的BT种子磁力下载工具。该版本是通过在电脑上安装安卓模拟器来实现PC端运行的,它支持bt种子、磁力链接在线预览和高速下载,还可以在线存储在免费的云端服务器上,随地在线预览,极速下载。

    详情
  • P2P资源搜索器免安装版 V3.5 免费版 1.44M9千人在用 P2P资源搜索器是一款功能强大、便捷实用的种子搜索神器,操作非常简单,可以帮你轻松搜索网络资源,还支持在线播放。

    详情
  • Everything(电脑全盘搜索工具) V1.4.1.1015 官方中文版 1.59M7千人在用 Everything是目前主流的基于NTFS文件系统下的全盘搜索软件,它搜索速度快,能够根据不同的条件准确的搜索文件,而且文件本身小巧,便于随身携带。

    详情
  • 百度极速版电脑版 V6.37.0.11 免费PC版 57.05M6千人在用 百度极速版电脑版,流畅体验,不卡顿。头条、快报、网易、凤凰海量新闻资讯应有尽有全网大搜罗,体积更小、操作更快的智能搜索引擎,不只是搜索,更为你打造海量资讯、定制频道的全方位体验。

    详情
  • 光速搜索 V3.2.0.3 最新免费版 11.2M3千人在用 光速搜索是一款小巧极速的桌面以及文件搜索工具,只需嗖的一下就能找到你电脑中的文件,无论这个文件藏在哪个角落里,软件界面清爽,支持各类高级搜索,指引清晰,简单易用。

    详情
  • 33搜帧工具 V0.10 免费版 126.25M2千人在用 33搜帧工具是一款功能十分强大的视频场景素材搜索软件,该软件能够根据用户的文本描述,从而快速获取相关的视频素材内容,是从事视频自媒体行业必备的软件。

    详情

网友评论