zoukankan      html  css  js  c++  java
  • JSpider(2):JSpider是什么?


    从名字可以看出,JSpider是一个用Java实现的Web Spider。JSpider官方网站这样说的:

    JSpider is: 
    •    A highly configurable and customizable Web Spider engine. 
    •    Developed under the LGPL Open Source license 
    •    In 
    100% pure Java 
    You can use it to : 
    •    Check your site for errors (internal server errors
    , 
    •    Outgoing and/or internal link checking 
    •    Analyze your site structure (creating a sitemap
    , 
    •    Download complete web sites 
    •    Any task you want
    , if you write a JSpider plugin. 

    JSpider的执行格式如下:

    jspider [URL] [ConfigName]

    URL一定要加上协议名称,如:http://,否则会报错。如果省掉ConfigName,则采用默认配置。

    JSpider的行为是由配置文件具体配置的,比如采用什么插件,结果存储方式等等都在conf\[ConfigName]\目录下设置。JSpider默认的配置种类很少,用途也不大。但是JSpider非常容易扩展,可以利用它开发强大的网页抓取与数据分析工具。要做到这些,需要对JSpider的原理有深入的了解,然后根据自己的需求开发插件,撰写配置文件。

    版权所有,欢迎转载
  • 相关阅读:
    Hostker云主机
    Orz 终于有了自己的博客地址
    BZOJ 1635: [Usaco2007 Jan]Tallest Cow 最高的牛
    BZOJ 1636: [Usaco2007 Jan]Balanced Lineup
    BZOJ 2252: [2010Beijing wc]矩阵距离
    BZOJ 2253: [2010 Beijing wc]纸箱堆叠
    BZOJ 无数据题集合
    BZOJ 1087: [SCOI2005]互不侵犯King
    BZOJ 3236: [Ahoi2013]作业
    POJ2352:Stars
  • 原文地址:https://www.cnblogs.com/xiaotie/p/249761.html
Copyright © 2011-2022 走看看