zoukankan      html  css  js  c++  java
  • 好用的wget命令从下载添加环境变量到各参数详解

    本文是因为(笔者使用的windows系统)使用过好几次wget后,始终存在各种细节问题,于是下定决定细致的研究一下,并记录下其中细节。

    下载与安装

    第一步:下载wget,网络地址:http://downloads.sourceforge.net/gnuwin32/wget-1.11.4-1-setup.exe(这个地址传播较广,可自行搜索)

    第二步:执行wget.exe安装文件,TIPS:网络上说的不能安装在C盘programes files文件夹,经笔者测试不受影响,所以可以任意选择安装位置。

    第三步:找到安装后wget.exe文件所在位置,笔者在:C:Program FilesGnuWin32in,将GNU_HOME = C:Program FilesGnuWin32in添加到系统环境变量中,并在系统变量中再加入;%GNU_HOME%in(前面分号是为了隔离前面添加的变量的),而非用户环境变量,如图红框所示:

    命令详解及测试

    我们从最基本的开始一点点进行学习。

    1.-V,--version 显示软件版本号,也可使用长参数--version,以下同,结果如下:

     2.-h,--help显示软件帮助信息,可查看所有命令及使用简介,结果如图:

    3.-e,--execute=COMMAND 执行一个 “.wgetrc”命令,.wgetrc命令其实是一个参数列表,wgetrc格式参见/etc/wgetrc或~/.wgetrc,直接将软件需要的参数写在一起,这个列表在C:Program FilesGnuWin32etc底下,这是笔者本地路径,wgetrc文件命令都是注释状态,如果要使用需先取消注释。举例为wget -e robots=off URL等同于wget --execute=robots=off URL。参考:http://www.cnblogs.com/HappyThree/archive/2013/02/04/2892413.html。wget默认会根据网站的robots.txt进行操作,使用-e robots=off参数即可绕过该限制;

    4.-o,--output-file=FILE 将软件输出信息保存到文件,你不希望下载信息直接显示在终端而是在一个日志文件,可以使用该命令:
    wget -o download.log URL,等同于wget --output-file=download.log URL

    5.-a,--append-output=FILE将软件输出信息追加到文件,结果如下:

    6.-d,--debug显示输出信息;

    7.-q,--quiet 不显示输出信息;

    8.-i,--input-file=FILE 从文件中取得URL,下载filelist.txt中所包含的链接的所有文件,wget -i filelist.txt,本地须有一个链接列表,必须含如http,http是这样的协议头,不然不识别,最终执行结果如下,会逐行读取文件:

    9.-np, --no-parent,不追溯至父目录。

     

    10.-t,--tries=NUMBER 是否下载次数(0表示无穷次);

    11.-O --output-document=FILE 指定下载目录和文件名;

    12.-nc, --no-clobber 不要覆盖已经存在的文件;当文件存在时会提示:File 'index.html' already there;not retrieving.

    13.-N,--timestamping只下载比本地新的文件;

    14.-T,--timeout=SECONDS 设置超时时间;

    15.-Y,--proxy=on/off 关闭代理;

    16.-nd --no-directories 不建立目录,若下载全站,该值不设置会默认建立以域名为名字的目录,指定则不建立目录;使用-x会强制建立服务器上一模一样的目录,如果使用-nd参数,那么服务器上下载的所有内容都会加到本地当前目录。 

    17.-x,--force-directories 强制建立目录,即便一个文件也会强制建立目录;

    18.HTTP参数设置一些与HTTP下载有关的属性。

    --http-user=USER设置HTTP用户
    --http-passwd=PASS设置HTTP密码
    --proxy-user=USER设置代理用户
    --proxy-passwd=PASS设置代理密码

     

    19.-r,--recursive 下载整个网站、目录(小心使用),防止陷入死循环,也即跟踪链接到外部网站去。

    20.-l,--level=NUMBER 下载层次,防止无限循环,得在知道层次的情况下,否则可能遗漏文件:

    21.-A,--accept=LIST 可以接受的文件类型,可以接受逗号;

    22.-R,--reject=LIST拒绝接受的文件类型,跟上面正好相反,可以接受逗号;

    23.-D,--domains=LIST可以接受的域名,用逗号分隔;

    24.--exclude-domains=LIST拒绝的域名,用逗号分隔,与23相反;

    25.-L,--relative 下载关联链接,指定关联的其他链接,防止无限递归。

    26.--follow-ftp 只下载FTP链接,特殊需求;

    27.-H,--span-hosts 可以下载外面的主机,指定对外面主机是否下载。

    28.-I,--include-directories=LIST允许的目录,在知道目录结构的前提下设置可以下载的。

    29.-X,--exclude-directories=LIST 拒绝的目录,在知道目录结构的前提下设置不可以下载的。
    30.wget可以使用用户设置文件".wgetrc"来读取很多设置,我们这里主要利用这个文件来是设置代理服务器。使用者用什么用户登录,那么什么用户主目录下的".wgetrc"文件就起作用。例如,"root"用户如果想使用".wgetrc"来设置代理服务器,"/root/.wgetrc"就起作用,下面给出一个".wgetrc"文件的内容,读者可以参照这个例子来编写自己的"wgetrc"文件:http-proxy = 111.111.111.111:8080  ftp-proxy = 111.111.111.111:8080。这两行的含义是,代理服务器IP地址为:111.111.111.111,端口号为:8080。第一行指定HTTP协议所使用的代理服务器,第二行指定FTP协议所使用的代理服务器。
    31.-b, --background 启动后转入后台执行;
    32.-v, --verbose 冗长模式(这是缺省设置),-nv, --non-verbose 关掉冗长模式,但不是安静模式;(下图第一个为冗长模式,也即默认;第二个为nv模式,很明显显示信息少的多了)

    33.-F, --force-html 把输入文件当作HTML格式文件对待;

    34.-B, --base=URL 将URL作为在-F -i参数指定的文件中出现的相对链接的前缀,意思是需要下载的目标文件中间所含的相对路径文件。

     

    35.以下三个暂做记录,应该不太常用。

    --sslcertfile=FILE 可选客户端证书
    --sslcertkey=KEYFILE 可选客户端证书的KEYFILE
    --egd-file=FILE 指定EGD socket的文件名

    36.--bind-address=ADDRESS 指定本地使用地址(主机名或IP,当本地有多个IP或名字时使用),本地地址可通过ipconfig /all在控制台查看:

    37.-c, --continue 接着下载没下载完的文件,断点续传;

    38.--progress=TYPE 设定进程条标记,选择下载进度条的形式,合法的type有“dot”和“bar”(默认)两种;

    39.-S, --server-response打印服务器的回应;

    中断cmd正在执行的任务:按 Ctrl+C,退出cmd:exit

    40.--spider 不下载任何东西;

    41.-w, --wait=SECONDS 两次尝试之间间隔SECONDS秒;

    42.--waitretry=SECONDS 在重新链接之间等待1...SECONDS秒;

    43.--random-wait 在下载之间等待0...2*WAIT秒;

    44.-Q, --quota=NUMBER 设置下载的容量限制;

    45.--limit-rate=RATE 限定下载速率
    46.-nH, --no-host-directories 不创建主机目录;
    默认创建主机目录如下:
    47.-P, --directory-prefix=PREFIX 将文件保存到目录 PREFIX/...,也即指定本地保存目录;
    48.--cut-dirs=NUMBER 忽略 NUMBER层远程目录,指定远程目录多少层不下载;
    49.-C, --cache=on/off 允许/不允许服务器端的数据缓存(一般情况下允许);
    50.-E, --html-extension 将所有text/html文档以.html扩展名保存,对下载的文件进行扩展名强制指定,比如远程是.htm的,本地指定为.html;
    51.--ignore-length 忽略 `Content-Length'头域,Content-length:用于描述HTTP消息实体的传输长度;
    52.--header=STRING 在headers中插入字符串 STRING;
    53.--referer=URL 在HTTP请求中包含 `Referer: URL'头;
    54.-s, --save-headers 保存HTTP头到文件;

     

    55.-U, --user-agent=AGENT 设定代理的名称为 AGENT而不是 Wget/VERSION;

    56.--no-http-keep-alive 关闭 HTTP活动链接 (永远链接);

    57.--cookies=off 不使用 cookies;--load-cookies=FILE 在开始会话前从文件 FILE中加载cookie;--save-cookies=FILE 在会话结束后将 cookies保存到 FILE文件中

    58.FTP 选项:

    -nr, --dont-remove-listing 不移走 `.listing'文件
    -g, --glob=on/off 打开或关闭文件名的 globbing机制
    --passive-ftp 使用被动传输模式 (缺省值).
    --active-ftp 使用主动传输模式
    --retr-symlinks 在递归的时候,将链接指向文件(而不是目录)
    59.--delete-after 在完毕后局部删除文件;
    60.-k, --convert-links 转换非相对链接为相对链接;
    61.-K, --backup-converted 在转换文件X之前,将之备份为 X.orig;

     

    62.-m, --mirror 等价于 -r -N -l inf -nr;

    63.-p, --page-requisites 下载显示HTML文件的所有图片;

    命令好多,63个,逐一测试了一遍。留个印象,使用的时候,随用随看随取就好了。中文手册:http://dwz.cn/4QH6aM
  • 相关阅读:
    MVC架构模式
    Promise对象
    Trick:如何去掉html标签点击时的蓝色边框
    动态REM
    Ajax 详解及CORS
    数据预测之BP神经网络具体应用以及matlab代码
    Pearson相关系数
    Java linux lame .wav音频转mp3 并且压缩
    JavaWeb向浏览器返回一个音频流
    Tomcat 运行 idea 编译好的 .class JavaWeb 项目
  • 原文地址:https://www.cnblogs.com/jiangtian/p/6189427.html
Copyright © 2011-2022 走看看