zoukankan      html  css  js  c++  java
  • [Python3网络爬虫开发实战] 1.9.5-Scrapyrt的安装

    Scrapyrt为Scrapy提供了一个调度的HTTP接口,有了它,我们就不需要再执行Scrapy命令而是通过请求一个HTTP接口来调度Scrapy任务了。Scrapyrt比Scrapyd更轻量,如果不需要分布式多任务的话,可以简单使用Scrapyrt实现远程Scrapy任务的调度。

    1. 相关链接

    2. pip安装

    这里推荐使用pip安装,命令如下:

    接下来,在任意一个Scrapy项目中运行如下命令来启动HTTP服务:

    运行之后,会默认在9080端口上启动服务,类似的输出结果如下:

    如果想更换运行端口,可以使用-p参数,如:

    这样就会在9081端口上运行了。

    3. Docker安装

    另外,Scrapyrt也支持Docker。比如,要想在9080端口上运行,且本地Scrapy项目的路径为/home/quotesbot,可以使用如下命令运行:

    这样同样可以在9080端口上监听指定的Scrapy项目。

  • 相关阅读:
    CF140CNew Year Snowmen
    ZR10.1青岛集训三地联考
    CF1228——记一次和紫名失之交臂的CF
    CF1220
    codeforce 382 div2 E —— 树状dp
    codeforce 381 div2
    codeforce 380(div.2)
    Bishops Alliance—— 最大上升子序列
    codeforce 379(div.2)
    模板——BigInteger
  • 原文地址:https://www.cnblogs.com/palace/p/9628080.html
Copyright © 2011-2022 走看看