zoukankan      html  css  js  c++  java
  • 39.爬虫管理模块总结

    Scrapy 爬虫项目管理:
    Scrapyd、scrapyd-client、Gerapy、spiderkeeper

    ————————————————————————————————————————————————————————————————————————————————————————————————————————————————————————————————————————————————————————————————————————————————————————————————
    1.scrapyd 是一个用于部署和运行scrapy项目的工具,通过它,可将写好的项目放到云主机并通过API控制运行。

    ————————————————————————————————————————————————————————————————————————————————————————————————————————————————————————————————————————————————————————————————————————————————————————————————

    2.scrapyd-client 

    将项目代码部署打包 scrapyd-deploy -h

    ————————————————————————————————————————————————————————————————————————————————————————————————————————————————————————————————————————————————————————————————————————————————————————————————

    3.Gerapy

    Gerapy 是一个Scrapy分布式管理模块。

    ————————————————————————————————————————————————————————————————————————————————————————————————————————————————————————————————————————————————————————————————————————————————————————————————

    4.Spiderkeeper 可对项目进行定时管理及可查看日志log

  • 相关阅读:
    【BZOJ4520】[Cqoi2016]K远点对 kd-tree+堆
    【BZOJ2843】极地旅行社 离线+树链剖分+树状数组
    【BZOJ3251】树上三角形 暴力
    SQL学习笔记三(补充-3)之MySQL完整性约束
    SQL学习笔记三(补充-2)之MySQL数据类型
    SQL学习笔记三(补充-1)之MySQL存储引擎
    SQL学习笔记二之MySQL的数据库操作
    SQL学习笔记一之初识数据库
    深入理解Python中的元类(metaclass)
    Web安全之BurpSuite抓取HTTPS请求
  • 原文地址:https://www.cnblogs.com/lvjing/p/9836398.html
Copyright © 2011-2022 走看看