zoukankan      html  css  js  c++  java
  • scrapy 安装流程和启动

    #Windows平台
    1.  pip3 install wheel #安装后,便支持通过wheel文件安装软件,wheel文件官网:https://www.lfd.uci.edu/~gohlke/pythonlibs
    2.  下载pywin32的wheel文件:执行pip3 install 下载目录pywin32-17.9.0-cp36-cp36m-win_amd64.whl
    3.  下载twisted的wheel文件:http://www.lfd.uci.edu/~gohlke/pythonlibs/#twisted 执行pip3 install 下载目录Twisted-17.9.0-cp36-cp36m-win_amd64.whl pip3 install scrapy 
    4.  pip3 install scrapy

    #Linux平台 1、pip3 install scrapy


    1. 创建project
    scrapy startproject 项目名称

    项目名称
    项目名称/
    - spiders # 爬虫文件
    - chouti.py
    - cnblgos.py
    ....
    - items.py # 持久化
    - pipelines # 持久化
    - middlewares.py # 中间件
    - settings.py # 配置文件(爬虫)
    scrapy.cfg # 配置文件(部署)

    2. 创建爬虫
    cd 项目名称

    scrapy genspider chouti chouti.com
    scrapy genspider cnblgos cnblgos.com

    3. 启动爬虫
    scrapy crawl chouti
    scrapy crawl chouti --nolog
     
  • 相关阅读:
    求连续序列的最大子序列和
    并查集
    分治法求最近点对
    从n个数里面选择m个数
    AcWing
    AcWing
    AcWing
    AcWing
    2017-2018 ACM-ICPC Latin American Regional Programming Contest
    2016-2017 7th BSUIR Open Programming Contest. Semifinal
  • 原文地址:https://www.cnblogs.com/shangchunhong/p/9586104.html
Copyright © 2011-2022 走看看