zoukankan      html  css  js  c++  java
  • 【转载】python3安装scrapy之windows32位爬坑

    python3安装scrapy之windows32位爬坑

    原创 2016年11月06日 01:38:08
     

    早就听说scrapy不支持python3,而scrapy作为一款优秀的开源框架,不在新的python上集成一下实在可惜。最近刚好打算开始学习网络爬虫,网上又有那么多教程,so今天就来爬一下这个坑。
    首先当然是安装一下python,官网可以直接安装最新的3.5.2。安装完成以后,可以成功python后在cmd执行一下命令

    pip install scrapy
    • 1

    ok,然后坐等执行结果。年轻人,你以为这就完了么,too young too navie。等待十几分钟后,回头来看,报错了、

    python的lxml报错

    python的scrapy安装another Exception

    word天呐,肿么回事?!twisted下载98%,lxml报Exception,这都是什么鬼咩?
    别急,找寻度娘,原来这些都是运行scrapy所依赖的库。好了,下面是正文,开始爬坑~
    首先度娘,scrapy依赖的库有twisted、lxml,而twisted依赖的库又有zope.interface、pyopenssl。各位看官是不是已经略嫌烦人了,不要急,前途终归是美好滴,但学习的路线总是曲折的~

    一、安装twisted库

    1. 安装zope.interface。
    我们可以先在python环境中执行一下命令 import zope.interface 来确定是否已安装zope.interface,如果未报错,那么衷心祝贺你可以跳过这一步,直接进入下一步。如果报错并出现如下图的问题,那么我们就来解决一下这个坑。
    No Module named 'zope'
    zope.interface这里下载zope.interface。好吧,当你打开链接点击右上角浅绿色按钮Downloads的时候,又傻眼了!
    download zope
    因为zope的下载列表中的文件很显然只支持到py3.4!!!怎么办?那就只能先把文件下载下来,然后看看其对py3.5的适配性是否良好了(捏一把汗!)。这里我们下载最后一个文件,然后双击执行。
    zope安装失败
    好吧,又navie了,于是这种方法方弃之。
    接下来试一下直接安装zope.interface的whl文件。前提需要你的python安装wheel,如果没有安装wheel可以在cmd中执行命令 pip install wheel 来安装一下。我们下载。。。(此处省略一万字)
    zope之python35
    纳尼,zope的whl文件居然有支持py3.5的,可是exe文件却没有,简直。。。折腾半天浪费粮食。好了,我们直接下载上图中选中的whl文件,然后在cmd中执行如下命令

    pip install D:Studyspiderscrapyzope.interface-4.3.2-cp35-cp35m-win32.whl
    • 1

    zope安装成功

    看到Successfully字眼,好吧,zope.interface终于搞定。

    2. 安装pyopenssl。

    这里还是首先下载pyopenssl,打开链接,依旧点击右上角浅绿色按钮Downloads,然后下载列表中的第一个文件。
    下载pyopenssl
    下载完成后,然后老规矩打开cmd执行命令

    pip install D:StudyspiderscrapypyOpenSSL-16.2.0-py2.py3-none-any.whl
    • 1

    然后坐等成功安装完成,好吧,然而往往事与愿违~
    pyopenssl安装失败
    咩黎嘎?无奈再次求助度娘。(万头攒动火树银花之处不必找我,我在度娘温暖的臂弯里)
    怀疑是cryptography库没有安装,于是执行一下命令 pip install cryptography
    could not find a version that satisfied the requirement cryptography>=1.3.4
    安装cryptography成功,并可以看到其版本为1.5.2。于是回头继续安装pyopenssl,执行命令

    pip install D:StudyspiderscrapypyOpenSSL-16.2.0-py2.py3-none-any.whl
    • 1

    pyopenssl安装成功
    好吧,幸福来得太突然,让人猝不及防。果然,还是要静心多思考。next。
    3. 安装twisted。
    依旧到官网下载 twisted安装文件。
    下载twisted16.5
    这里没有找到对应py3.5版本的twisted,所以先直接下载最新的twisted版本16.5。
    我们直接下载列表中的第一项whl文件,下载完成后,在cmd中执行命令:

    pip install D:StudyspiderscrapyTwisted-16.5.0-cp27-cp27m-win_amd64.whl
    • 1

    前排小凳子,坐等结果。。。
    twisted16.5安装失败
    版本不支持,看了一下安装的twisted是64位的。于是继续搞起,找找32位的twisted。
    皇天不负有心人,在这里找到了32位的twisted。于是果断下载下来,执行命令安装。
    twisted15.4下载
    twisted15.4安装失败
    好吧,看来是因为安装的python版本是3.5,而twisted的版本没有匹配到。可是官网最新的版本16.5表示财支持到python2.7版本,而且还是64位的。
    皇阿玛,你憋走,我要哭会哭会、、、
    经过几个小时的折腾,终于发现了人民群众的智慧力量是无穷的,找到一篇文章,里面提供了野生的twisted cp35版本可供下载。
    twisted python3.5版本下载
    好吧,请容许我卖弄一下自己的武斗学问:真真儿是踏破铁鞋无觅处,得来全不费工夫~
    好了,下载完成后执行命令:

    pip install D:StudyspiderscrapyTwisted-16.5.0-cp35-cp35m-win32.whl
    • 1

    twisted python3.5版本成功安装
    久违的Successfully,太想念你了啊!

    二、安装lxml

    首先下载lxml安装文件

    下载lxml cp35版本

    下载完成后执行命令

    pip install D:Studyspiderscrapylxml-3.6.4-cp35-cp35m-win32.whl
    • 1

    lxml cp35 安装成功。

    ok,老实说先在越来越稀罕pip这个功能了~

    三、最后安装scrapy

    万里长城终于走到最后一步了,那么久一鼓作气,来下载scrapy

    下载scrapy

    下载完成后,我们在cmd中执行命令

    pip install D:StudyspiderscrapyScrapy-1.2.1-py2.py3-none-any.whl
    • 1

    time out python安装scrapy

    如果安装过程中出现上图的错误,千万不要担心,那是因为网络原因,下载超时了,这时候呢就多试几遍命令,反正唐僧西天取经最后拿到经书了还有一难呢。

    scrapy安装成功

    呐,最后所有依赖都安装成功了包括scapy。上面的红色部分意思就是说没有成功编译pyDispatcher的wheel文件,但是最后python自动重新安装了pyDispatcher,而且也出现可Successfully字眼。

    那么,接下来的最后的最后,经历了这么多就是测试scrapy是否能正常工作。在cmd中直接输入scrapy,看到如下图所示:

    scrapy测试

    那么,恭喜你,大功告成!

  • 相关阅读:
    <iframe>相关问题
    文字描边
    jquery 设置css margin-left
    uni-app mustache表达式
    Uni-app 响应式像素upx
    Uni-app页面进入和返回
    Uni-app 生命周期
    Sql添加/删除默认值
    Uni-app初体验(创建新路由)
    Uni-app初体验(页面绑定数据)
  • 原文地址:https://www.cnblogs.com/vectors07/p/7978153.html
Copyright © 2011-2022 走看看