zoukankan      html  css  js  c++  java
  • pycharm下打开、执行并调试scrapy爬虫程序

    1. 首先得有一个Scrapy项目,我在Desktop上新建一个Scrapy的项目叫test,在Desktop目录打开命令行,键入命令:scrapy startproject test1 


      1 

      目录结构如下: 

      1 
      1 
      1 
    2. 打开Pycharm,选择open 


      1 
    3. 选择项目,ok 

      1
    4. 打开如下界面之后,按alt + 1, 打开project 面板 

      1
      2 
    5. 在test1/spiders/,文件夹下,新建一个爬虫spider.py, 注意代码中的name="dmoz"。这个名字后面会用到。 

      1
    6. 在test1目录和scrapy.cfg同级目录下面,新建一个begin.py文件(便于理解可以写成main.py),注意箭头2所指的名字和第5步中的name='dmoz' 名字是一样的。

        from scrapy import cmdline
    
        cmdline.execute("scrapy crawl dmoz".split())
    • 1
    • 2
    • 3
    • 1
    • 2
    • 3
    1


    7. 上面把文件搞定了,下面要配置一下pycharm了。点击Run->Edit Configurations

    1


    8. 新建一个运行的python模块 

    1


    9. Name:改成spider; script:选择刚才新建的那个begin.py文件;Working Direciton:改成自己的工作目录 
    1
    10. 至此,大功告成了,点击下图,右上角的按钮就能运行了。 
    1

    调试

    可以在其他代码中设置断点,就可以debug运行


    Paste_Image.png

    转载1:http://www.jianshu.com/p/f85120fcbca0

    转载2:http://blog.csdn.net/wangsidadehao/article/details/52911746

  • 相关阅读:
    cout 格式化输出
    CreateEvent的用法
    深入理解CRITICAL_SECTION
    const型类成员
    用 const 限定类的成员函数
    C++文件读写详解(ofstream,ifstream,fstream)
    C++中回调函数(CallBack)的使用
    SetTimer函数的用法
    CString转换成int CString类相应函数
    自己设计并制作了一个自己主动温度控制系统
  • 原文地址:https://www.cnblogs.com/curo0119/p/9193342.html
Copyright © 2011-2022 走看看