Scrapy框架之CrawlSpider

1. CrawlSpider简介与创建

• CrawlSpider其实是Spider的一个子类，Spider是所有爬虫的基类，其设计原则只是为了爬取start_url列表中网页，而从爬取到的网页中提取出的url进行继续的爬取工作使用CrawlSpider更合适。
• 项目创建

1.创建scrapy工程：scrapy startproject projectName
2.创建爬虫文件：scrapy genspider -t crawl 文件名 www.xxx.com
注：此指令对比以前的指令多了 "-t crawl"，表示创建的爬虫文件是基于CrawlSpider这个类的，而不再是Spider这个基类

2. 剖析生成爬虫文件

from scrapy.linkextractors import LinkExtractor
from scrapy.spiders import CrawlSpider, Rule
class CrawldemoSpider(CrawlSpider):
    name = 'crawlDemo'
    #allowed_domains = ['www.qiushibaike.com']
    start_urls = ['http://www.qiushibaike.com/']

    #连接提取器：会去起始url响应回来的页面中提取指定的url
    link = LinkExtractor(allow=r'/8hr/page/d+')
    #rules元组中存放的是不同的规则解析器（封装好了某种解析规则)
    rules = (
        #规则解析器：可以将连接提取器提取到的所有连接表示的页面进行指定规则（回调函数）的解析
        Rule(link, callback='parse_item', follow=True),
    )

    def parse_item(self, response):
        #print(response.url)
        divs = response.xpath('//div[@id="content-left"]/div')
        for div in divs:
            author = div.xpath('./div[@class="author clearfix"]/a[2]/h2/text()').extract_first()
            print(author)

1、LinkExtractor：链接提取器
LinkExtractor(
allow=r'Items/'，# 满足括号中“正则表达式”的值会被提取，如果为空，则全部匹配。
deny=xxx,  # 满足正则表达式的则不会被提取。
restrict_xpaths=xxx, # 满足xpath表达式的值会被提取
restrict_css=xxx, # 满足css表达式的值会被提取
deny_domains=xxx, # 不会被提取的链接的domains。　
 )
 
 2、Rule : 规则解析器。根据链接提取器中提取到的链接，根据指定规则提取解析链接网页中的内容
 Rule(LinkExtractor(allow=r'Items/'), callback='parse_item', follow=True)
 参数：
 　 参数1：指定链接提取器
　  参数2：指定规则解析器解析数据的规则（回调函数）
    参数3：是否将链接提取器继续作用到链接提取器提取出的链接网页中
    
3、rules=( ):指定不同规则解析器。一个Rule对象表示一种提取规则

4、CrawlSpider整体爬取流程：
(1)爬虫文件会根据起始URL，回去改网页内容；
(2)链接提取器会根据指定提取规则将网页的内容链接提取
(3)规则解析器会根据指定解析规则将链接提取器中提取到的链接中的网页内容根据指定的规则进行解析
(4)将解析数据封装到item中，然后提交给管道进行持久化存储