爬虫之xpath、bs4

• 常用xpath表达式回顾

属性定位：
    #找到class属性值为song的div标签
    //div[@class="song"] 
层级&索引定位：
    #找到class属性值为tang的div的直系子标签ul下的第二个子标签li下的直系子标签a
    //div[@class="tang"]/ul/li[2]/a
逻辑运算：
    #找到href属性值为空且class属性值为du的a标签
    //a[@href="" and @class="du"]
模糊匹配：
    //div[contains(@class, "ng")]
    //div[starts-with(@class, "ta")]
取文本：
    # /表示获取某个标签下的文本内容
    # //表示获取某个标签下的文本内容和所有子标签下的文本内容
    //div[@class="song"]/p[1]/text()
    //div[@class="tang"]//text()
取属性：
    //div[@class="tang"]//li[2]/a/@href

• 代码中使用xpath表达式进行数据解析：

1.下载：pip install lxml
2.导包：from lxml import etree

3.将html文档或者xml文档转换成一个etree对象，然后调用对象中的方法查找指定的节点

　　2.1 本地文件：tree = etree.parse(文件名)
                tree.xpath("xpath表达式")

　　2.2 网络数据：tree = etree.HTML(网页内容字符串)
                tree.xpath("xpath表达式")

• 安装xpath插件在浏览器中对xpath表达式进行验证：可以在插件中直接执行xpath表达式

  • 将xpath插件拖动到谷歌浏览器拓展程序（更多工具）中，安装成功

  • 启动和关闭插件 ctrl + shift + x

• 项目需求：获取好段子中段子的内容和作者   http://www.haoduanzi.com

  from lxml import etree
  import requests
  
  url='http://www.haoduanzi.com/category-10_2.html'
  headers = {
          'User-Agent': 'Mozilla/5.0 (Windows NT 6.1; Win64; x64) AppleWebKit/537.36 (KHTML, like Gecko) Chrome/66.0.3359.181 Safari/537.36',
      }
  url_content=requests.get(url,headers=headers).text
  #使用xpath对url_conten进行解析
  #使用xpath解析从网络上获取的数据
  tree=etree.HTML(url_content)
  #解析获取当页所有段子的标题
  title_list=tree.xpath('//div[@class="log cate10 auth1"]/h3/a/text()')
  
  ele_div_list=tree.xpath('//div[@class="log cate10 auth1"]')
  
  text_list=[] #最终会存储12个段子的文本内容
  for ele in ele_div_list:
      #段子的文本内容（是存放在list列表中）
      text_list=ele.xpath('./div[@class="cont"]//text()')
      #list列表中的文本内容全部提取到一个字符串中
      text_str=str(text_list)
      #字符串形式的文本内容防止到all_text列表中
      text_list.append(text_str)
  print(title_list)
  print(text_list)

用xpath爬取小说《三国演义》实例：

from lxml import etree
import requests

url = 'http://www.shicimingju.com/book/sanguoyanyi.html'
headers = {
"User-Agent": "Mozilla/5.0 (Windows NT 10.0; Win64; x64) AppleWebKit/537.36 (KHTML, like Gecko) Chrome/71.0.3578.80 Safari/537.36",
"Connection":"close"
}
url_content = requests.get(url=url,headers=headers).text

tree = etree.HTML(url_content)
href_list = tree.xpath('//div[@class="book-mulu"]//li/a/@href')
new_url = 'http://www.shicimingju.com'
print("开始")
with open('./sanguo_xpath.txt','w',encoding='utf-8') as fp:
    for href in href_list:
        zhangjie_url = new_url + href
        url_zhangjie = requests.get(url=zhangjie_url,headers=headers).text
        zhangjie_tree = etree.HTML(url_zhangjie)
        content_title = zhangjie_tree.xpath('//div[@class="www-main-container www-shadow-card "]/h1/text()')[0]
        content = "".join(zhangjie_tree.xpath('//div[@class="chapter_content"]//text()'))
        fp.write(content_title+"
"+content+"
")
print("结束")

【重点】

    - 问题：往往在进行大量请求发送的时候，经常会报出这一样的一个错误：HTTPConnectionPool（host:XX）Max retries exceeded with url。

    - 原因：

        1.每次数据传输前客户端要和服务器建立TCP连接，为节省传输消耗，默认为keep-alive，即连接一次，传输多次。然而如果连接迟迟不断开的话，则连接池满后则无法产生新的链接对象，导致请求无法发送。

        2.ip被封

        3.请求频率太频繁

    - 解决：如果下列解决未生效，则可以尝试再次执行程序

        1.设置请求头中的Connection的值为close，表示每次请求成功后断开连接

        2.更换请求ip

        3.每次请求之间使用sleep进行等待间隔

import requests
from fake_useragent import UserAgent
from lxml import etree
import random
import time

url = 'http://sc.chinaz.com/jianli/free_%d.html'
ua = UserAgent(verify_ssl=False,use_cache_server=False).random
headers = {
    'User-Agent':ua,
    #保证http请求成功后，立即断开连接，以解决HTTPConnectionPool（host:XX）Max retries exceeded with url的问题
    'Connection': 'close', #该行不写，则会报错
}
#proxy_list = ['101.255.56.201:36501','39.137.69.10:8080','195.29.106.178:58292','120.76.77.152:9999','178.75.1.111:50411','78.156.225.170:41258','193.192.177.196:56480']
for pageNum in range(1,3):
    get_url = format(url%pageNum)
    if pageNum==1:
        get_url = 'http://sc.chinaz.com/jianli/free.html'
    response = requests.get(url=get_url,headers=headers)
    response.encoding = 'utf-8'#处理中文乱码问题
    page_text = response.text
    tree = etree.HTML(page_text)
    div_list = tree.xpath('//div[@id="container"]/div')
    for div in div_list:
        second_url = div.xpath('./a/@href')[0]
        name = div.xpath('./p/a/text()')[0]+'.rar'
        second_page_text = requests.get(url=second_url,headers=headers).text
        second_tree = etree.HTML(second_page_text)
        download_url_list = second_tree.xpath('//div[@class="clearfix mt20 downlist"]/ul/li/a/@href')
        download_url = random.choice(download_url_list)
        data = requests.get(url=download_url,headers=headers).content
        with open(name,'wb') as fp:
            fp.write(data)
            print('下载完毕===>'+name)

#解决HTTPConnectionPool（host:XX）Max retries exceeded with url的问题：
        #time.sleep(3) #延长请求时间，模拟浏览器，否则请求频率太快会请求失败
        #使用代理池
        #设置请求头信息中的Connection为close

.BeautifulSoup解析

• 环境安装

- 需要将pip源设置为国内源，阿里源、豆瓣源、网易源等
   - windows
    （1）打开文件资源管理器(文件夹地址栏中)
    （2）地址栏上面输入 %appdata%
    （3）在这里面新建一个文件夹  pip
    （4）在pip文件夹里面新建一个文件叫做  pip.ini ,内容写如下即可
        [global]
        timeout = 6000
        index-url = https://mirrors.aliyun.com/pypi/simple/
        trusted-host = mirrors.aliyun.com
   - linux
    （1）cd ~
    （2）mkdir ~/.pip
    （3）vi ~/.pip/pip.conf
    （4）编辑内容，和windows一模一样
- 需要安装：pip install bs4
     bs4在使用时候需要一个第三方库，把这个库也安装一下
     pip install lxml

• 基础使用

使用流程：       
    - 导包：from bs4 import BeautifulSoup
    - 使用方式：可以将一个html文档，转化为BeautifulSoup对象，然后通过对象的方法或者属性去查找指定的节点内容
        （1）转化本地文件：
             - soup = BeautifulSoup(open('本地文件'), 'lxml')
        （2）转化网络文件：
             - soup = BeautifulSoup('字符串类型或者字节类型', 'lxml')
        （3）打印soup对象显示内容为html文件中的内容

基础巩固：
    （1）根据标签名查找
        - soup.a   只能找到第一个符合要求的标签
    （2）获取属性
        - soup.a.attrs  获取a所有的属性和属性值，返回一个字典
        - soup.a.attrs['href']   获取href属性
        - soup.a['href']   也可简写为这种形式
    （3）获取内容
        - soup.a.string
        - soup.a.text
        - soup.a.get_text()
       【注意】如果标签还有标签，那么string获取到的结果为None，而其它两个，可以获取文本内容
    （4）find：找到第一个符合要求的标签
        - soup.find('a')  找到第一个符合要求的
        - soup.find('a', title="xxx")
        - soup.find('a', alt="xxx")
        - soup.find('a', class_="xxx")
        - soup.find('a', id="xxx")
    （5）find_all：找到所有符合要求的标签
        - soup.find_all('a')
        - soup.find_all(['a','b']) 找到所有的a和b标签
        - soup.find_all('a', limit=2)  限制前两个
    （6）根据选择器选择指定的内容
               select:soup.select('#feng')
        - 常见的选择器：标签选择器(a)、类选择器(.)、id选择器(#)、层级选择器
            - 层级选择器：
                div .dudu #lala .meme .xixi  下面好多级
                div > p > a > .lala          只能是下面一级
        【注意】select选择器返回永远是列表，需要通过下标提取指定的对象

用bs4爬取《三国演义》代码：

from bs4 import BeautifulSoup
import  requests

headers = {
"User-Agent": "Mozilla/5.0 (Windows NT 10.0; Win64; x64) AppleWebKit/537.36 (KHTML, like Gecko) Chrome/71.0.3578.80 Safari/537.36",
"Connection":"close"
}
url = "http://www.shicimingju.com/book/sanguoyanyi.html"

def get_content(content_url):
    new_url= "http://www.shicimingju.com"
    get_cont_url = new_url + content_url
    print(get_cont_url)
    res = requests.get(url=get_cont_url,headers=headers).text
    new_bs4_obj = BeautifulSoup(res,'lxml')
    ele = new_bs4_obj.find('div',class_='chapter_content')
    content = ele.text
    return content

response = requests.get(url=url, headers=headers)
res_text = response.text
bs4_obj = BeautifulSoup(res_text,'lxml')
a_elements = bs4_obj.select('.book-mulu > ul > li > a')
print(a_elements)
with open('./sanguo_bs4.txt','w',encoding='utf-8') as fp:
    print("开始")
    for a_element in a_elements:
        title = a_element.text
        content_url = a_element['href']
        print(title)
        print(content_url)
        content = get_content(content_url)
        fp.write(title + "
" + content +"
")
print("结束")