爬虫与Python：（三）基本库的使用——扩展:requests爬取阳光电影网源码

要求

本例主要希望读者联系requests的使用，试着用它请求阳光电影网的首页获取页面源码，并在控制台打印出来，请求地址为：http://www.scyky.com/，需要实现的目标如下：

（1）构造一个访问阳光电影网的请求（url , headers）。

（2）输出请求状态码。

（3）输出请求的源码。

（4）将源码打印到控制台。

实现思路

1. 输入网址http://www.scyky.com/，进入阳光电影网首页。
2. 寻找header信息。按【F12】键进入调试模式，切换到【Network】选项卡，选择一个请求的header，并复制相关信息。
3. 分析页面源码，获取编码方式。在网页中右击，在弹出的快捷键菜单中选择【查看网页源码】选项进入源码页面。可以发现，charset是utf-8。
4. 依据获取的信息进行requests编码。

请求源码

import requests

url = 'http://www.scyky.com/'
# 设置请求头
headers = {
    'Accept':'text/html,application/xhtml+xml,application/xml;q=0.9,image/avif,image/webp,*/*;q=0.8',
    'Accept-Encoding':'gzip, deflate',
    'Accept-Language':'zh-CN,zh;q=0.8,zh-TW;q=0.7,zh-HK;q=0.5,en-US;q=0.3,en;q=0.2',
    'Cache-Control':'max-age=0',
    'Connection':'keep-alive',
    'Cookie':'Hm_lvt_e9ddc99418411f9404610f615b91afa5=1634628491,1634628641; Hm_lpvt_e9ddc99418411f9404610f615b91afa5=1634628657; __gads=ID=9c53e50da4011ca3-2203967fb2cc00d6:T=1634628491:RT=1634628491:S=ALNI_MZHlYFvVNl5KojGNMC7Mucdw5TIrg',
     'Host':'www.scyky.com',
    'Upgrade-Insecure-Requests':'1',
    'User-Agent':'Mozilla/5.0 (Windows NT 10.0; Win64; x64; rv:93.0) Gecko/20100101 Firefox/93.0'
}
# 定义一个request对象
req = requests.get(url,headers=headers)
# 获取状态码
print(req.status_code)
# 指定网页的编码方式
req.encoding = 'utf-8'
# 获取网页源码，将req.content返回的文本赋值给html变量，然后打印到控制台
html = req.content
print(html)