zoukankan      html  css  js  c++  java
  • 爬虫(GET)——add_header()和get_header()

     1 import urllib.request
     2 import random
     3 
     4 url = "http://www.baidu.com/"
     5 
     6 # 可以是User-Agent列表,也可以是代理列表
     7 ua_list = [
     8     "Mozilla/5.0 (Macintosh; Intel Mac OS X 10.6; rv2.0.1) Gecko/20100101 Firefox/4.0.1",
     9     "Mozilla/5.0 (Windows NT 6.1; RV2.0.1) Gecko/20100101 Firefox/4.0.1",
    10     "Opera/9.80 (Windows NT 6.1; U; en) Presto/2.8.131 Version/11.11"
    11     "Mozilla/5.0 (Windows NT 10.0; WOW64) AppleWebKit/537.36 (KHTML, like Gecko) Chrome/66.0.3359.181 Safari/537.36"
    12 ]
    13 
    14 # 在User-Agent列表里随机选择一个
    15 user_agent = random.choice(ua_list)
    16 
    17 # 构造一个请求
    18 request = urllib.request.Request(url)
    19 
    20 # 添加/修改 一个HTTP报头
    21 request.add_header("User-Agent", user_agent)
    22 
    23 # 获取一个已有的HTTP报头值,!!只能是第一个字母大写,其他字母小写!!
    24 
    25 print(request.get_header("User-agent"))

     工具:python3

  • 相关阅读:
    项目质量管理
    项目成本管理
    项目进度管理
    项目范围管理
    项目整体管理
    项目立项管理
    信息系统项目管理基础
    信息化和信息系统
    linux(3)
    Patorjk
  • 原文地址:https://www.cnblogs.com/gaoquanquan/p/9085126.html
Copyright © 2011-2022 走看看