zoukankan      html  css  js  c++  java
  • python爬虫模板

    import requests
    from bs4 import BeautifulSoup
    import bs4
    
    def get_html_text(url):
        try:
            #kv = {'user-agent':'Mozilla/5.0'}
            r = requests.get(url, timeout = 30)
            r.raise_for_status()
            r.encoding = r.apparent_encoding
            return r.text
        except:
            return "crawl error"
    
    
    def fill_info(ulist, html):
        soup = BeautifulSoup(html, 'html.parser')
        for tr in soup.find('tbody').children:
            if isinstance(tr, bs4.element.Tag):
                tds = tr.find_all('td')
                ulist.append([tds[0].string, tds[1].string, tds[2].string])
    
    def print_info(ulist, num):
        for i in range(num):
            u = ulist[i]
            uu = ""
            uu += u[0] + "				"
            uu += u[1] + "				"
            uu += u[2]
            print(uu)
    
    
    if __name__ == "__main__":
        uinfo = []
        url = "http://www.zuihaodaxue.com/zuihaodaxuepaiming2019.html"
        html = get_html_text(url)
        fill_info(uinfo, html)
        print_info(uinfo, 104)
    View Code
    1                清华大学                北京
    2                北京大学                北京
    3                浙江大学                浙江
    4                上海交通大学                上海
    5                复旦大学                上海
    6                中国科学技术大学                安徽
    7                华中科技大学                湖北
    7                南京大学                江苏
    9                中山大学                广东
    10                哈尔滨工业大学                黑龙江
    11                北京航空航天大学                北京
    12                武汉大学                湖北
    13                同济大学                上海
    14                西安交通大学                陕西
    15                四川大学                四川
    16                北京理工大学                北京
    17                东南大学                江苏
    18                南开大学                天津
    19                天津大学                天津
    20                华南理工大学                广东
    21                中南大学                湖南
    22                北京师范大学                北京
    23                山东大学                山东
    23                厦门大学                福建
    25                吉林大学                吉林
    26                大连理工大学                辽宁
    27                电子科技大学                四川
    28                湖南大学                湖南
    29                苏州大学                江苏
    30                西北工业大学                陕西
    31                中国人民大学                北京
    32                华东师范大学                上海
    33                南京航空航天大学                江苏
    34                对外经济贸易大学                北京
    35                南方科技大学                广东
    36                华东理工大学                上海
    37                重庆大学                重庆
    38                南京理工大学                江苏
    39                北京科技大学                北京
    40                东北大学                辽宁
    41                上海大学                上海
    42                北京邮电大学                北京
    42                上海财经大学                上海
    42                中国农业大学                北京
    45                武汉理工大学                湖北
    46                北京交通大学                北京
    46                华中师范大学                湖北
    48                西安电子科技大学                陕西
    49                中央财经大学                北京
    50                北京化工大学                北京
    51                暨南大学                广东
    52                东华大学                上海
    52                兰州大学                甘肃
    52                中南财经政法大学                湖北
    55                宁波诺丁汉大学                浙江
    56                哈尔滨工程大学                黑龙江
    56                华北电力大学                北京
    58                深圳大学                广东
    59                江南大学                江苏
    59                南京师范大学                江苏
    61                北京工业大学                北京
    62                福州大学                福建
    63                北京外国语大学                北京
    63                北京语言大学                北京
    63                中国地质大学(武汉)                湖北
    66                西南交通大学                四川
    67                华中农业大学                湖北
    67                中国海洋大学                山东
    69                南京农业大学                江苏
    70                上海外国语大学                上海
    71                中国矿业大学                江苏
    72                中国地质大学(北京)                北京
    73                东北财经大学                辽宁
    73                西南财经大学                四川
    73                西南大学                重庆
    76                东北师范大学                吉林
    76                南京邮电大学                江苏
    76                中国政法大学                北京
    79                河海大学                江苏
    80                南京信息工程大学                江苏
    81                西北农林科技大学                陕西
    82                中国石油大学(华东)                山东
    83                合肥工业大学                安徽
    84                陕西师范大学                陕西
    85                华南师范大学                广东
    85                江苏大学                江苏
    87                南京工业大学                江苏
    87                中国石油大学(北京)                北京
    89                西北大学                陕西
    89                浙江工业大学                浙江
    91                北京林业大学                北京
    91                湖南师范大学                湖南
    91                浙江师范大学                浙江
    94                首都师范大学                北京
    95                汕头大学                广东
    96                中国传媒大学                北京
    97                杭州电子科技大学                浙江
    98                扬州大学                江苏
    99                安徽大学                安徽
    100                华侨大学                福建
    101                宁波大学                浙江
    101                首都经济贸易大学                北京
    101                西交利物浦大学                江苏
    104                燕山大学                河北
    
    Process finished with exit code 0
    输出
  • 相关阅读:
    Kafka 不停机修改某一个topic数据保存时间
    jvisualvm 工具使用
    jmap命令详解----查看JVM内存使用详情
    C语言计算时间函数 & 理解linux time命令的输出中“real”“user”“sys”的真正含义
    JVM NativeMemoryTracking 分析堆外内存泄露
    java调用shell脚本并传递参数
    top -H -p查看某个进程内部线程占用情况分析: pstack显示每个进程的栈跟踪
    shell-awk 按列求和
    HTML&CSS基础-ps的基本操作
    HTML&CSS基础-清除浮动
  • 原文地址:https://www.cnblogs.com/lwqq3/p/11827960.html
Copyright © 2011-2022 走看看