18 “中国大学排名定向爬虫”实例介绍

一、功能描述及程序设计

二、代码实现

"""中国大学排名定向爬虫实例介绍"""

import requests
from bs4 import BeautifulSoup
import bs4


def getHTMLTest(url):

    try:
        r = requests.get(url, timeout=30)
        r.raise_for_status()
        r.encoding = r.apparent_encoding
        return r.text
    except:
        return "getHTMLTest错误"


def fillUnivList(ulist, html):

    soup = BeautifulSoup(html, "html.parser")
    for tr in soup.find('tbody').children:
        # 判断标签是否为bs4.element.Tag
        if isinstance(tr, bs4.element.Tag):
            tds = tr('td')
            # 获得每一个td标签的string值
            ulist.append([tds[0].string, tds[1].string, tds[2].string, tds[3].string])


def printUnivList(ulist, num):

    print("{:^10}	{:^6}	{:^10}	{:^10}".format("排名", "学校名称", "省市", "总分"))
    for i in range(num):
        u = ulist[i]
        print("{:^10}	{:^6}	{:^10}	{:^10}".format(u[0], u[1], u[2], u[3]))


if __name__ == "__main__":
    uinfo = []
    url = "http://www.zuihaodaxue.cn/zuihaodaxuepaiming2016.html"
    html = getHTMLTest(url)
    fillUnivList(uinfo, html)
    printUnivList(uinfo, 20)    # 20代表输出学校数

三、对输出函数优化

1、问题原因

2、解决方法：

填充时指定用中文字符进行填充，chr(12288)为中文空格

def printUnivList2(ulist, num):

    # 定义一个输出模板
    tplt = "{0:^10}	{1:{4}^10}	{2:^10}	{3:^10}"      # {4}代表用第4个值填充
    print(tplt.format("排名", "学校名称", "省市", "总分", chr(12288)))    # chr(12288)代表中文空格
    for i in range(num):
        u = ulist[i]
        print(tplt.format(u[0], u[1], u[2], u[3], chr(12288)))