泉州热门景点及景点简介

导入爬虫工具

鼠标右击查看源获取源代码

找到数据进行爬取

import requests
from bs4 import BeautifulSoup
import pandas as pd
from pandas import DataFrame
ur1='https://www.mafengwo.cn/jd/11246/gonglve.html'#打开网页
headers = {'User-Agent':'Mozilla/5.0 (Windows NT 6.3; Win64; x64) AppleWebKit/537.36 (KHTML, like Gecko) Chrome/69.0.3497.100 Safari/537.36'}#
r=requests.get(ur1,headers=headers)#请求网站
r.encoding=r.apparent_encoding#统一编码
data=r.text
soup=BeautifulSoup(data,'html.parser')#使用“美味的汤”工具
print(soup.prettify())#显示网站结构
title=[]
midlle=[]
for i in soup.find_all(class_="title"):#把热门景点放入空列表
    title.append(i.get_text().strip())
for k in soup.find_all(class_="middle"):#把景点简介放入空列表
    midlle.append(k.get_text().strip())
data=[title,midlle]
print(data)