python爬取漫画(失败)
一:获取每一章的url网址以及名字:
import re
import urllib
from bs4 import BeautifulSoup
import urllib.request
import urllib.parse
import time
main_web="http://www.kuman55.com"
pic=[] #储存照片
findlist=[]
strname=[] #储存每章漫画的名字
addr=[] #储存每个网站的地址
findTitle=re.compile(r'<a href="(.*)" rel="nofollow">(.*)<span>')
findSource=re.compile(r'<a href=".*')
def collect(web):
response=urllib.request.urlopen(web)
time.sleep(2000)
bs=BeautifulSoup(response.read(),"html")
tag=bs.find(attrs={'class':'view-win-list detail-list-select'})
for item in tag.find_all(name='a',rel='nofollow'):
# 储存地址:获取a标签下的href元素,注意获取到了整个标签,那么只需要用数组中加引号再加标签名字就可以获取到内容
addr.append(str(main_web+item['href']))
item=str(item)
findlist.append(item)
save_info()
def save_info():
for item in findlist:
#可以了,记得要和原先的格式要一样,储存名字
item=re.sub(r'<a href=".*" rel="nofollow">',"",item)
item=re.sub(r'<span>(P)</span></a>',"",item)
strname.append(item)
for i in len(addr):
save_picture(strname[i],addr[i])
def save_picture(name,address):
print("")
# Press the green button in the gutter to run the script.
if __name__ == '__main__':
collect("http://www.kuman55.com/mulu/15762/1-1.html")
# See PyCharm help at https://www.jetbrains.com/help/pycharm/
二:储存漫画图片(这里失败了,因为该网站使用Ajax动态隐藏掉了图片div标签,而且使用Data URI加密,目前还没有解码)
import re
import urllib
import urllib.request
import time
import requests
#进行Data URI编码所用的包
from base64 import b64decode
from bs4 import BeautifulSoup
headers={
'User-Agent': 'Mozilla/5.0 (Windows NT 10.0; Win64; x64) AppleWebKit/537.36 (KHTML, like Gecko) Chrome/85.0.4183.121 Safari/537.36 Edg/85.0.564.68'
}
findsrc=re.compile(r'src="https://p.pstatp.com/origin(.*)"')
img=[]
strings=[]
def save_picture(name,address):
# 导入请求库l
html=requests.get(address)
print(html.text)
response=urllib.request.Request(url=address,headers=headers,method="POST")
time.sleep(2)
res=urllib.request.urlopen(response)
bs=BeautifulSoup(res.read(),"html")
# 使用BeautifulSoup来获取对应的标签的属性值:使用点get,里面再加一个属性值的字符串就好了,ok
strings=str(bs.find(name="img",attrs={"class":"comicimg"}).get('src'))
print(strings)
#解码bs64格式的Data URI
'''
1.pip导入base64的包,这个不用pip下载,pycharm自带
2.将src的前面编码方式和后面的码分离出来,两者使用逗号相连,而且只有一个
3.使用b64decode编码器编译,并储存到字符节数组data里面
4.将其字符集写入文件当中,就会生成所需要的文件(为什么导出来的图片是白板??)
'''
head1,encode=strings.split(',',1)
data=b64decode(encode)
with open("image_src.png","wb") as f:
f.write(data)
f.close()
'''另外一种方法:
1.导入base64下面的decodestring包
2.打开图片文件
3.将码先进行编码,然后转换成字符串
'''
if __name__ == '__main__':
save_picture("照一","http://www.kuman55.com/15762/1171599.html")