zoukankan      html  css  js  c++  java
  • 正则解析

    import requests
    import re
    import os
    if __name__ == '__main__':
        # 创建一个文件夹,用来保存所有的图片
        if not os.path.exists('./qiutuLibs'):
            os.mkdir('./qiutuLibs')
    
        url = 'https://www.qiushibaike.com/imgrank/'
        headers = {
            'User-Agent': 'Mozilla/5.0 (Windows NT 10.0; Win64; x64) AppleWebKit/537.36 (KHTML, like Gecko) Chrome/81.0.4044.138 Safari/537.36'
        }
    
        # 使用通用爬虫对url对应的一整张页面进行爬取
        page_text = requests.get(url=url,headers=headers).text
    
        # 使用聚焦爬虫将页面中所有的图片进行解析/提取
        ex = '<div class="thumb">.*?<img src="(.*?)" alt.*?</div>'
        img_src_list = re.findall(ex,page_text,re.S)
        print(img_src_list)
        for src in img_src_list:
            # 拼接出一个完整的图片url
            src = 'https:' + src
            # 请求到了图片的二进制数据
            img_data = requests.get(url=src,headers=headers).content
    
            #生成图片名称
            img_name = src.split('/')[-1]
    
            #图片存储的路径
            imgPath = './qiutuLibs/' + img_name
    
            with open(imgPath,'wb') as fp:
                fp.write(img_data)
                print(img_name,'下载成功!')
    import requests
    import re
    import os
    if __name__ == '__main__':
        # 创建一个文件夹,用来保存所有的图片
        if not os.path.exists('./qiutuLibs'):
            os.mkdir('./qiutuLibs')
    
        headers = {
            'User-Agent': 'Mozilla/5.0 (Windows NT 10.0; Win64; x64) AppleWebKit/537.36 (KHTML, like Gecko) Chrome/81.0.4044.138 Safari/537.36'
        }
    
        # 设置一个通用的url模板
        url = 'https://www.qiushibaike.com/imgrank/page/%d/'
        #pageNum = 1
    
        for pageNum in range(1,4):
            # 对应页码的url
            new_url = format(url%pageNum)
    
            # 使用通用爬虫对url对应的一整张页面进行爬取
            page_text = requests.get(url=new_url,headers=headers).text
    
            # 使用聚焦爬虫将页面中所有的图片进行解析/提取
            ex = '<div class="thumb">.*?<img src="(.*?)" alt.*?</div>'
            img_src_list = re.findall(ex,page_text,re.S)
            print(img_src_list)
            for src in img_src_list:
                # 拼接出一个完整的图片url
                src = 'https:' + src
                # 请求到了图片的二进制数据
                img_data = requests.get(url=src,headers=headers).content
    
                #生成图片名称
                img_name = src.split('/')[-1]
    
                #图片存储的路径
                imgPath = './qiutuLibs/' + img_name
    
                with open(imgPath,'wb') as fp:
                    fp.write(img_data)
                    print(img_name,'下载成功!')
  • 相关阅读:
    MYSQL 神奇的操作insert into test select * from test;
    mysql排序字段为空的排在最后面
    Redis有效时间设置及时间过期处理
    Dom4j 使用简介
    ASP.NET中使用多个runat=server form(转)
    谨以此文献给才毕业25年的朋友(转)
    门户网站
    庄思浩和BEA公司
    是什么限制了我们面向对象(的开发) (转)
    模态窗口和非模态窗口
  • 原文地址:https://www.cnblogs.com/nanjo4373977/p/12936521.html
Copyright © 2011-2022 走看看