zoukankan      html  css  js  c++  java
  • 图片懒加载 -- 爬虫

    图片懒加载

    什么是图片懒加载?

      图片懒加载是一种网页优化技术。图片作为一种网络资源,在被请求时也与普通静态资源一样,将占用网络资源,而一次性将整个页面的所有图片加载完,将大大增加页面的首屏加载时间。为了解决这种问题,通过前后端配合,使图片仅在浏览器当前视窗内出现时才加载该图片,达到减少首屏图片请求数的技术就被称为“图片懒加载”。

    网站一般如何实现图片懒加载技术呢?

      在网页源码中,在img标签中首先会使用一个“伪属性”(通常使用src2,original......)去存放真正的图片链接而并非是直接存放在src属性中。当图片出现到页面的可视化区域中,会动态将伪属性替换成src属性,完成图片的加载。

    案例分析:

      抓取站长素材http://sc.chinaz.com/中的图片数据,通过细致观察页面的结构后发现,网页中图片的链接是存储在了src2这个伪属性中

    代码如下

    import requests
    from lxml import etree
    
    url = 'http://sc.chinaz.com/tupian/gudianmeinvtupian.html'
    headers = {
        'User-Agent': 'Mozilla/5.0 (Macintosh; Intel Mac OS X 10_12_0) AppleWebKit/537.36 (KHTML, like Gecko) Chrome/69.0.3497.100 Safari/537.36',
    }
    # 获取页面文本数据
    response = requests.get(url=url, headers=headers)
    response.encoding = 'utf-8'
    page_text = response.text
    # 解析页面数据(获取页面中的图片链接)
    # 创建etree对象
    tree = etree.HTML(page_text)
    div_list = tree.xpath('//div[@id="container"]/div')
    # 解析获取图片地址和图片的名称
    for div in div_list:
        image_url = div.xpath('.//img/@src2')  # src2伪属性
        image_name = div.xpath('.//img/@alt')
        print(image_url)  # 打印图片链接
        print(image_name)  # 打印图片名称
  • 相关阅读:
    大数据,TB、PB、EB
    localhost,127.0.0.1,本机IP,三者的区别
    git rollback commands
    世界会给这样静等花开的人足够的回报
    柳传志:一个人越是成功,所遭受的委屈也越多!
    大型网站架构之分布式消息队列
    设置 php 上传文件大小
    简单php post请求
    linux下mysql 备份、还原数据库
    Windows下 Apache xdebug
  • 原文地址:https://www.cnblogs.com/wj12312/p/10108786.html
Copyright © 2011-2022 走看看