zoukankan      html  css  js  c++  java
  • PHP获取HTML内容及动态渲染js加载内容

      写爬虫的时候,使用guzzle异步并发的get请求真的好用,可以快速爬取,及时PHP不是多线程的,却能使用协程实现异步并发-用户态的多线程,也有时候,请求地址返回的页面很多待执行的JavaScript代码,数据需要动态渲染上去,这里有个简单的方法

    就是使用querylist,用了这个扩展也可以不再依赖php的dom解析工具-simpledom,也自带了远程获取功能。

    1.安装

    安装querylist

    composer require jaeger/querylist

    安装phantomjs

    composer require jaeger/querylist-phantomjs  //PHP版本必须 >=7.0

    下载对应你电脑系统的PhantomJS二进制文件,放到电脑任意路径,下面会用到这个路径,下载页面直达:http://phantomjs.org/download.html

    2.使用

    Linux下示例:

    use QLQueryList;
    use QLExtPhantomJs;
    $ql = QueryList::getInstance();
    // 安装时需要设置PhantomJS二进制文件路径
    $ql->use(PhantomJs::class,'/usr/local/bin/phantomjs');
    //or Custom function name
    $ql->use(PhantomJs::class,'/usr/local/bin/phantomjs','browser');

    Windows下示例:

    $ql->use(PhantomJs::class,'C:/phantomjs/bin/phantomjs.exe');
    $html = $ql->browser('https://m.toutiao.com')->getHtml();
    print_r($html);

    相关文档:

    https://doc.querylist.cc/

    示例:

    检索书籍在百度的搜索排行榜,直接curl发送get请求获取到的html是木有数据的,因为搜索结果页是异步JavaScript获取的。

    <?php
    
    // 设置脚本超时
    set_time_limit(0);
    // 内存限制
    ini_set('memory_limit', '2014M');
    // 第三方库
    require_once('./vendor/autoload.php');
    use QLQueryList;
    use QLExtPhantomJs;
    // 获取搜索结果
    $book_name = '我的贴身校花';
    $ql = QueryList::getInstance();
    $ql->use(PhantomJs::class,'D:webserverwwwphantomjs.exe');
    $html = $ql->browser('https://m.baidu.com/s?word='.urlencode($book_name))->getHtml();
    $z = $ql->find('.c-result-content:eq(0)')->find('.c-color-gray:eq(0)')->texts();
    $z = $z->all();
    file_put_contents('./check.log', $v.' ==> '.current($z)."
    ", FILE_APPEND);

    搜索截图:

    ---------------------
    作者:qq_42413925
    来源:CSDN
    原文:https://blog.csdn.net/qq_42413925/article/details/80619697
    版权声明:本文为博主原创文章,转载请附上博文链接!

  • 相关阅读:
    Sql 四大排名函数(ROW_NUMBER、RANK、DENSE_RANK、NTILE)(转载)
    sql 去掉 空格
    sqlserver清除缓存(转载)
    sqlsever 科学计数法e 问题
    将一张表中的数据插入到另一张表
    Spark的Driver节点和Executor节点
    实时流计算Spark Streaming原理介绍
    Spark Streaming实战
    Spark 以及 Spark Streaming 核心原理及实践
    SparkSQL读取Hive中的数据
  • 原文地址:https://www.cnblogs.com/xuweiqiang/p/9829127.html
Copyright © 2011-2022 走看看