zoukankan      html  css  js  c++  java
  • php 采集小程序,做采集的必看

    <?php
    //调用方法 :http://localhost/2.php?id=1 (自动采集1-8的列表)
    header("Content-type:text/html;charset=utf-8");
    
    $con =mysql_connect("localhost", "root", "huweishen.com") or die("数据库链接错误");
    mysql_select_db("liuyan", $con);
    mysql_query("set names 'utf8'");
    
    function preg_substr($start, $end, $str) // 正则截取函数        
    {        
        $temp = preg_split($start, $str);        
        $content = preg_split($end, $temp[1]);        
        return $content[0];        
    }     
    function str_substr($start, $end, $str) // 字符串截取函数        
    {        
        $temp = explode($start, $str, 2);        
        $content = explode($end, $temp[1], 2);        
        return $content[0];       
    }     
    // ---------------- 使用实例 ----------------     
     
    if($_GET['id']<=8&&$_GET['id']){
    
    $id=$_GET['id'];
    $url = "http://www.037c.com/New/list_5_$id.html"; //目标站
    $fp = fopen($url, "r") or die("超时");
    $fcontents = file_get_contents($url);
    $pattern="/</span><a href="(.*)" title="(.*)"  target="_blank">/iUs";//正则
    preg_match_all($pattern, $fcontents, $arr);
    //print_r($arr);
             foreach($arr[1] as $k=>$url)
             {   
             $title = iconv('GB2312', 'UTF-8', addslashes($arr[2][$k])); 
            // echo $title;
            // echo $url; 
            $str = iconv("GB2312","UTF-8",  file_get_contents($url));  
            $author = preg_substr("/作者:/", "/<//", $str); // 通过正则提取作者     
            $content = str_substr('<div class="wltg">', '</div>', $str); //通过字符串提取标题     
            $sql = "INSERT  INTO  `caiji` (`title`, `url` , `content`, `author` ) VALUES ('$title', '$url' , '$content' , '$author')";
    
            // echo $sql."<br/>";
             mysql_query($sql);
             }  
    
         $id++;
        echo "正在采集URL数据列表$id...请稍后...";
        echo "<script>window.location='2.php?id=$id'</script>";
      }
    
    else{
       echo "采集数据结束。";
     }
    ?>
      

     其中 title 设置唯一,可以防止重复采集,很好的的一个php采集小程序,作者:风云无忌 他的博客:http://blog.csdn.net/ccc65a8780d2c/article/details/53868348

  • 相关阅读:
    poj1978
    poj3505
    免费专利讲座
    没有找到MFC80UD.DLL"没有找到MFC80UD.DLL,
    新手学C++/CLI及C#
    怎样激发技术人员的创新力?
    关于大型asp.net应用系统的架构—如何做到高性能高可伸缩性
    绝好的一套针对初学者的JavaScript教程
    VC如何将自身进程提升至管理员权限
    如何寻找优秀的专利代理人
  • 原文地址:https://www.cnblogs.com/photo520/p/7505983.html
Copyright © 2011-2022 走看看