zoukankan      html  css  js  c++  java
  • 2.1 LibCurl编程流程(转)

    转载地址:http://blog.chinaunix.net/u/17660/showart_1822514.html
    2 LibCurl编程
    2.1 LibCurl编程流程
    在基于LibCurl的程序里,主要采用callback function (回 调函数)的形式完成传输任务,用户在启动传输前设置好各类参数和回调函数,当满足条件时libcurl将调用用户的回调函数实现特定功能。下面是利用libcurl完成传输任务的流程:
    1. 调用curl_global_init()初始化libcurl
    2. 调用 curl_easy_init()函数得到 easy interface型指针
    3. 调用curl_easy_setopt设置传输选项
    4. 根据curl_easy_setopt设置的传输选项,实现回调函数以完成用户特定任务
    5. 调用curl_easy_perform()函数完成传输任务
    6. 调用curl_easy_cleanup()释放内存
    在整过过程中设置curl_easy_setopt()参数是最关键的,几乎所有的libcurl程序都要使用它。
    2.2 重要函数
    1.CURLcode curl_global_init(long flags);

    描述:
    这个函数只能用一次。(其实在调用curl_global_cleanup 函数后仍然可再用)
    如果这个函数在curl_easy_init函数调用时还没调用,它讲由libcurl库自动完成。
    参数:flags
    CURL_GLOBAL_ALL //初始化所有的可能的调用。
    CURL_GLOBAL_SSL //初始化支持 安全套接字层。
    CURL_GLOBAL_WIN32 //初始化win32套接字库。
    CURL_GLOBAL_NOTHING //没有额外的初始化。

    2 void curl_global_cleanup(void);
    描述:在结束libcurl使用的时候,用来对curl_global_init做的工作清理。类似于close的函数。
    3 char *curl_version( );
    描述: 打印当前libcurl库的版本。
    4 CURL *curl_easy_init( );
    描述:
    curl_easy_init用来初始化一个CURL的指针(有些像返回FILE类型的指针一样). 相应的在调用结束时要用curl_easy_cleanup函数清理.
    一般curl_easy_init意味着一个会话的开始. 它的返回值一般都用在easy系列的函数中.
    5 void curl_easy_cleanup(CURL *handle);
    描述:
    这个调用用来结束一个会话.与curl_easy_init配合着用.
    参数:
    CURL类型的指针.
    6 CURLcode curl_easy_setopt(CURL *handle, CURLoption option, parameter);
    描述: 这个函数最重要了.几乎所有的curl 程序都要频繁的使用它.它告诉curl库.程序将有如何的行为. 比如要查看 一个网页的html代码等.(这个函数有些像ioctl函数)参数:
    1 CURL类型的指针
    2 各种CURLoption类型的选项.(都在curl.h库 里有定义,man 也可 以查看到)
    3 parameter 这个参数 既可以是个函数的指针,也可以是某个 对象的指针,也可以是个long型的变量.它用什么这取决于第二个参数.
    CURLoption 这个参数的取值很多.具体的可以查看man手册.
    7 CURLcode curl_easy_perform(CURL *handle);描述:这个函数在初始化CURL类型的指针 以及curl_easy_setopt完成后调用. 就像字面的意思所说perform就 像是个舞台.让我们设置的
    option 运作起来.参数:
    CURL类型的指针.
    3.3 curl_easy_setopt函数介绍
    本节主要介绍curl_easy_setopt中跟http相 关的参数。注意本节的阐述都是以libcurl作为主体,其它为客体来阐述 的。
    1. CURLOPT_URL
    设置访问URL
    2. CURLOPT_WRITEFUNCTION,CURLOPT_WRITEDATA
    回调函数原型为:size_t function( void *ptr, size_t size, size_t nmemb, void *stream); 函 数将在libcurl接收到数据后被调用,因此函数多做数据保存的功能,如处理下载文件。CURLOPT_WRITEDATA 用于表明CURLOPT_WRITEFUNCTION函 数中的stream指针的来源。
    3. CURLOPT_HEADERFUNCTION,CURLOPT_HEADERDATA
    回调函数原型为 size_t function( void *ptr, size_t size,size_t nmemb, void *stream); libcurl一旦接收到http 头部数据后将调用该函数。CURLOPT_WRITEDATA 传递指针给libcurl,该指针表明CURLOPT_HEADERFUNCTION 函数的stream指针的来源。
    4. CURLOPT_READFUNCTION CURLOPT_READDATA
    libCurl需要读取数据 传递给远程主机时将调用CURLOPT_READFUNCTION指定的函数,函数原型是:size_t function(void *ptr, size_t size, size_t nmemb,void *stream). CURLOPT_READDATA 表明CURLOPT_READFUNCTION函数原型中的stream指针来源。
    5. CURLOPT_NOPROGRESS,CURLOPT_PROGRESSFUNCTION,CURLOPT_PROGRESSDATA
    跟数据传输进度相关的参数。CURLOPT_PROGRESSFUNCTION 指定的函数正常情况下每秒被libcurl调用一次,为了使CURLOPT_PROGRESSFUNCTION被调用,CURLOPT_NOPROGRESS必须 被设置为false,CURLOPT_PROGRESSDATA指 定的参数将作为CURLOPT_PROGRESSFUNCTION指定函数的第一个参数
    6. CURLOPT_TIMEOUT,CURLOPT_CONNECTIONTIMEOUT:
    CURLOPT_TIMEOUT 由于设置传输时间,CURLOPT_CONNECTIONTIMEOUT 设置连接等待时间
    7. CURLOPT_FOLLOWLOCATION
    设置重定位URL
    CURLOPT_RANGE: CURLOPT_RESUME_FROM:
    断点续传相关设置。CURLOPT_RANGE 指定char *参数传递给libcurl,用于指明http域的RANGE头域,例如:
    表示头500个字节:bytes=0-499
    表示第二个500字节:bytes=500-999
    表示最后500个字节:bytes=-500
    表示500字节以后的范围:bytes=500-
    第一个和最后一个字节:bytes=0-0,-1
    同时指定几个范围:bytes=500-600,601-999
    CURLOPT_RESUME_FROM 传 递一个long参数给libcurl,指定你希望开始传递的
    偏移量。
    3.4 curl_easy_perform 函数说明(error 状 态码)
    该函数完成curl_easy_setopt指定的所有选项,本节重点介绍curl_easy_perform的返回值。返回0意味一 切ok,非0代表错误发生。主要错误码说明:
    1. CURLE_OK
    任务完成一切都好
    2 CURLE_UNSUPPORTED_PROTOCOL
    不支持的协议,由URL的头部指定
    3 CURLE_COULDNT_CONNECT
    不能连接到remote 主机或者代理
    4 CURLE_REMOTE_ACCESS_DENIED
    访问被拒绝
    5 CURLE_HTTP_RETURNED_ERROR
    Http返回错误
    6 CURLE_READ_ERROR
    读本地文件错误

    3.1 获取html网页

     1 #include <stdio.h>
     2 #include <curl/curl.h>
     3 #include <stdlib.h>
     4 int main(int argc, char *argv[])
     5 {
     6     CURL *curl;             //定义CURL类型的指针
     7 CURLcode res;           //定义CURLcode类型的变量,保存返回状态码
     8     if(argc!=2)
     9     {
    10         printf("Usage : file <url>;
    ");
    11         exit(1);
    12     }
    13  
    14     curl = curl_easy_init();        //初始化一个CURL类型的指针
    15     if(curl!=NULL)
    16     {
    17         //设置curl选项. 其中CURLOPT_URL是让用户指 定url. argv[1]中存放的命令行传进来的网址
    18         curl_easy_setopt(curl, CURLOPT_URL, argv[1]);        
    19         //调用curl_easy_perform 执行我们的设置.并进行相关的操作. 在这 里只在屏幕上显示出来.
    20         res = curl_easy_perform(curl);
    21         //清除curl操作.
    22         curl_easy_cleanup(curl);
    23     }
    24     return 0;
    25 }

    编译gcc  get_http.c  -o get_http lcurl

    ./ get_http www.baidu.com

    3.2 网页下载保存实例

     1 // 采用CURLOPT_WRITEFUNCTION 实现网页下载保存功能
     2 #include <stdio.h>;
     3 #include <stdlib.h>;
     4 #include <unistd.h>;
     5  
     6 #include <curl/curl.h>;
     7 #include <curl/types.h>;
     8 #include <curl/easy.h>;
     9  
    10 FILE *fp;  //定义FILE类型指针
    11 //这个函数是为了符合CURLOPT_WRITEFUNCTION而构造的
    12 //完成数据保存功能
    13 size_t write_data(void *ptr, size_t size, size_t nmemb, void *stream)  
    14 {
    15     int written = fwrite(ptr, size, nmemb, (FILE *)fp);
    16     return written;
    17 }
    18  
    19 int main(int argc, char *argv[])
    20 {
    21     CURL *curl;
    22  
    23     curl_global_init(CURL_GLOBAL_ALL);  
    24     curl=curl_easy_init();
    25     curl_easy_setopt(curl, CURLOPT_URL, argv[1]);  
    26  
    27     if((fp=fopen(argv[2],"w"))==NULL)
    28     {
    29         curl_easy_cleanup(curl);
    30         exit(1);
    31     }
    32 ////CURLOPT_WRITEFUNCTION 将后继的动作交给write_data函数处理
    33     curl_easy_setopt(curl, CURLOPT_WRITEFUNCTION, write_data);  
    34     curl_easy_perform(curl);
    35     curl_easy_cleanup(curl);
    36     exit(0);
    37 }

    编译gcc  save_http.c  -o save_http lcurl

    ./ save_http www.baidu.com  /tmp/baidu

    3.3 进度条实例??显 示文件下载进度

      1 // 采用CURLOPT_NOPROGRESS, CURLOPT_PROGRESSFUNCTION    CURLOPT_PROGRESSDATA 实现文件传输进度提示功能
      2 //函数采用了gtk库,故编译时需指定gtk库
      3 //函数启动专门的线程用于显示gtk 进度条bar
      4 #include <stdio.h>
      5 #include <gtk/gtk.h>
      6 #include <curl/curl.h>
      7 #include <curl/types.h> /* new for v7 */
      8 #include <curl/easy.h> /* new for v7 */
      9  
     10 GtkWidget *Bar;
     11 ////这个函数是为了符合CURLOPT_WRITEFUNCTION而构造的
     12 //完成数据保存功能
     13 size_t my_write_func(void *ptr, size_t size, size_t nmemb, FILE *stream)
     14 {
     15   return fwrite(ptr, size, nmemb, stream);
     16 }
     17 //这个函数是为了符合CURLOPT_READFUNCTION而构造的
     18 //数据上传时使用
     19 size_t my_read_func(void *ptr, size_t size, size_t nmemb, FILE *stream)
     20 {
     21   return fread(ptr, size, nmemb, stream);
     22 }
     23 //这个函数是为了符合CURLOPT_PROGRESSFUNCTION而构造的
     24 //显示文件传输进度,t代表文件大小,d代表传 输已经完成部分
     25 int my_progress_func(GtkWidget *bar,
     26                      double t, /* dltotal */
     27                      double d, /* dlnow */
     28                      double ultotal,
     29                      double ulnow)
     30 {
     31 /*  printf("%d / %d (%g %%)
    ", d, t, d*100.0/t);*/
     32   gdk_threads_enter();
     33   gtk_progress_set_value(GTK_PROGRESS(bar), d*100.0/t);
     34   gdk_threads_leave();
     35   return 0;
     36 }
     37  
     38 void *my_thread(void *ptr)
     39 {
     40   CURL *curl;
     41   CURLcode res;
     42   FILE *outfile;
     43   gchar *url = ptr;
     44  
     45   curl = curl_easy_init();
     46   if(curl)
     47   {
     48     outfile = fopen("test.curl", "w");
     49  
     50     curl_easy_setopt(curl, CURLOPT_URL, url);
     51     curl_easy_setopt(curl, CURLOPT_WRITEDATA, outfile);
     52     curl_easy_setopt(curl, CURLOPT_WRITEFUNCTION, my_write_func);
     53     curl_easy_setopt(curl, CURLOPT_READFUNCTION, my_read_func);
     54     curl_easy_setopt(curl, CURLOPT_NOPROGRESS, 0L);
     55     curl_easy_setopt(curl, CURLOPT_PROGRESSFUNCTION, my_progress_func);
     56     curl_easy_setopt(curl, CURLOPT_PROGRESSDATA, Bar);
     57  
     58     res = curl_easy_perform(curl);
     59  
     60     fclose(outfile);
     61     /* always cleanup */
     62     curl_easy_cleanup(curl);
     63   }
     64  
     65   return NULL;
     66 }
     67  
     68 int main(int argc, char **argv)
     69 {
     70   GtkWidget *Window, *Frame, *Frame2;
     71   GtkAdjustment *adj;
     72  
     73   /* Must initialize libcurl before any threads are started */
     74   curl_global_init(CURL_GLOBAL_ALL);
     75  
     76   /* Init thread */
     77   g_thread_init(NULL);
     78  
     79   gtk_init(&argc, &argv);
     80   Window = gtk_window_new(GTK_WINDOW_TOPLEVEL);
     81   Frame = gtk_frame_new(NULL);
     82   gtk_frame_set_shadow_type(GTK_FRAME(Frame), GTK_SHADOW_OUT);
     83   gtk_container_add(GTK_CONTAINER(Window), Frame);
     84   Frame2 = gtk_frame_new(NULL);
     85   gtk_frame_set_shadow_type(GTK_FRAME(Frame2), GTK_SHADOW_IN);
     86   gtk_container_add(GTK_CONTAINER(Frame), Frame2);
     87   gtk_container_set_border_width(GTK_CONTAINER(Frame2), 5);
     88   adj = (GtkAdjustment*)gtk_adjustment_new(0, 0, 100, 0, 0, 0);
     89   Bar = gtk_progress_bar_new_with_adjustment(adj);
     90   gtk_container_add(GTK_CONTAINER(Frame2), Bar);
     91   gtk_widget_show_all(Window);
     92  
     93   if (!g_thread_create(&my_thread, argv[1], FALSE, NULL) != 0)
     94     g_warning("can't create the thread");
     95  
     96  
     97   gdk_threads_enter();
     98   gtk_main();
     99   gdk_threads_leave();
    100   return 0;
    101 }

    编译export PKG_CONFIG_PATH=/usr/lib/pkgconfig/
    gcc progress.c
    o progress ` pkg-config --libs cflags gtk+-2..0` -lcurl lgthread-2.0

    ./ progress  http://software.sky-union.cn/index.asp

    3.4 断点续传实例

      1 //采用CURLOPT_RESUME_FROM_LARGE 实现文件断点续传功能
      2 #include <stdlib.h>
      3 #include <stdio.h>
      4 #include <sys/stat.h>
      5  
      6 #include <curl/curl.h>
      7 //这个函数为CURLOPT_HEADERFUNCTION参数构造
      8 /* 从http头部获取文件size*/
      9 size_t getcontentlengthfunc(void *ptr, size_t size, size_t nmemb, void *stream) {
     10        int r;
     11        long len = 0;
     12  
     13        /* _snscanf() is Win32 specific */
     14        // r = _snscanf(ptr, size * nmemb, "Content-Length: %ld
    ", &len);
     15  r = sscanf(ptr, "Content-Length: %ld
    ", &len);
     16        if (r) /* Microsoft: we don't read the specs */
     17               *((long *) stream) = len;
     18  
     19        return size * nmemb;
     20 }
     21  
     22 /* 保存下载文件 */
     23 size_t wirtefunc(void *ptr, size_t size, size_t nmemb, void *stream)
     24 {
     25         return fwrite(ptr, size, nmemb, stream);
     26 }
     27  
     28 /*读取上传文件 */
     29 size_t readfunc(void *ptr, size_t size, size_t nmemb, void *stream)
     30 {
     31        FILE *f = stream;
     32        size_t n;
     33  
     34        if (ferror(f))
     35               return CURL_READFUNC_ABORT;
     36  
     37        n = fread(ptr, size, nmemb, f) * size;
     38  
     39        return n;
     40 }
     41  
     42 // 下载 或者上传文件函数
     43 int download(CURL *curlhandle, const char * remotepath, const char * localpath,
     44            long timeout, long tries)
     45 {
     46        FILE *f;
     47        curl_off_t local_file_len = -1 ;
     48        long filesize =0 ;
     49        
     50        CURLcode r = CURLE_GOT_NOTHING;
     51        int c;
     52   struct stat file_info;
     53   int use_resume = 0;
     54   /* 得到本地文件大小 */
     55   //if(access(localpath,F_OK) ==0)
     56   
     57     if(stat(localpath, &file_info) == 0) 
     58      {
     59         local_file_len =  file_info.st_size;
     60         use_resume  = 1;
     61       }
     62   //采用追加方式打开文件,便于实现文件断点续传工作
     63        f = fopen(localpath, "ab+"); 
     64        if (f == NULL) {
     65               perror(NULL);
     66               return 0;
     67        }
     68  
     69        //curl_easy_setopt(curlhandle, CURLOPT_UPLOAD, 1L);
     70  
     71        curl_easy_setopt(curlhandle, CURLOPT_URL, remotepath);
     72  
     73               curl_easy_setopt(curlhandle, CURLOPT_CONNECTTIMEOUT, timeout);  // 设置连接超时,单位秒
     74        //设置http 头部处理函数
     75        curl_easy_setopt(curlhandle, CURLOPT_HEADERFUNCTION, getcontentlengthfunc);
     76        curl_easy_setopt(curlhandle, CURLOPT_HEADERDATA, &filesize);
     77  // 设置文件续传的位置给libcurl
     78        curl_easy_setopt(curlhandle, CURLOPT_RESUME_FROM_LARGE, use_resume?local_file_len:0);
     79  
     80        curl_easy_setopt(curlhandle, CURLOPT_WRITEDATA, f);
     81        curl_easy_setopt(curlhandle, CURLOPT_WRITEFUNCTION, wirtefunc);
     82  
     83        //curl_easy_setopt(curlhandle, CURLOPT_READFUNCTION, readfunc);
     84        //curl_easy_setopt(curlhandle, CURLOPT_READDATA, f);
     85        curl_easy_setopt(curlhandle, CURLOPT_NOPROGRESS, 1L);
     86        curl_easy_setopt(curlhandle, CURLOPT_VERBOSE, 1L);
     87   
     88   
     89   r = curl_easy_perform(curlhandle);
     90        
     91  
     92        fclose(f);
     93  
     94        if (r == CURLE_OK)
     95               return 1;
     96        else {
     97               fprintf(stderr, "%s
    ", curl_easy_strerror(r));
     98               return 0;
     99        }
    100 }
    101  
    102 int main(int c, char **argv) {
    103        CURL *curlhandle = NULL;
    104  
    105        curl_global_init(CURL_GLOBAL_ALL);
    106        curlhandle = curl_easy_init();
    107  
    108        //download(curlhandle, "ftp://user:pass@host/path/file", "C:\file", 0, 3);
    109   download(curlhandle , "http://software.sky-union.cn/index.asp","/work/index.asp",1,3);
    110        curl_easy_cleanup(curlhandle);
    111        curl_global_cleanup();
    112  
    113        return 0;
    114 }

    编译gcc  resume.c  -o resume lcurl

    ./ resume 

    3.5 LibCurl调试实例

      1 //采用CURLOPT_DEBUGFUNCTION参数实现libcurl调试功能
      2 #include <stdio.h>
      3 #include <curl/curl.h>
      4  
      5 struct data {
      6   char trace_ascii; /* 1 or 0 */
      7 };
      8  
      9 static
     10 void dump(const char *text,
     11           FILE *stream, unsigned char *ptr, size_t size,
     12           char nohex)
     13 {
     14   size_t i;
     15   size_t c;
     16  
     17   unsigned int width=0x10;
     18  
     19   if(nohex)
     20     /* without the hex output, we can fit more on screen */
     21     width = 0x40;
     22  
     23   fprintf(stream, "%s, %zd bytes (0x%zx)
    ", text, size, size);
     24  
     25   for(i=0; i<size; i+= width) {
     26  
     27     fprintf(stream, "%04zx: ", i);
     28  
     29     if(!nohex) {
     30       /* hex not disabled, show it */
     31       for(c = 0; c < width; c++)
     32         if(i+c < size)
     33           fprintf(stream, "%02x ", ptr[i+c]);
     34         else
     35           fputs("   ", stream);
     36     }
     37  
     38     for(c = 0; (c < width) && (i+c < size); c++) {
     39       /* check for 0D0A; if found, skip past and start a new line of output */
     40       if (nohex && (i+c+1 < size) && ptr[i+c]==0x0D && ptr[i+c+1]==0x0A) {
     41         i+=(c+2-width);
     42         break;
     43       }
     44       fprintf(stream, "%c",
     45               (ptr[i+c]>=0x20) && (ptr[i+c]<0x80)?ptr[i+c]:'.');
     46       /* check again for 0D0A, to avoid an extra 
     if it's at width */
     47       if (nohex && (i+c+2 < size) && ptr[i+c+1]==0x0D && ptr[i+c+2]==0x0A) {
     48         i+=(c+3-width);
     49         break;
     50       }
     51     }
     52     fputc('
    ', stream); /* newline */
     53   }
     54   fflush(stream);
     55 }
     56  
     57 static
     58 int my_trace(CURL *handle, curl_infotype type,
     59              char *data, size_t size,
     60              void *userp)
     61 {
     62   struct data *config = (struct data *)userp;
     63   const char *text;
     64   (void)handle; /* prevent compiler warning */
     65  
     66   switch (type) {
     67   case CURLINFO_TEXT:
     68     fprintf(stderr, "== Info: %s", data);
     69   default: /* in case a new one is introduced to shock us */
     70     return 0;
     71  
     72   case CURLINFO_HEADER_OUT:
     73     text = "=> Send header";
     74     break;
     75   case CURLINFO_DATA_OUT:
     76     text = "=> Send data";
     77     break;
     78   case CURLINFO_SSL_DATA_OUT:
     79     text = "=> Send SSL data";
     80     break;
     81   case CURLINFO_HEADER_IN:
     82     text = "<= Recv header";
     83     break;
     84   case CURLINFO_DATA_IN:
     85     text = "<= Recv data";
     86     break;
     87   case CURLINFO_SSL_DATA_IN:
     88     text = "<= Recv SSL data";
     89     break;
     90   }
     91  
     92   dump(text, stderr, (unsigned char *)data, size, config->trace_ascii);
     93   return 0;
     94 }
     95  
     96 int main(void)
     97 {
     98   CURL *curl;
     99   CURLcode res;
    100   struct data config;
    101  
    102   config.trace_ascii = 1; /* enable ascii tracing */

     

     

     

  • 相关阅读:
    11.11 ntsysv:管理开机服务
    11.13 ethtool:查询网卡参数
    11.14 mii-tool:管理网络接口的状态
    11.15 dmidecode:查询系统硬件信息
    11.16-18 lsci、ipcs、ipcrm:清除ipc相关信息
    Devops 导论
    * SPOJ PGCD Primes in GCD Table (需要自己推线性筛函数,好题)
    SPOJ
    HDU 1695 莫比乌斯反演
    HDU 1800 hash 找出现最多次数的字符串的次数
  • 原文地址:https://www.cnblogs.com/jikexianfeng/p/curl.html
Copyright © 2011-2022 走看看