参考链接:http://www.ruanyifeng.com/blog/2011/09/curl.html
参考链接:https://www.ruanyifeng.com/blog/2019/09/curl-reference.html
帖子内容来源与阮一峰的博客,自己做了一些修改,感谢阮一峰大神的分享
curl是一种命令行工具,作用是发出网络请求,然后得到和提取数据,显示在"标准输出"(stdout)上面。
它支持多种协议,下面举例讲解如何将它用于网站开发。
一、查看网页源码
直接在curl命令后加上网址,就可以看到网页源码。我们以网址www.sina.com为例(选择该网址,主要因为它的网页代码较短):
curl -o [file_name] www.sina.com
可以把网页的源码保存在操作的目录下, 没有-o就直接再屏幕终端输出
二、自动跳转
有的网址是自动跳转的。使用`-L`参数,curl就会跳转到新的网址。
你可以测试
curl www.360buy.com
curl -L www.360buy.com的数据,
你会发现第二个跳转到jd.com的新域名了
三、显示头信息
`-i`参数可以显示http response的头信息,连同网页代码一起。
curl -i www.360buy.com
输出:
HTTP/1.1 301 Moved Permanently
Server: nginx
Date: Mon, 23 Nov 2020 09:29:52 GMT
Content-Type: text/html
Content-Length: 178
Connection: keep-alive
Location: http://www.jd.com/
Age: 3237
Via: http/1.1 ORI-BJ-CT-YF-PCS-22 (jcs [cSsSfU]), https/1.1 ORI-CLOUD-HEN2-MIX-40 (jcs [cHs f ]), http/1.1 ZHJ-CT-6-MIX-23 (jcs [cRs f ])
Access-Control-Allow-Origin: *
Timing-Allow-Origin: *
X-Trace: 301-1606120555667-0-0-0-0-0;301-1606120555666-0-0-0-1-1;301-1606120555831-0-0-0-1-1;301-1606123792642-0-0-0-1-1
<html>
<head><title>301 Moved Permanently</title></head>
<body bgcolor="white">
<center><h1>301 Moved Permanently</h1></center>
<hr><center>nginx</center>
</body>
</html>
`-I`参数则是只显示http response的头信息。
curl -I www.360.com
输出
HTTP/1.1 301 Moved Permanently
Server: nginx
Date: Mon, 23 Nov 2020 09:32:05 GMT
Content-Type: text/html
Content-Length: 178
Connection: keep-alive
Location: https://www.360.cn
四、显示通信过程
`-v`参数可以显示一次http通信的整个过程,包括端口连接和http request头信息。
curl -v
curl --trace-ascii output.txt www.sina.com
可以指定文件的输出
五、发送表单信息
get比较简单,直接网址后面传参就可以了.
curl httpbin.org/get?name=sidian
输出
{
"args": {
"name": "sidian"
},
"headers": {
"Accept": "*/*",
"Host": "httpbin.org",
"User-Agent": "curl/7.71.1",
"X-Amzn-Trace-Id": "Root=1-5fbb855a-78cc767c025b21d97b6c80ae"
},
"origin": "183.134.218.234",
"url": "http://httpbin.org/get?name=sidian"
}
post方法
POST方法必须把数据和网址分开,curl就要用到--data参数。
(base) shijianzhongdeMacBook-Pro:~ shijianzhong$ curl -X POST --data "data=xxx" httpbin.org/post
{
"args": {},
"data": "",
"files": {},
"form": {
"data": "xxx"
},
"headers": {
"Accept": "*/*",
"Content-Length": "8",
"Content-Type": "application/x-www-form-urlencoded",
"Host": "httpbin.org",
"User-Agent": "curl/7.71.1",
"X-Amzn-Trace-Id": "Root=1-5fbf0dcc-0d635bf16bc4d870657115be"
},
"json": null,
"origin": "183.134.218.234",
"url": "http://httpbin.org/post"
}
如果你的数据没有经过表单编码,还可以让curl为你编码,参数是`--data-urlencode`。
(base) shijianzhongdeMacBook-Pro:~ shijianzhong$ curl -X POST --data-urlencode "data=xxx" httpbin.org/post
{
"args": {},
"data": "",
"files": {},
"form": {
"data": "xxx"
},
"headers": {
"Accept": "*/*",
"Content-Length": "8",
"Content-Type": "application/x-www-form-urlencoded",
"Host": "httpbin.org",
"User-Agent": "curl/7.71.1",
"X-Amzn-Trace-Id": "Root=1-5fbf0e55-589fd6652e87bd4718cf86e7"
},
"json": null,
"origin": "183.134.218.234",
"url": "http://httpbin.org/post"
}
从输出看,没看出什么区别。
六、HTTP动词
curl默认的HTTP动词是GET,使用`-X`参数可以支持其他动词。
前面已经示例过了,通过-X的形式
(base) shijianzhongdeMacBook-Pro:~ shijianzhong$ curl -X POST httpbin.org/post
{
"args": {},
"data": "",
"files": {},
"form": {},
"headers": {
"Accept": "*/*",
"Host": "httpbin.org",
"User-Agent": "curl/7.71.1",
"X-Amzn-Trace-Id": "Root=1-5fbf0ed2-5fa5dd7e4e3a01d943e845d1"
},
"json": null,
"origin": "183.134.218.234",
"url": "http://httpbin.org/post"
}
(base) shijianzhongdeMacBook-Pro:~ shijianzhong$ curl -X DELETE httpbin.org
<!DOCTYPE HTML PUBLIC "-//W3C//DTD HTML 3.2 Final//EN">
<title>405 Method Not Allowed</title>
<h1>Method Not Allowed</h1>
<p>The method is not allowed for the requested URL.</p>
七、文件上传
假定文件上传的表单是下面这样:
<form method="POST" enctype='multipart/form-data' action="upload.cgi">
<input type=file name=upload>
<input type=submit name=press value="OK">
</form>
你可以用curl这样上传文件:
$ curl --form upload=@localfilename --form press=OK [URL]
八、Referer字段
有时你需要在http request头信息中,提供一个referer字段,表示你是从哪里跳转过来的。
(base) shijianzhongdeMacBook-Pro:~ shijianzhong$ curl --referer zhejiang httpbin.org/get
{
"args": {},
"headers": {
"Accept": "*/*",
"Host": "httpbin.org",
"Referer": "zhejiang",
"User-Agent": "curl/7.71.1",
"X-Amzn-Trace-Id": "Root=1-5fbf105e-528c5790299cd3556485a429"
},
"origin": "183.134.218.234",
"url": "http://httpbin.org/get"
}
(base) shijianzhongdeMacBook-Pro:~ shijianzhong$
九、User Agent字段
这个字段是用来表示客户端的设备信息。服务器有时会根据这个字段,针对不同设备,返回不同格式的网页,比如手机版和桌面版。
(base) shijianzhongdeMacBook-Pro:~ shijianzhong$ curl --user-agent "mo tou" httpbin.org/get
{
"args": {},
"headers": {
"Accept": "*/*",
"Host": "httpbin.org",
"User-Agent": "mo tou",
"X-Amzn-Trace-Id": "Root=1-5fbf10d1-253321283ce3f09746118a0a"
},
"origin": "183.134.218.234",
"url": "http://httpbin.org/get"
}
(base) shijianzhongdeMacBook-Pro:~ shijianzhong$
十、cookie
使用`--cookie`参数,可以让curl发送cookie。
(base) shijianzhongdeMacBook-Pro:~ shijianzhong$ curl --cookie "name=kao" $h/get
{
"args": {},
"headers": {
"Accept": "*/*",
"Cookie": "name=kao",
"Host": "httpbin.org",
"User-Agent": "curl/7.71.1",
"X-Amzn-Trace-Id": "Root=1-5fbf11ea-6d1d82f84ab71cbd4a7aaf88"
},
"origin": "183.134.218.234",
"url": "http://httpbin.org/get"
}
(base) shijianzhongdeMacBook-Pro:~ shijianzhong$
至于具体的cookie的值,可以从http response头信息的`Set-Cookie`字段中得到。
`-c cookie-file`可以保存服务器返回的cookie到文件,`-b cookie-file`可以使用这个文件作为cookie信息,进行后续的请求。
这个比较有意思
`-c cookie-file`可以保存服务器返回的cookie到文件,`-b cookie-file`可以使用这个文件作为cookie信息,进行后续的请求。
$ curl -c cookies http://example.com
$ curl -b cookies http://example.com
实测没啥用处,只能调试的时候用,去抓百度,或者jd的时候,无法获取cookies
十一、增加头信息
有时需要在http request之中,自行增加一个头信息。`--header`参数就可以起到这个作用。
(base) shijianzhongdeMacBook-Pro:study_curl shijianzhong$ curl $h/get
{
"args": {},
"headers": {
"Accept": "*/*",
"Host": "httpbin.org",
"User-Agent": "curl/7.71.1",
"X-Amzn-Trace-Id": "Root=1-5fbf14dd-210757330a6fbb5c2d7adc28"
},
"origin": "183.134.218.234",
"url": "http://httpbin.org/get"
}
(base) shijianzhongdeMacBook-Pro:study_curl shijianzhong$ curl --header "Content-Type:applecation/json" $h/get
{
"args": {},
"headers": {
"Accept": "*/*",
"Content-Type": "applecation/json",
"Host": "httpbin.org",
"User-Agent": "curl/7.71.1",
"X-Amzn-Trace-Id": "Root=1-5fbf14fb-6f8fef64353db3a90c3ca63c"
},
"origin": "183.134.218.234",
"url": "http://httpbin.org/get"
}
十二、HTTP认证
有些网域需要HTTP认证,这时curl需要用到`--user`参数。
$ curl --user name:password example.com
第二章暂时不看了,感觉前端测试用这个蛮好的。