关于chunked gzip,socket下载网页内容. - xiqi8144的专栏 - 博客频道 - CSDN.NET
关于chunked gzip,socket下载网页内容.
在利用底层socket下载html网页的时候，java,python都有很方面的类库操作，可以如果是利用c++来写，就必须要利用socket，底层的操作，首先建立socket，然而，发送响应的request header，模拟浏览器的请求也可，只需将user-agent，修改浏览器的名称，比如ie,比如firefox,也可以是rober，比如搜索引擎的名称，这些东西网上很多，不再写了，这里只写关于chunked的数据提取与解压.
如果我们请求的头之中，有Accept-Encoding, gzip, deflate,并且对方的服务器支持gzip方式的数据话，服务器就会以gzip的方式为客户端传输数据，在客户端浏览器会为我们解压，通过情况下，服务器都会带上Content-Length代表所需要求发送的数据的长度，客户的socket从响应头之中取出这个数据，作为一个标准，需要从服务器接收多少字节的数据，但是，有时候，服务器不会带上这个响应头，但是却带上了另一个响应头Transfer-encoding: chunked，代表数据是以chunk的方式进行传输的。
所谓的chunk是如下的格式:
第一个chunk数据的字节数+/r/n+第一个chunk的数据+第二个chunk的数据的字节数+/r/n+数据+n个chunk+/r/n+0+/r/n。
因此，接收的时候，需要首先获取每一个字节的长度，然后，跳过2个字节，取出数据，然后，再跳过2个字节，获取下一个chunk的长度，直到最后一个chunk，最后一个chunk一定是0，并且字节的长度都是十六进制形式传输，需要进行相应的转化成十进制，如果是gzip格式的数据，那么，在最后完成所有数据组合之后，需要再解压，如果不是以chunk方式的传输，直接解压即可.
在网上google了半天，转载最多的是下面的一篇http://www.donevii.com/post/468.html,但是，并没有相应的处理代码，在此记下我的处理的代码.
[python] view plaincopyprint?
if(chunk==True):
content=content.lstrip('/r')
content=content.lstrip('/n')
#获取第一个chunk的十六进制长度str，以/r/n结束.
temp=content.find('/r/n')
strtemp=content[0:temp]
readbytes=int(strtemp,16)#转化成十进制
newcont=''
start=2
offset=temp+2
newcont=''
#循环处理所有的chunk
while(readbytes>0):
#获取这一部分数据，与以前数据拼加.
newcont+=content[offset:readbytes+offset]
offset+=readbytes
endtemp=content.find('/r/n',offset+2)
if(endtemp>-1):
strtemp=content[offset+2:endtemp]
readbytes=int(strtemp,16)
if(readbytes==0):
break
else:
offset=endtemp+2
#代替以前的数据.
content=newcont
#print 'adfafa'+content
print contentType
try:
#如果是gzip方式的数据，需要解压，如果是chunked的数据，不进行上面的操作，直接解压是不能正
#常解压的.
if(contentType=='gzip'):
compressedstream = StringIO.StringIO(content)
gzipper = gzip.GzipFile(fileobj=compressedstream)
content=gzipper.read()
except IOError,e:
print e
以上就是部分python的socket的下载数据部分代码，关于在于需要提取每一个chunk的长度，然后，提取数据，如果还有下一个chunk，接着处理，直到最后的一个chunk以/r/n+0+/r/n结束，代表所有的chunk已经传递完毕.