zoukankan      html  css  js  c++  java
  • [Python]网络爬虫(六):一个简单的百度贴吧的小爬虫(转)

     1 # -*- coding: utf-8 -*-
     2 #---------------------------------------
     3 #   程序:百度贴吧爬虫
     4 #   版本:0.1
     5 #   作者:why
     6 #   日期:2013-05-14
     7 #   语言:Python 2.7
     8 #   操作:输入带分页的地址,去掉最后面的数字,设置一下起始页数和终点页数。
     9 #   功能:下载对应页码内的所有页面并存储为html文件。
    10 #---------------------------------------
    11  
    12 import string, urllib2
    13  
    14 #定义百度函数
    15 def baidu_tieba(url,begin_page,end_page):   
    16     for i in range(begin_page, end_page+1):
    17         sName = string.zfill(i,5) + '.html'#自动填充成六位的文件名
    18         print '正在下载第' + str(i) + '个网页,并将其存储为' + sName + '......'
    19         f = open(sName,'w+')
    20         m = urllib2.urlopen(url + str(i)).read()
    21         f.write(m)
    22         f.close()
    23  
    24  
    25 #-------- 在这里输入参数 ------------------
    26 
    27 # 这个是山东大学的百度贴吧中某一个帖子的地址
    28 #bdurl = 'http://tieba.baidu.com/p/2296017831?pn='
    29 #iPostBegin = 1
    30 #iPostEnd = 10
    31 
    32 bdurl = str(raw_input(u'请输入贴吧的地址,去掉pn=后面的数字:
    '))
    33 begin_page = int(raw_input(u'请输入开始的页数:
    '))
    34 end_page = int(raw_input(u'请输入终点的页数:
    '))
    35 #-------- 在这里输入参数 ------------------
    36  
    37 
    38 #调用
    39 baidu_tieba(bdurl,begin_page,end_page)
  • 相关阅读:
    @Autowired注解与@Qualifier注解搭配使用
    前端中具体实现
    js文件处理
    跨域解决方案
    WebSocket实现
    js触摸操作
    RPC框架gRPC
    RPC框架Thrift
    分布式RPC
    RPC基本原理
  • 原文地址:https://www.cnblogs.com/xingmeng/p/3745703.html
Copyright © 2011-2022 走看看