zoukankan      html  css  js  c++  java
  • 爬虫学习---贴吧

    # -*- coding: utf-8 -*-
    #---------------------------------------
    # 程序:百度贴吧爬虫
    # 版本:0.1
    # 作者:why
    # 日期:2013-05-14
    # 语言:Python 2.7
    # 操作:输入带分页的地址,去掉最后面的数字,设置一下起始页数和终点页数。
    # 功能:下载对应页码内的所有页面并存储为html文件。
    #---------------------------------------

    import string, urllib2

    #定义百度函数
    def baidu_tieba(url,begin_page,end_page):
    for i in range(begin_page, end_page+1):
    sName = string.zfill(i,5) + '.html'#自动填充成六位的文件名
    print '正在下载第' + str(i) + '个网页,并将其存储为' + sName + '......'
    f = open(sName,'w+')
    m = urllib2.urlopen(url + str(i)).read()
    f.write(m)
    f.close()


    #-------- 在这里输入参数 ------------------

    # 这个是山东大学的百度贴吧中某一个帖子的地址
    #bdurl = 'http://tieba.baidu.com/p/2296017831?pn='
    #iPostBegin = 1
    #iPostEnd = 10

    bdurl = str(raw_input(u'请输入贴吧的地址,去掉pn=后面的数字: '))
    begin_page = int(raw_input(u'请输入开始的页数: '))
    end_page = int(raw_input(u'请输入终点的页数: '))
    #-------- 在这里输入参数 ------------------

    #调用
    baidu_tieba(bdurl,begin_page,end_page)

    2.

    # -*- coding: utf-8 -*-
    #---------------------------------------
    # 程序:百度贴吧爬虫
    # 版本:0.1
    # 作者:why
    # 日期:2013-05-14
    # 语言:Python 2.7
    # 操作:输入带分页的地址,去掉最后面的数字,设置一下起始页数和终点页数。
    # 功能:下载对应页码内的所有页面并存储为html文件。
    #---------------------------------------

    import string, urllib.request

    #定义百度函数
    def baidu_tieba(url,begin_page,end_page):
    for i in range(begin_page, end_page+1):
    sName = str(i) + '.html'#自动填充成六位的文件名
    print ('正在下载第' + str(i) + '个网页,并将其存储为' + sName + '......')
    f = open(sName,'wb')
    m = urllib.request.urlopen(url + str(i)).read()
    f.write(m)
    f.close()


    #-------- 在这里输入参数 ------------------

    # 这个是山东大学的百度贴吧中某一个帖子的地址
    #bdurl = 'http://tieba.baidu.com/p/2296017831?pn='
    #iPostBegin = 1
    #iPostEnd = 10

    bdurl = str(input(u'请输入贴吧的地址,去掉pn=后面的数字: '))
    begin_page = int(input(u'请输入开始的页数: '))
    end_page = int(input(u'请输入终点的页数: '))
    #-------- 在这里输入参数 ------------------

    #调用
    baidu_tieba(bdurl,begin_page,end_page)

    第二个使用3.3的技术,函数

  • 相关阅读:
    CSP-S 2021游记
    logback-spring.xml配置
    springboot编译的命令
    Springboot 常用注解
    logback如何配置springboot框架
    如何使用IDEA快速创建一个springboot项目
    slf4j、log4j、 logback关系详解和相关用法
    SSM整合及Maven pom.xml
    OO第四单元总结
    OO第三单元总结
  • 原文地址:https://www.cnblogs.com/my-time/p/4504317.html
Copyright © 2011-2022 走看看