zoukankan      html  css  js  c++  java
  • 获取一篇新闻的全部信息

    作业要求:https://edu.cnblogs.com/campus/gzcc/GZCC-16SE2/homework/2894

    给定一篇新闻的链接newsUrl,获取该新闻的全部信息

    标题、作者、发布单位、审核、来源

    发布时间:转换成datetime类型

    点击:

    • newsUrl
    • newsId(使用正则表达式re)
    • clickUrl(str.format(newsId))
    • requests.get(clickUrl)
    • newClick(用字符串处理,或正则表达式)
    • int()

    整个过程包装成一个简单清晰的函数。

    尝试去爬取一个你感兴趣的网页。

    此处选用的时校园新闻网中的有关 美国新墨西哥大学管理学院院长Shawn Berman一行来我校访问交流的一片新闻进行分析

    源代码如下所示:

    import requests
    import re
    from bs4 import BeautifulSoup
    from datetime import datetime
    def click(url):#获取点击次数
        id=re.findall('(d{1,5})',url)[-1]
        clickUrl='http://oa.gzcc.cn/api.php?op=count&id={}&modelid=80'.format(id)
        res=requests.get(clickUrl)
        newsClick=res.text.split('.html')[-1].lstrip("('").rstrip("');")
        return newsClick
    
    def newsdt(showinfo):#转换成datetime类型
        newsDate=showinfo.split()[0].split(':')[1]
        newsTime=showinfo.split()[1]
        newsDT=newsDate+' '+newsTime
        #newsDT=datetime.strptime(newsDT,'%Y-%m-%d %H:%M:%S')
        return newsDT
    
    def newsid(url):#获取新闻编号
        newsID=re.findall('(d{1,5})',url)[-1]
        return  newsID
    
    def news(url):
        res=requests.get(url)
        res.encoding='utf-8'
        soup=BeautifulSoup(res.text,'html.parser')
        title=soup.select('.show-title')[0].text
        '''time=soup.select('.show-info')[0].text[5:24]
        time=soup.select('.show-info')[0].text.split()[0].lstrip('发布时间:')#获取发布时间'''
        showinfo=soup.select('.show-info')[0].text
        newsDT=newsdt(showinfo)
        author=soup.select('.show-info')[0].text.split()[2]#获取作者
        
        check=soup.select('.show-info')[0].text.split()[3]#获取审核
        comefrom=soup.select('.show-info')[0].text.split()[4]#获取来源
        detail=soup.select('.show-content ')[0].text#获取新闻的具体内容
        newsID=newsid(url)#获取新闻编号
        
        newsClick=click(url)#获取点击次数
        title='新闻标题:'+title
        newsClick='文章点击次数:'+newsClick
        newsID='新闻编号:'+newsID
        newsDT='发布日期:'+newsDT
        pr=(newsClick,title,newsDT,newsID,author,check,comefrom,detail)#输出新闻的各种信息
        return pr
    url='http://news.gzcc.cn/html/2019/xiaoyuanxinwen_0323/11052.html'
    print(news(url))
    View Code

    运行结果为:

  • 相关阅读:
    Tomcat8
    spring-framework-3.0.2RELEASE之后为啥没有依赖包了?
    foxmail6.5 不能收取电子邮件,反复提示输入密码?
    mysql中select distinct的用法
    mysql 批量更新
    java中数组与List相互转换的方法
    mysql 蠕虫复制
    鼠标聚焦到Text输入框时,按回车键刷新页面原因及解决方法
    com.sun.jdi.InvocationException occurred invoking method.
    linux 让一个程序开机自启动并把一个程序加为服务
  • 原文地址:https://www.cnblogs.com/zyd1234/p/10637167.html
Copyright © 2011-2022 走看看