zoukankan      html  css  js  c++  java
  • 书接上回,继续获取各链接内的小说内容

    requests下载

    好了,现在开始下载。我们在前面是用requests下载的,那么现在一样还是用这种方法

    我们现在有了每个章节的网页代码,所以只需要重复之前的操作,对下载的文本数据进行清除

    这个地方需要把exit()写上,意思是让循环一次就停下来

    需要写在print()后面

    问题来了,匹配字段怎么找呢?

    我们需要打开第一章节,chrome浏览器里按F12,检测网页源代码

    去找一下我们所需要的文字字段

    看看有什么唯一的,这里可用ctrl+f 来进行查找是否唯一

    你可以注意到‘2008年,4月5日’是我们想要的,所以就需要我们在前面找

    这里有个很特殊的字段<div id="content">

    又查找了一下,发现是唯一的,所以开头找好了,结尾也是这样

    而这里我们需要用replace替换方法,把特殊的符号替换成空,如果还有其他的符号也要自己替换。

    爬取成功,进行下载

    我们不能每次都这样爬取,所以要把小说保存在我们之前建的文件里面

    完成

  • 相关阅读:
    test
    VS dll 引用依赖
    Git配置
    编码--文字输入的前因后果
    base64相关
    异或
    UNION / UNION ALL 区别
    数据库使用规范
    chrome插件开发学习(一)
    缓存穿透 缓存雪崩 缓存并发
  • 原文地址:https://www.cnblogs.com/oldfish123/p/12002801.html
Copyright © 2011-2022 走看看