zoukankan      html  css  js  c++  java
  • node.js爬虫爬取拉勾网职位信息

    简介

    用node.js写了一个简单的小爬虫,用来爬取拉勾网上的招聘信息,共爬取了北京、上海、广州、深圳、杭州、西安、成都7个城市的数据,分别以前端、PHP、java、c++、python、Android、ios作为关键词进行爬取,爬到的数据以json格式储存到本地,为了方便观察,我将数据整理了一下供大家参考

    数据结果

    上述数据为3月13日22时爬取的数据,可大致反映各个城市对不同语言的需求量。

     爬取过程展示

    控制并发进行爬取

    爬取到的数据文件

    json数据文件

    爬虫程序

    实现思路

    请求拉钩网的 “https://www.lagou.com/jobs/positionAjax.json?needAddtionalResult=false&city=城市&kd=关键词&pn=页数”可以返回一个json格式的数据,该数据包含所要请求职位的信息,省去了使用cheerio解析的麻烦,所以直接用superagent来进行请求上述地址,并将数据储存在本地即可,其中参数city是为城市,kd为所要搜索的关键词,pn为要请求的页数,当中使用到了async来控制异步流程,使得并发数不超过3,防止被封ip。

    代码地址及使用

     github:https://github.com/zsqosos/positionAnalysis

     代码请在github上查看,使用该程序需要安装node环境,如果觉得还不错的话烦请给个star,欢迎给出宝贵意见。

  • 相关阅读:
    [转]IDEA 新建 JSP 项目时
    [转] AForge.NET 图像处理类
    [转] 端口被占用的处理
    [极客大挑战 2019]PHP
    今天鸽了
    [ZJCTF 2019]NiZhuanSiWei
    [极客大挑战 2019]Secret File
    [SUCTF 2019]Pythonginx
    [CISCN2019 华北赛区 Day1 Web2]ikun
    [极客大挑战 2019]EasySQL
  • 原文地址:https://www.cnblogs.com/zsqos/p/6545599.html
Copyright © 2011-2022 走看看