1 前言
猫眼电影是淘宝联合打造电影分类最全的电影的平台,能够第一时间告知用户,最新的电影上线时间。今天教大家获取猫眼电影的即将上映的电影详情。
![](https://pic2.zhimg.com/80/v2-2749b699a425e0b9f626969805d1ab34_720w.png)
2 项目目标
获取猫眼电影的即将上映的电影详情。
3 项目准备
软件:PyCharm
需要的库:requests、lxml、random、time
插件:Xpath
网站如下:
![](https://pic3.zhimg.com/80/v2-43768756a81bd57eb19ac470cb7d769b_720w.png)
点击下一页的按钮,观察到网站的变化分别如下:
![](https://picb.zhimg.com/80/v2-e9c0ac86c5f51638066daa45eb29f1ef_720w.png)
点击下一页时,页面每增加一页offset=()每次增加30,所以可以用{}代替变换的变量,再用for循环遍历这网址,实现多个网址请求。
4 项目实现
1、定义一个class类继承object,定义init方法继承self,主函数main继承self。导入需要的库和网址,代码如下所示。
![](https://pic2.zhimg.com/80/v2-497d7799b42508082c6ed08304f9c94a_720w.png)
2、随机产生UserAgent。
![](https://pic2.zhimg.com/80/v2-6193a5b552913cafbf05e855cdc24f19_720w.png)
3、发送请求,获取页面响应。
![](https://pic2.zhimg.com/80/v2-9fb66884d91222bc0a1d79aa919a9f8b_720w.png)
4、xpath解析一级页面数据,获取页面信息。
1)基准xpath节点对象列表。
![](https://pic3.zhimg.com/80/v2-4eaab87f4eb6824fbac2183c5dcd13ba_720w.png)
2)依次遍历每个节点对象,提取数据。
![](https://pic2.zhimg.com/80/v2-9c418efcdab2d931043c08504afe80dc_720w.png)
5、定义movie,保存打印数据。
![](https://pic2.zhimg.com/80/v2-d4e1dbeab933183ab701e06c51a280a6_720w.png)
6、random.randint()方法,设置时间延时。
![](https://pic4.zhimg.com/80/v2-c5fb713aa28d945fce191a9fb185440f_720w.png)
7、调用方法,实现功能。
![](https://pic4.zhimg.com/80/v2-b4a800a0a1da0154beebec2ec68acbeb_720w.png)
5 效果展示
1、点击绿色小三角运行输入起始页,终止页。
![](https://pic3.zhimg.com/80/v2-ea5dfef453305daddb446e284373dcac_720w.png)
2、运行程序后,结果显示在控制台,如下图所示。
![](https://pic1.zhimg.com/80/v2-50de60e6954a2e05d242e79deb98ce68_720w.png)
3、点击蓝色下载链接, 网络查看详情。
![](https://pic2.zhimg.com/80/v2-a1f2926a0a9da61ee9207522757e0754_720w.png)
6 小结
1、不建议抓取太多数据,容易对服务器造成负载,浅尝辄止即可。
2、本文基于Python网络爬虫,利用爬虫库,实现爬取猫眼电影。
3、欢迎大家积极尝试,有时候看到别人实现起来很简单,但是到自己动手实现的时候,总会有各种各样的问题,切勿眼高手低,勤动手,才可以理解的更加深刻。
4、猫眼电影代码链接:, https://github.com/cassieeric/python_crawler/tree/master/MaoyanMovie ,觉得不错,记得给个star噢。
此文转载文,著作权归作者所有,如有侵权联系小编删除! 原文地址: http://developer.51cto.com/art/202009/626415.htm
需要源代码或者素材的