zoukankan      html  css  js  c++  java
  • python-网易云简单爬虫

    一.准备工作

    1.使用python3.6和pycharm

    2.使用的模块 tkinter 、requests 、beautifulSoup、getpass、os

    3.网易云的榜单页面地址 https://music.163.com/playlist?id=2302000737

    4.界面如下图

    二.分析

    1.打开网易云音乐的网址(谷歌浏览器),检查元素,会发现每首歌的都是一个a标签,如下图,这个时候,

    看到这个统一的格式我们就可以,来过滤掉不必要的标签,在获取网页源代码的时候我们发现有这么一段代码

    <ul class="f-hide">
       <li><a href="/song?id=135377">依然在一起</a></li>
       <li><a href="/song?id=29802294">我要的飞翔(哼唱版)</a></li>
       <li><a href="/song?id=449626902">不爱你&middot;非也</a></li>
       <li><a href="/song?id=29429422">给我深爱的你</a></li>
       <li><a href="/song?id=489302317">雀跃</a></li>
       <li><a href="/song?id=862491309">怎么说爱你</a></li>
       <li><a href="/song?id=562675516">扎心</a></li>
       <li><a href="/song?id=41500539">那是爱情</a></li>
       <li><a href="/song?id=560863505">可岁月,你到底要怎样?</a></li>
       <li><a href="/song?id=435288250">你会为我留下吗</a></li>
       <li><a href="/song?id=556479928">关于二次元的歌</a></li>
       <li><a href="/song?id=562594319">如果会是你</a></li>
       <li><a href="/song?id=72731">那一次</a></li>
       <li><a href="/song?id=490595991">星期三或礼拜三</a></li>
       <li><a href="/song?id=507014930">赧(nǎn)然的贼</a></li>
       <li><a href="/song?id=489506275">非酋</a></li>
       <li><a href="/song?id=862129612">王牌冤家</a></li>
       <li><a href="/song?id=445505374">心仪</a></li>
       <li><a href="/song?id=36117834">南瓜饼子店</a></li>
       <li><a href="/song?id=82203">为你写的歌</a></li>
       <li><a href="/song?id=431551064">写给我第一个喜欢的女孩的歌</a></li>
       <li><a href="/song?id=516321040">很可爱的歌&nbsp;(Remix&nbsp;featuring&nbsp;梁晓雪)</a></li>
       <li><a href="/song?id=472646451">即使全世界都嫌弃这首歌肉麻又俗气我还是要把它献给你</a></li>
       <li><a href="/song?id=254164">恋着多喜欢</a></li>
       <li><a href="/song?id=466370500">不二臣</a></li>
       <li><a href="/song?id=161420">偏偏爱上你</a></li>
       <li><a href="/song?id=223638">多么想念你</a></li>
       <li><a href="/song?id=31546892">恋爱中</a></li>
       <li><a href="/song?id=521780143">繁华之处</a></li>
       <li><a href="/song?id=412951744">无画</a></li>
       <li><a href="/song?id=504624714">青柠</a></li>
       <li><a href="/song?id=531295576">最美的期待</a></li>
       <li><a href="/song?id=432506809">致姗姗来迟的你 </a></li>
       <li><a href="/song?id=85571">我们俩</a></li>
       <li><a href="/song?id=26349280">为了遇见你</a></li>
       <li><a href="/song?id=389246">爱人</a></li>
       <li><a href="/song?id=28427655">喜欢你的无数个理由</a></li>
       <li><a href="/song?id=461899833">鸽子</a></li>
       <li><a href="/song?id=562592191">如果写不出好的和弦就该在洒满阳光的钢琴前一起吃布丁</a></li>
       <li><a href="/song?id=436346545">深蓝色的气球 </a></li>
       <li><a href="/song?id=458553516">献给海子的歌</a></li>
       <li><a href="/song?id=417596830">美好事物</a></li>
       <li><a href="/song?id=144137">水晶</a></li>
       <li><a href="/song?id=108445">表达爱</a></li>
       <li><a href="/song?id=386181">让我照顾你</a></li>
       <li><a href="/song?id=63570">两只恋人</a></li>
       <li><a href="/song?id=139463">我们的小世界</a></li>
       <li><a href="/song?id=440353151">猫眼里的半途</a></li>
       <li><a href="/song?id=109125">夏天</a></li>
       <li><a href="/song?id=5356944">爱很美</a></li>
       <li><a href="/song?id=536669917">情感导师【Prod by L.H.W】</a></li>
       <li><a href="/song?id=473571305">傲娇与偏见 (对唱版)</a></li>
       <li><a href="/song?id=552304135">如果最后还是你♡</a></li>
       <li><a href="/song?id=25648051">最佳听众</a></li>
       <li><a href="/song?id=531786614">亲爱的</a></li>
       <li><a href="/song?id=28936085">惟爱你</a></li>
       <li><a href="/song?id=132975">爱的就是你</a></li>
       <li><a href="/song?id=25638152">怎么爱你都不够</a></li>
       <li><a href="/song?id=29482339">给我你的爱(demo)</a></li>
       <li><a href="/song?id=435288313">天天情人节</a></li>
       <li><a href="/song?id=26550475">一定有个你</a></li>
       <li><a href="/song?id=297485">陪我到以后</a></li>
       <li><a href="/song?id=82486">春风吹</a></li>
       <li><a href="/song?id=425065716">好想你</a></li>
       <li><a href="/song?id=215884">确定一定以及肯定</a></li>
       <li><a href="/song?id=459858574">对你爱不完</a></li>
       <li><a href="/song?id=25642952">我们的歌</a></li>
       <li><a href="/song?id=327079">一想到你呀</a></li>
       <li><a href="/song?id=233920">天生一对</a></li>
       <li><a href="/song?id=421563713">桥豆麻袋</a></li>
       <li><a href="/song?id=520464278">去海边</a></li>
       <li><a href="/song?id=479219330">我一定会爱上你</a></li>
       <li><a href="/song?id=357312">流川枫与苍井空</a></li>
       <li><a href="/song?id=22852057">爱你</a></li>
       <li><a href="/song?id=108269">记得</a></li>
       <li><a href="/song?id=4875075">遇到</a></li>
       <li><a href="/song?id=326719">喜欢</a></li>
       <li><a href="/song?id=64706">给你</a></li>
       <li><a href="/song?id=29805931">木头</a></li>
       <li><a href="/song?id=306680">我们终究会牵手旅行</a></li>
       <li><a href="/song?id=34014289">完美男友</a></li>
       <li><a href="/song?id=375043">酸甜</a></li>
       <li><a href="/song?id=394653">坐在巷口的那对男女</a></li>
       <li><a href="/song?id=327736">梁山伯与茱丽叶</a></li>
       <li><a href="/song?id=368942">橘子汽水</a></li>
       <li><a href="/song?id=449818741">光年之外</a></li>
       <li><a href="/song?id=515383689">我在十点差三分的时候开始想你</a></li>
       <li><a href="/song?id=277352">那么爱你为什么</a></li>
       <li><a href="/song?id=28739376">不愿错过你</a></li>
       <li><a href="/song?id=436698550">幸福的终点</a></li>
       <li><a href="/song?id=469699266">最美情侣</a></li>
       <li><a href="/song?id=423703512">初心共老</a></li>
      </ul> 

    我们就把这些数据拿过来 在处理一次

    三.准备界面

    1.使用的tkinter是python提供的图形开发界面的库,几个常用的界面开发库有Tkinter、w'xPython、Jython。具体用法不在赘述,详情请移步--Tkinter界面开发

    导入tkinter模块,并初始化对应的输入框和按钮,

    from tkinter import *
    
    # 创建窗口
    root = Tk()
    # 设置标题
    root.title('网易云音乐')
    # 设置窗口大小,‘x’符号 区分宽高
    # root.geometry('500x400')
    # 设置出现的位置,用‘+’号来代替,这个是相对屏幕左上角的位置
    # root.geometry('+500+200')
    # 两句合成一句是执行
    root.geometry('560x300+500+200')
    
    # 标签控件
    label = Label(root,text='请输入要下载的歌单URL:',font=('华文行楷',12))
    # 添加定位才能显示
    # 网格式布局 以行列为准显示
    label.grid(row=0,column=0)
    
    # 输入框
    entry = Entry(root,font=('微软雅黑',25),width=25)
    entry.grid(row=0,column=1)
    
    text = Listbox(root,font=('微软雅黑',15),width=55,height=10)
    # 组件跨越的列数
    text.grid(row=1,columnspan=2)
    
    
    # 添加下载按钮和退出按钮,command设置按钮的点击事件
    download = Button(root,text='开始下载',font=('微软雅黑',15),width=10,height=2,command=download_song)
    # 添加最后的对齐方式
    # sticky对齐方式 N S W E
    download.grid(row=2,column=0,sticky=W)
    
    exit = Button(root,text='退出',font=('微软雅黑',15),width=10,height=2,command=root.quit)
    # 添加最后的对齐方式
    # sticky对齐方式 N S W E
    exit.grid(row=2,column=1,sticky=E)
    
    # 显示窗口,消息循环
    root.mainloop()

    2.最初的界面已经制作好了,开始网络请求的模块,点击下载按钮,请求网络信息

    # 添加user-agent
    header = {
                 "User-Agent": "Mozilla/5.0 (Macintosh; Intel Mac OS X 10_13_4) AppleWebKit/537.36 (KHTML, like Gecko) Chrome/67.0.3396.99 Safari/537.36"
            }
    
    # 爬取网页数据
    def download_song():
        #每次开始重新下载的时候删除listBox里面的所有的内容
        text.delete(0,END)
        # 获取用户输入的URL地址
        url = entry.get()
        # url = "https://music.163.com/playlist?id=2302000737"
    
        #下载地址
        song_url = "http://music.163.com/song/media/outer/url?id={}"
       #request请求类库,直接获取的html源代码
        result = requests.get(url,headers=header)
        # 对获取的html源代码进行处理,beautifulSoup对源码的处理
        html = BeautifulSoup(result.text,'html.parser')
        print(html)
        # 过滤元素,查找ul标签,class为f-hide,再去查找里面的所有a标签,返回的是一个数组
        musics = html.find('ul',{'class','f-hide'}).find_all('a')
        print(musics)
        music_dict = {}
        # 每个榜单数量太大,这里只下载5首歌曲
        for music in musics[:5]:
            #获取a标签对应的href,并过滤掉前面的song?id=,只留下歌曲的id
            music_id = music.get('href').strip('/song?id=')
            #获取歌曲的名称
            music_name = music.text
            #组装为一个字典
            music_dict[music_id] = music_name
       
        # 遍历字典,下载每首歌曲,并保存到本地
        for k, v in music_dict.items():
            download_url = song_url.format(k)
            saveMusic(download_url,v)

    3.歌曲保存,引入第三方  import getpass,获取当前的用户名

    def saveMusic(download_url,music_name):
        # 拿到下载路径和文件保存路径
        #在listbox中输出正在下载的文件和状态
        text.insert(END,'正在下载>>>>:' + music_name)
        # 拼接下载路径地址
        file_path = '/Users/'+getpass.getuser()+'/Downloads/musics'
        if not os.path.exists(file_path):
            os.makedirs(file_path)
        # 保存的文件名
        save_path = file_path + '/%s.mp3' % music_name
        print(save_path)
    
        # 开始下载数据
        result = requests.get(download_url, headers=header)
        with open(save_path, 'wb') as w_obj:
            w_obj.write(result.content)
        text.insert(END,'下载完成:>>>>' + music_name)
        # 跳转到指定的item索引位置
        text.see(text.size()-1)

    4.自此,所有的步骤都已经完成,可以复制榜单地址直接点击下载了

  • 相关阅读:
    MySQL+Navicat for MySQL安装
    intellij idea14 +svn配置
    java重载(实现同一方法名,不同参数)
    Java连接MySQL数据库及操作
    通过Chrome的inspect对手机webview进行调试
    使用fiddler对手机上的程序进行抓包
    开始一个Android的appium实例
    Android模拟器内安装应用
    Appium的inspector使用
    python webdriver启动IE浏览器
  • 原文地址:https://www.cnblogs.com/zj901203/p/9488255.html
Copyright © 2011-2022 走看看