zoukankan      html  css  js  c++  java
  • 7.6批量下载网易云歌曲

    2018-7-16 11:10:07 学了多进程再优化一下自己的代码,采用多进程下载,发现速度大有提高,在main() 中修改了一下,放上代码

    #!/usr/bin/env python
    #!--*--coding:utf-8 --*--
    #!@Time    :2018/7/6 12:13
    #!@Author   TrueNewBee
    #爬取并批量下载网易云歌单歌曲
    #根据URL下载音乐  https://music.163.com/#/playlist?id=2269661190
    
    import requests
    import time
    from multiprocessing import Pool
    from bs4 import BeautifulSoup
    from urllib.request import urlretrieve
    from multiprocessing import  Process
    
    
    #1.获取页面源代码
    def get_page():
        """获取网页源代码(选择自己喜欢的网易云歌单连接)"""
        # 去掉原链接里面的   #/
        url ="https://music.163.com/playlist?id=2269661190"
        #请求头
        headers ={
            'Host':'music.163.com',
            'Referer':'https://music.163.com/',
            'User-Agent':'Mozilla/5.0 (Windows NT 6.1; WOW64) AppleWebKit/537.36 (KHTML, like Gecko) Chrome/55.0.2883.87 Safari/537.36'
        }
        #获取网页源代码
        res = requests.get(url,headers=headers).text
        #创建对象  解析网页
        r = BeautifulSoup(res,"html.parser")
    
    #2.获取ID
        music_dict = {}
        #找源代码中的a标签
        result = r.find("ul",{'class':'f-hide'}).find_all('a')
        for music in result:
            music_id = music.get('href').strip("/song?id=")#去掉/song?id
            music_name = music.text #获取其中的文字
            music_dict[music_id] = music_name
        return music_dict
    
    
    #3.下载歌曲
    def download_song(music_dict):
        """下载音乐"""
        for song_id in music_dict:
            song_url = "http://music.163.com/song/media/outer/url?id=%s.mp3"%song_id
            #下载地址(地址填写自己的地址)
            path="C:\UsersAdministratorDesktop网易云音乐\%s.mp3"%music_dict[song_id]#通过键值对来查找歌曲名字
            #下载音乐  urlretriver (地址  路径)
            time.sleep(1)
            urlretrieve(song_url,path)
            print("下载完成%s"%music_dict[song_id])
    
    
    def  main():
        music_dict =get_page()
        #采用了多线程式下载,速度更快了
        for i in range(3):
            p = Process(target=download_song,args=(music_dict,))
            p.start()
    if __name__ == '__main__':
        main()

    已经优化过了,有那么一丢丢小小成就感只是用被人的视频看的罢了!不过里面有值得学的地方,就是昨天猫眼使用的正则选取有用东西,而今天的则是用的bs4库里面的

    from bs4 import BeautifulSoup      github连接 :https://github.com/TrueNewBee/pythonDemo

    r = BeautifulSoup(res,"html.parser")
    #2.获取ID
        music_dict = {}
        #找源代码中的a标签
        result = r.find("ul",{'class':'f-hide'}).find_all('a')     #这样看着更省事一点,我过会优化一下我的猫眼代码
        for music in result:
            music_id = music.get('href').strip("/song?id=")#去掉/song?id
            music_name = music.text #获取其中的文字
            music_dict[music_id] = music_name
    

     放上我的所有源代码,我也想放到Github,给谁没有的样

    #!/usr/bin/env python
    #!--*--coding:utf-8 --*--
    #!@Time    :2018/7/6 12:13
    #!@Author   TrueNewBee
    #爬取并批量下载网易云歌单歌曲
    #根据URL下载音乐  https://music.163.com/#/playlist?id=2269661190
    
    import requests
    import time
    from multiprocessing import Pool
    from bs4 import BeautifulSoup
    from urllib.request import urlretrieve
    
    
    #1.获取页面源代码
    def get_page():
        """获取网页源代码(选择自己喜欢的网易云歌单连接)"""
        # 去掉原链接里面的   #/
        url ="https://music.163.com/playlist?id=2269661190"
        #请求头
        headers ={
            'Host':'music.163.com',
            'Referer':'https://music.163.com/',
            'User-Agent':'Mozilla/5.0 (Windows NT 6.1; WOW64) AppleWebKit/537.36 (KHTML, like Gecko) Chrome/55.0.2883.87 Safari/537.36'
        }
        #获取网页源代码
        res = requests.get(url,headers=headers).text
        #创建对象  解析网页
        r = BeautifulSoup(res,"html.parser")
    
    #2.获取ID
        music_dict = {}
        #找源代码中的a标签
        result = r.find("ul",{'class':'f-hide'}).find_all('a')
        for music in result:
            music_id = music.get('href').strip("/song?id=")#去掉/song?id
            music_name = music.text #获取其中的文字
            music_dict[music_id] = music_name
        return music_dict
    
    
    #3.下载歌曲
    def download_song(music_dict):
        """下载音乐"""
        for song_id in music_dict:
            song_url = "http://music.163.com/song/media/outer/url?id=%s.mp3"%song_id
            #下载地址(地址填写自己的地址)
            path="C:\UsersAdministratorDesktop网易云音乐\%s.mp3"%music_dict[song_id]#通过键值对来查找歌曲名字
            #下载音乐  urlretriver (地址  路径)
            time.sleep(1)
            urlretrieve(song_url,path)
            print("正在下载%s"%music_dict[song_id])
    
    
    def  main():
        music_dict =get_page()
        download_song(music_dict)
    
    if __name__ == '__main__':
        main()
    

      

  • 相关阅读:
    Sql server 中count(1) 与 sum(1) 那个更快?
    Sql server 中count() 与 sum() 的区别
    ASP.Net Core 运行错误 Http Error 502.5 解决办法
    什么是语法糖?
    int和Integer有什么区别?如何相互转换呢?
    面向对象的基本特征有哪些方面?
    谈谈final finally finalize区别
    Overload和Override的区别
    String s=new String(“xyz”);创建了几个String Object?
    Gc是什么?为什么要有Gc?
  • 原文地址:https://www.cnblogs.com/zhen1996/p/9273361.html
Copyright © 2011-2022 走看看