zoukankan      html  css  js  c++  java
  • 断点续传的多线程下载

    一、多线程下载

            多线程下载就是抢占服务器资源
            原理:服务器CPU 分配给每条线程的时间片相同,服务器带宽平均分配给每条线程,所以客户端开启的线程越多,就能抢占到更多的服务器资源。
            
           1、设置开启线程数,发送http请求到下载地址,获取下载文件的总长度
              然后创建一个长度一致的临时文件,避免下载到一半存储空间不够了,并计算每个线程下载多少数据       
           2、计算每个线程下载数据的开始和结束位置
              再次发送请求,用 Range 头请求开始位置和结束位置的数据
           3、将下载到的数据,存放至临时文件中
           4、带断点续传的多线程下载
              定义一个int变量,记录每条线程下载的数据总长度,然后加上该线程的下载开始位置,得到的结果就是下次下载时,该线程的开始位置,把得到的结果存入缓存文件,当文件下载完成,删除临时进度文件。
    public class MultiDownload {
    
        static int ThreadCount = 3;
        static int finishedThread = 0;
        //确定下载地址
        static String filename = "EditPlus.exe";
        static String path = "http://192.168.3.45:8080/"+filename;
        public static void main(String[] args) {
            //1、发送get请求,去获得下载文件的长度
            try {
                URL url = new URL(path);
                HttpURLConnection conn = (HttpURLConnection) url.openConnection();
                conn.setRequestMethod("GET");
                conn.setConnectTimeout(5000);
                conn.setReadTimeout(5000);
                
                if (conn.getResponseCode()==200) {
                    //如果请求成功,拿到所请求资源文件的长度
                    int length = conn.getContentLength();
                    
                    //2、生成一个与原文件同样的大小的临时文件,以免下载一半存储空间不够了
                    File file = new File(filename);//演示,所以将保存的文件目录放在工程的同目录
                    //使用RandomAccessFile 生成临时文件,可以用指针定位文件的任意位置,
                    //而且能够实时写到硬件底层设备,略过缓存,这对下载文件是突然断电等意外是有好处的
                    RandomAccessFile  raf = new RandomAccessFile(file, "rwd");//rwd, 实时写到底层设备
                    //设置临时文件的大小
                    raf.setLength(length);
                    raf.close();
                    
                    //3、计算出每个线程应该下载多少个字节
                    int size = length/ThreadCount;//如果有余数,负责最后一部分的线程负责下砸
                    
                    //开启多线程
                    for (int threadId = 0; threadId < ThreadCount; threadId++) {
                        //计算每个线程下载的开始位置和结束位置
                        int startIndex = threadId*size;  // 开始 = 线程id * size
                        int endIndex = (threadId+1)*size - 1; //结束 = (线程id + 1)*size - 1
                        //如果是最后一个线程,那么结束位置写死为文件结束位置
                        if (threadId == ThreadCount - 1) {
                            endIndex = length - 1;
                        }
                        
                        //System.out.println("线程"+threadId+"的下载区间是: "+startIndex+"----"+endIndex);
                        new DownloadThread(startIndex,endIndex,threadId).start();
                    }
                }
            } catch (MalformedURLException e) {
                e.printStackTrace();
            } catch (IOException e) {
                e.printStackTrace();
            }
        }
    }
    
    class DownloadThread extends Thread{
        
        private int startIndex;
        private int endIndex;
        private int threadId;
    
        public DownloadThread(int startIndex, int endIndex, int threadId) {
            super();
            this.startIndex = startIndex;
            this.endIndex = endIndex;
            this.threadId = threadId;
        }
    
        @Override
        public void run() {
             //每个线程再次发送http请求,下载自己对应的那部分数据
            try {
                File progressFile = new File(threadId+".txt");
                //判断进度文件是否存在,如果存在,则接着断点继续下载,如果不存在,则从头下载
                if (progressFile.exists()) {
                    FileInputStream fis = new FileInputStream(progressFile);
                    BufferedReader br = new BufferedReader(new InputStreamReader(fis));
                    //从进度文件中度取出上一次下载的总进度,然后与原本的开始进度相加,得到新的开始进度
                    startIndex += Integer.parseInt(br.readLine());
                    fis.close();
                }
                System.out.println("线程"+threadId+"的下载区间是:"+startIndex+"----"+endIndex);
                
                //4、每个线程发送http请求自己的数据
                URL url = new URL(MultiDownload.path);
                HttpURLConnection conn = (HttpURLConnection) url.openConnection();
                conn.setRequestMethod("GET");
                conn.setConnectTimeout(5000);
                conn.setReadTimeout(5000);
                //设置本次http请求所请求的数据的区间
                conn.setRequestProperty("Range", "bytes="+startIndex+"-"+endIndex);
                
                //请求部分数据,响应码是206
                if (conn.getResponseCode()==206) {
                    //此时,流里只有ThreadCount分之一的原文件数据
                    InputStream is = conn.getInputStream();
                    byte[] b = new byte[1024];
                    int len = 0;
                    int total = 0;//total 用于保存断点续传的断点
                    //拿到临时文件的输出流
                    File file = new File(MultiDownload.filename);
                    RandomAccessFile raf = new RandomAccessFile(file, "rwd");
                    //把文件的写入位置移动至 startIndex
                    raf.seek(startIndex);
                    
                    while ((len = is.read(b))!=-1) {
                        //每次读取流里数据之后,同步把数据写入临时文件
                        raf.write(b, 0, len);
                        total += len;
                        
                        //System.out.println("线程" + threadId + "下载了" + total);
                        //生成一个一个专门用来记录下载进度的临时文件
                        RandomAccessFile progressRaf = new RandomAccessFile(progressFile, "rwd");
                        progressRaf.write((total+"").getBytes());
                        progressRaf.close();
                    }
                    System.out.println("线程"+threadId+"下载完了---------------------");
                    raf.close();
                    
                    //当所有的线程下载完之后,将进度文件删除
                    MultiDownload.finishedThread++;
                    synchronized (MultiDownload.path) {//所有线程使用同一个锁
                        if (MultiDownload.finishedThread==MultiDownload.ThreadCount) {
                            for (int i = 0; i < MultiDownload.ThreadCount; i++) {
                                File f = new File(i+".txt");
                                f.delete();
                            }
                            MultiDownload.finishedThread=0;
                        }
                    }
                }    
            } catch (Exception e) {
                e.printStackTrace();
            }
            
        }
    }
  • 相关阅读:
    java API 文档
    java容器
    java学习笔记 java.io.File类
    理解性能的奥秘——应用程序中慢,SSMS中快(1)——简介
    第六章——根据执行计划优化性能(3)——键值查找
    第六章——根据执行计划优化性能(2)——查找表/索引扫描
    第六章——根据执行计划优化性能(1)——理解哈希、合并、嵌套循环连接策略
    SQL Server 执行计划操作符详解(3)——计算标量(Compute Scalar)
    SQL Server 执行计划操作符详解(2)——串联(Concatenation )
    SQL Server 执行计划操作符详解(1)——断言(Assert)
  • 原文地址:https://www.cnblogs.com/jinzhiming/p/4863735.html
Copyright © 2011-2022 走看看