zoukankan      html  css  js  c++  java
  • Java下载远程服务器文件到本地(http协议和ssh2协议)

      Java中java.io包为我们提供了输入流和输出流,对文件的读写基本上都依赖于这些封装好的关于流的类中来实现。前段时间遇到了以下两种需求:

      1、与某系统对接,每天获取最新的图片并显示在前端页面。该系统提供的是一个http协议的图片URL,本来获取到该系统的图片地址以后在HTML中显示就可以了,但是该系统不太稳定,图片URL经常不能使用,而且每天生成图片不一定成功,

    对自己系统的功能影响很大,emm。。。所以就考虑每天从该系统下载最新的图片到本地更新保存,没有新图片就继续使用上次的图片。

      2、公司算法团队的同事完成了一个视频分析的检测功能,会生成一些截取的短视频文件,系统需要获取并保存这些视频文件。算法运行在Linux系统,没有搭建FTP服务器,所以就需要系统从运行算法的Linux系统复制文件到系统本地保存起来。

      这两个需求实现起来都是大同小异,思路就是读取文件然后写到指定路径,只不过http协议的图片地址可以直接读取然后保存,而Linux系统的文件需要远程连接到该服务器然后再下载文件,这就需要我们引入以下依赖:

    <!--远程读取服务器文件-->
            <dependency>
                <groupId>ch.ethz.ganymed</groupId>
                <artifactId>ganymed-ssh2</artifactId>
                <version>262</version>
            </dependency>
            <dependency>
                <groupId>com.jcraft</groupId>
                <artifactId>jsch</artifactId>
                <version>0.1.53</version>
            </dependency>
            <dependency>
                <groupId>commons-net</groupId>
                <artifactId>commons-net</artifactId>
                <version>3.4</version>
            </dependency>

      废话不说了,先上代码:

    package com.XXX.utils;
    
    import ch.ethz.ssh2.*;
    import com.databus.Log;
    import com.mysql.jdbc.StringUtils;
    
    import java.io.*;
    import java.net.*;
    
    public class FileUtils {
    
        /*
        * 根据http路径下载文件保存到指定路径
        * urlString:文件路径
        * fileName:保存到本地的文件名称
        * filePath:本地要保存的指定路径
        * */
        public static boolean downloadFile(String urlString,String fileName,String filePath) {
            boolean bool = false;
    
            InputStream is = null;
            FileOutputStream os = null;
            try {
                Log.info("文件路径:" + urlString);
                // 构造URL
                java.net.URL url = new java.net.URL(urlString);
                // 打开连接
                URLConnection con = url.openConnection();
                // 输入流
                is = con.getInputStream();
                // 1K的数据缓冲
                byte[] bs = new byte[1024];
                // 读取到的数据长度
                int len;
                //判断指定目录是否存在,不存在则先创建目录
                File file = new File(filePath);
                if (!file.exists())
                    file.mkdirs();
                //fileName如果不包含文件后缀,则需要加上后缀,如:fileName + ".jpg";fileName + ".txt";
                os = new FileOutputStream(filePath + fileName, false);//false:覆盖文件,true:在原有文件后追加
                // 开始读取
                while ((len = is.read(bs)) != -1) {
                    os.write(bs, 0, len);
                }
    
                bool = true;
                Log.info("文件保存成功:" + fileName);
            }catch (Exception e){
                e.printStackTrace();
            }finally {
                // 完毕,关闭所有链接
                if (null != os){
                    try {
                        os.flush();
                        os.close();
                    }catch (IOException e){
                        e.printStackTrace();
                    }
                }
                if (null != is){
                    try {
                        is.close();
                    } catch (IOException e) {
                        e.printStackTrace();
                    }
                }
            }
            return bool;
        }
    
        //远程下载服务器文件
        public static boolean copyFile(String ip,int port,String userName,String password,String sourceFile,String targetFile,String targetFileName){
            boolean bool = false;
            Connection conn = null;
            Session session = null;
            try {
                if (StringUtils.isNullOrEmpty(ip) || StringUtils.isNullOrEmpty(userName) || StringUtils.isNullOrEmpty(password) ||
                        StringUtils.isNullOrEmpty(sourceFile) || StringUtils.isNullOrEmpty(targetFile)){
                    return bool;
                }
                conn = new Connection(ip,port);
                conn.connect();
                boolean isAuth = conn.authenticateWithPassword(userName,password);
                if (!isAuth){
                    Log.info("算法主机连接失败");
                    return bool;
                }
                //执行命令
                session = conn.openSession();
    
                //执行命令并打印执行结果
                session.execCommand("df -h");
                InputStream staout = new StreamGobbler(session.getStdout());
                BufferedReader br = new BufferedReader(new InputStreamReader(staout));
                String line = null;
                while ((line = br.readLine()) != null){
                    System.out.println(line);
                }
                br.close();
    
                //下载文件到本地
                SCPClient scpClient = conn.createSCPClient();
                SCPInputStream scpis = scpClient.get(sourceFile);
    
                //判断指定目录是否存在,不存在则先创建目录
                File file = new File(targetFile);
                if (!file.exists())
                    file.mkdirs();
    
                FileOutputStream fos = new FileOutputStream(targetFile + targetFileName);
                byte[] buffer = new byte[1024];
                int len = 0;
                while ((len = scpis.read(buffer)) != -1){
                    fos.write(buffer,0,len);
                }
                fos.close();
                bool = true;
                //SFTP
                /*SFTPv3Client sftPClient = new SFTPv3Client(conn);
                sftPClient.createFile("");
                sftPClient.close();*/
            }catch (Exception e){
                e.printStackTrace();
                Log.info(e.getMessage());
                Log.info("保存失败:" + sourceFile);
            }finally {
                if (null != session){
                    session.close();
                }
                if (null != conn) {
                    conn.close();
                }
            }
    
            return bool;
        }
    
    
    }

      第一个方法downloadFile(String urlString,String fileName,String filePath)与我们读写文件没什么区别,我们主要说一下远程读取Linux服务器文件的方法:

      copyFile(String ip,int port,String userName,String password,String sourceFile,String targetFile,String targetFileName)

      可以看到,我们需要Linux服务器的ip、ssh开放的端口号(一般默认是22)、服务器用户名和密码,所以我们要确保Linux服务器已经开放ssh连接,否则我们的程序根本就连不上服务器,更不要说复制文件了。

      其实ssh2连接远程服务器,就和我们用Xshell连接服务器是一样的,不但可以复制文件,也可以执行Linux命令对Linux进行操作,看上面的一段代码:

    //执行命令
                session = conn.openSession();
    
                //执行命令并打印执行结果
                session.execCommand("df -h");
                InputStream staout = new StreamGobbler(session.getStdout());
                BufferedReader br = new BufferedReader(new InputStreamReader(staout));
                String line = null;
                while ((line = br.readLine()) != null){
                    System.out.println(line);
                }
                br.close();

      这段代码与复制文件没有关系,之所以保留就是要说明一下,我们执行了df -h 命令(查询服务器磁盘使用情况),将会得到磁盘的具体使用情况,与下图效果相同。所以我们可以用ssh2做很多事情,有兴趣的童鞋可以多了解。

       另外在copyFile()方法的最后有一段注释的代码:

    //SFTP
                /*SFTPv3Client sftPClient = new SFTPv3Client(conn);
                sftPClient.createFile("files");
                sftPClient.close();*/

      我们也可以通过建立SFTP连接来远程操作目录和文件,比如:创建、删除目录,创建、删除文件等。

      关于ssh2包的其他功能和用法不再引申,有兴趣的童鞋欢迎在评论区交流。

  • 相关阅读:
    enum:python实现枚举也很优雅
    jieba:我虽然结巴,但是我会分词啊
    pyquery:轻松、灵活的处理html
    lxml:底层C语言实现、高效地处理html
    shelve:极其强大的序列化模块
    Session管理之ThreadLocal
    Hibernate之Criteria
    Hibernate之list和iterator
    hibernate之createQuery与createSQLQuery
    C标签之forEach
  • 原文地址:https://www.cnblogs.com/JohanChan/p/14282163.html
Copyright © 2011-2022 走看看