java 大文件上传 断点续传 完整版实例 (Socket、IO流)

原文出自:https://blog.csdn.net/seesun2012

java两台服务器之间,大文件上传(续传),采用了Socket通信机制以及JavaIO流两个技术点,具体思路如下:

实现思路:

  • 1、服:利用ServerSocket搭建服务器,开启相应端口,进行长连接操作
  • 2、服:使用ServerSocket.accept()方法进行阻塞,接收客户端请求
  • 3、服:每接收到一个Socket就建立一个新的线程来处理它
  • 4、客:利用Socket进行远程连接,询问已上传进度
  • 5、客:使用FileInputStream.skip(long length)从指定位置读取文件,向服务器发送文件流
  • 6、服:接收客户端输入流,使用RandomAccessFile.seek(long length)随机读取,将游标移动到指定位置进行读写
  • 7、客/服:一个循环输出,一个循环读取写入
  • 8、示例:以下是具体代码,仅供参考

文件介绍:

  • FileUpLoadServer.java(服务器接收文件类)
  • FileUpLoadClient.java(客户端发送文件类)
  • FinalVariables.java(自定义参数类)
  • SocketServerListener.java(JavaWeb启动Socket操作类)
  • web.xml(配置文件,跟随项目启动)


断点上传(服务端)

package com.cn.csdn.seesun2012.socket;

import java.io.DataInputStream;
import java.io.DataOutputStream;
import java.io.File;
import java.io.FileOutputStream;
import java.io.IOException;
import java.io.RandomAccessFile;
import java.math.RoundingMode;
import java.net.ServerSocket;
import java.net.Socket;
import java.text.DecimalFormat;

public class FileUpLoadServer extends ServerSocket {

    // 文件大小
    private static DecimalFormat df = null;
    // 退出标识
    private boolean quit = false;

    static {
        // 设置数字格式,保留一位有效小数
        df = new DecimalFormat("#0.0");
        df.setRoundingMode(RoundingMode.HALF_UP);
        df.setMinimumFractionDigits(1);
        df.setMaximumFractionDigits(1);
    }

    public FileUpLoadServer(int report) throws IOException {
        super(report);
    }

    /**
     * 使用线程处理每个客户端传输的文件
     *
     * @throws Exception
     */
    public void load() throws Exception {
        System.out.println("【文件上传】服务器:" + this.getInetAddress() + " 正在运行中...");
        while (!quit) {
            // server尝试接收其他Socket的连接请求,server的accept方法是阻塞式的
            Socket socket = this.accept();
            /**
             * 我们的服务端处理客户端的连接请求是同步进行的, 每次接收到来自客户端的连接请求后,
             * 都要先跟当前的客户端通信完之后才能再处理下一个连接请求。 这在并发比较多的情况下会严重影响程序的性能,
             * 为此,我们可以把它改为如下这种异步处理与客户端通信的方式
             */
            // 收到请求,验证合法性
            String ip = socket.getInetAddress().toString();
            ip = ip.substring(1, ip.length());
            System.out.println("服务器接收到请求,正在开启验证对方合法性IP:" + ip + "!");
            // 每接收到一个Socket就建立一个新的线程来处理它
            new Thread(new Task(socket, ip)).start();
        }
    }

    /**
     * 处理客户端传输过来的文件线程类
     */
    class Task implements Runnable {

        private Socket sk;  //  当前连接
        private String ips; //  当前连接IP址

        public Task(Socket socket, String ip) {
            this.sk = socket;
            this.ips = ip;
        }

        public void run() {

            Socket socket = sk;                 //  重新定义,请不要移出run()方法外部,否则连接两会被重置
            String ip = ips;                    //  重新定义,同上IP会变
            long serverLength = -1l;            //  定义:存放在服务器里的文件长度,默认没有为-1
            char pathChar = File.separatorChar; //  获取:系统路径分隔符
            String panFu = "D:";                //  路径:存储文件盘符

            DataInputStream dis = null;         //  获取:客户端输出流
            DataOutputStream dos = null;        //  发送:向客户端输入流
            FileOutputStream fos = null;        //  读取:服务器本地文件流
            RandomAccessFile rantmpfile = null; //  操作类:随机读取

            try {
                // 获取
                dis = new DataInputStream(socket.getInputStream());
                // 发送
                dos = new DataOutputStream(socket.getOutputStream());
                // 定义客户端传过来的文件名
                String fileName = "";
                while (fileName == "") {
                    // 读取客户端传来的数据
                    fileName = dis.readUTF();
                    System.out.println("服务器获取客户端文件名称:" + fileName);
                    File file = new File(panFu+ pathChar +"receive"+ pathChar +"" + ip + pathChar + fileName);
                    if (file.exists()) {
                        serverLength = file.length();
                        dos.writeLong(serverLength);
                        System.out.println("向客户端返回文件长度:" + serverLength + " B");
                    } else {
                        serverLength = 0l;
                        dos.writeLong(serverLength);
                        System.out.println("文件不存在");
                        System.out.println("向客户端返回文件长度:" + serverLength + " B");
                    }
                }
                System.out.println("服务器建立新线程处理客户端请求,对方IP:" + ip + ",传输正在进行中...");
                // 从客户端获取输入流
                dis = new DataInputStream(socket.getInputStream());
                // 文件名和长度
                long fileLength = dis.readLong();
                File directory = new File(panFu + pathChar + "receive"+ pathChar +"" + ip + pathChar);
                if (!directory.exists()) {
                    directory.mkdirs();
                }
                int length = 0;
                byte[] bytes = new byte[1024];
                File file = new File(directory.getAbsolutePath() + pathChar + fileName);
                if (!file.exists()) {
                    // 不存在
                    fos = new FileOutputStream(file);
                    // 开始接收文件
                    while ((length = dis.read(bytes, 0, bytes.length)) != -1) {
                        fos.write(bytes, 0, length);
                        fos.flush();
                    }
                } else {
                    // 存储在服务器中的文件长度
                    long fileSize = file.length(), pointSize = 0;
                    // 判断是否已下载完成
                    if (fileLength > fileSize) {
                        // 断点下载
                        pointSize = fileSize;
                    } else {
                        // 重新下载
                        file.delete();
                        file.createNewFile();
                    }

                    rantmpfile = new RandomAccessFile(file, "rw");
                    /*
                     * java.io.InputStream.skip() 用法:跳过 n 个字节(丢弃) 如果 n
                     * 为负,则不跳过任何字节。
                     */
                    // dis.skip(pointSize); (已从客户端读取进度)
                    /**
                     * 资源,文件定位(游标、指针) 将ras的指针设置到8,则读写ras是从第9个字节读写到
                     */
                    rantmpfile.seek(pointSize);

                    while ((length = dis.read(bytes, 0, bytes.length)) != -1) {
                        rantmpfile.write(bytes, 0, length);
                    }
                }

                System.out.println("======== 文件接收成功 [File Name:" + fileName + "] [ClientIP:" + ip + "] [Size:" + getFormatFileSize(file.length()) + "] ========");

            } catch (Exception e) {
                e.printStackTrace();
            } finally {
                try {
                    if (fos != null)
                        fos.close();
                    if (dis != null)
                        dis.close();
                    if (rantmpfile != null)
                        rantmpfile.close();
                    socket.close();
                } catch (Exception e) {
                    e.printStackTrace();
                    System.out.println("Socket关闭失败!");
                }
                /**
                 *   文件传输完毕:执行后续操作(略)
                 */
                //DoSomeThing dst = new DoSomeThing()
                //dst.save(filePath);
            }
        }
    }

    /**
     * 格式化文件大小
     *
     * @param length
     * @return
     */
    public String getFormatFileSize(long length) {
        double size = ((double) length) / (1 << 30);
        if (size >= 1) {
            return df.format(size) + "GB";
        }
        size = ((double) length) / (1 << 20);
        if (size >= 1) {
            return df.format(size) + "MB";
        }
        size = ((double) length) / (1 << 10);
        if (size >= 1) {
            return df.format(size) + "KB";
        }
        return length + "B";
    }

    /**
     * 退出
     */
    public void quit() {
        this.quit = true;
        try {
            this.close();
        } catch (IOException e) {
            System.out.println("服务器关闭发生异常,原因未知");
        }
    }

}


断点上传(客户端)

package com.cn.csdn.seesun2012.socket;

import java.io.DataInputStream;
import java.io.DataOutputStream;
import java.io.File;
import java.io.FileInputStream;
import java.io.FileNotFoundException;
import java.io.IOException;
import java.net.Socket;
import java.net.UnknownHostException;
import java.util.Timer;
import java.util.TimerTask;

import org.slf4j.Logger;
import org.slf4j.LoggerFactory;

/**
 * Client端<br><br>
 * 功能说明:文件上传(断点)传输
 *
 * @author      CSDN:seesun2012
 * @CreateDate  2017年08月18日
 * @Override    2017年11月07日
 * @version     1.1
 */
public class FileUpLoadClient extends Socket{

    private Logger logger = LoggerFactory.getLogger("oaLogger");

    private Socket client;              //  Socket-客户端
    private static long status = 0;     //  进度条
    private boolean quit = false;       //退出

    /**
     * 构造器
     *
     * @param ip    服务端IP地址
     * @param report    服务端开放的端口
     * @throws UnknownHostException
     * @throws IOException
     */
    public FileUpLoadClient(String ip, Integer report) throws UnknownHostException, IOException {
        super(ip, report);
        this.client = this;
        if (client.getLocalPort()>0) {
            System.out.println("Cliect[port:" + client.getLocalPort() + "] 成功连接服务端");
        }else{
            System.out.println("服务器连接失败");
        }
    }

    public int sendFile(String filePath) {

        DataOutputStream dos = null;    //  上传服务器:输出流
        DataInputStream dis = null;     //  获取服务器:输入流
        Long serverLength = -1l;        //  存储在服务器的文件长度,默认-1
        FileInputStream fis = null;     //  读取文件:输入流

        //  获取:上传文件
        File file = new File(filePath);

        //  ==================== 节点:文件是否存在 ====================
        if (file.exists()) {

            //  发送:文件名称、文件长度
            try {
                dos = new DataOutputStream(client.getOutputStream());
            } catch (IOException e2) {
                logger.error("Socket客户端:1.读取输出流发生错误");
                e2.printStackTrace();
            }
            try {
                dos.writeUTF(file.getName());
                dos.flush();
                dos.writeLong(file.length());
                dos.flush();
            } catch (IOException e2) {
                logger.error("Socket客户端:2.向服务器发送文件名、长度发生错误");
                e2.printStackTrace();
            }

            //  获取:已上传文件长度
            try {
                dis = new DataInputStream(client.getInputStream());
            } catch (IOException e2) {
                logger.error("Socket客户端:3.向服务器发送文件名、长度发生错误");
                e2.printStackTrace();
            }
            while(serverLength==-1){
                 try {
                    serverLength = dis.readLong();
                } catch (IOException e) {
                    logger.error("Socket客户端:4.读取服务端长度发送错误");
                    e.printStackTrace();
                }
            }

            //  读取:需要上传的文件
            try {
                fis = new FileInputStream(file);
            } catch (FileNotFoundException e2) {
                logger.error("Socket客户端:5.读取本地需要上传的文件失败,请确认文件是否存在");
                e2.printStackTrace();
            }
            //  发送:向服务器传输输入流
            try {
                dos = new DataOutputStream(client.getOutputStream());
            } catch (IOException e2) {
                logger.error("Socket客户端:6.向服务器传输输入流发生错误");
                e2.printStackTrace();
            }

            System.out.println("======== 开始传输文件 ========");
            byte[] bytes = new byte[1024];
            int length = 1024;
            long progress = serverLength;

            //  设置游标:文件读取的位置
            if (serverLength==-1l) {
                serverLength = 0l;
            }
            try {
                fis.skip(serverLength);
            } catch (IOException e1) {
                logger.error("Socket客户端:7.设置游标位置发生错误,请确认文件流是否被篡改");
                e1.printStackTrace();
            }

            try {
                while (((length = fis.read(bytes, 0, bytes.length)) != -1) && quit != true) {
                    dos.write(bytes, 0, length);
                    dos.flush();
                    progress += length;
                    status =  (100 * progress / file.length());
                }
            } catch (IOException e) {
                logger.error("Socket客户端:8.设置游标位置发生错误,请确认文件流是否被篡改");
                e.printStackTrace();
            }finally {
                if (fis != null)
                    try {
                        fis.close();
                    } catch (IOException e1) {
                        logger.error("Socket客户端:9.关闭读取的输入流异常");
                        e1.printStackTrace();
                    }
                if (dos != null)
                    try {
                        dos.close();
                    } catch (IOException e1) {
                        logger.error("Socket客户端:10.关闭发送的输出流异常");
                        e1.printStackTrace();
                    }
                try {
                    client.close();
                } catch (IOException e) {
                    logger.error("Socket客户端:11.关闭客户端异常");
                    e.printStackTrace();
                }
            }
            System.out.println("======== 文件传输成功 ========");

        }else{
            logger.error("Socket客户端:0.文件不存在");
            return -1;
        }

        return 1;
    }   

    /**
     *   进度条
     */
    public void statusInfo(){
        Timer time = new Timer();
        time.schedule(new TimerTask() {
            long num = 0;
            @Override
            public void run() {
                if (status>num) {
                    System.out.println("当前进度为:"+status+"%");
                    num = status;
                }
                if (status==101) {
                    System.gc();
                }
            }
        },0,100);
    }

    /**
     * 退出
     */
    public void quit() {
        this.quit  = true;
        try {
            this.close();
        } catch (IOException e) {
            System.out.println("服务器关闭发生异常,原因未知");
        }
    }

}


断点上传(参数设置)

package com.cn.csdn.seesun2012.socket;

public interface FinalVariables {
    //  服务端IP
    public final static String SERVER_IP = "192.168.1.10010";
    //  服务端端口
    public final static int SERVER_PORT = 10086;
    //  开启配置
    public final static String IS_START_SERVER = "instart"; 

}


断点上传(JavaWeb启动服务端)

package com.cn.csdn.seesun2012.socket;

import java.util.Timer;
import java.util.TimerTask;
import javax.servlet.ServletException;
import javax.servlet.http.HttpServlet;

/**
 * Server端<br><br>
 * 功能说明:服务端监听开启Servlet
 *
 * @author      CSDN:seesun2012
 * @CreateDate  2017年08月18日
 * @Override    2017年11月07日
 * @Override    2017年11月14日
 * @version     1.3
 */
public class SocketServerListener extends HttpServlet{

    private static final long serialVersionUID = -999999999999999999L;

    //  初始化启动Socket服务
    @Override
    public void init() throws ServletException {
        super.init();
        for(int i = 0; i < 3; i++){
            if ("instart".equals(FinalVariables.IS_START_SERVER )) {
                open();
                break;
            }
        }
    }

    public void open(){
        Timer timer = new Timer();
        timer.schedule(new TimerTask() {
            @SuppressWarnings("resource")
            @Override
            public void run() {
                try {
                    FileUpLoadServer fileUpLoadServer = new FileUpLoadServer(FinalVariables.SERVER_PORT);
                    fileUpLoadServer.load();
                } catch (Exception e) {
                    e.printStackTrace();
                }
            }
        }, 3000);
    }
}


web.xml配置(跟随项目启动)

<?xml version="1.0" encoding="UTF-8"?>

<web-app>

  <welcome-file-list>
    <welcome-file>index.html</welcome-file>
    <welcome-file>index.jsp</welcome-file>
  </welcome-file-list>

  <servlet>
    <servlet-name>SocketServerListener</servlet-name>
    <servlet-class>com.cn.csdn.seesun2012.socket.SocketServerListener</servlet-class>
    <load-on-startup>10</load-on-startup>
  </servlet>

   <display-name>seesun2012</display-name>

</web-app>

注:以上内容仅提供参考和交流,请勿用于商业用途!

原文地址:https://www.cnblogs.com/seesun2012/p/9214738.html

时间: 2024-12-19 16:52:11

java 大文件上传 断点续传 完整版实例 (Socket、IO流)的相关文章

Web大文件上传断点续传解决方案

最近遇见一个需要上传百兆大文件的需求,调研了七牛和腾讯云的切片分段上传功能,因此在此整理前端大文件上传相关功能的实现. 在某些业务中,大文件上传是一个比较重要的交互场景,如上传入库比较大的Excel表格数据.上传影音文件等.如果文件体积比较大,或者网络条件不好时,上传的时间会比较长(要传输更多的报文,丢包重传的概率也更大),用户不能刷新页面,只能耐心等待请求完成. 下面从文件上传方式入手,整理大文件上传的思路,并给出了相关实例代码,由于PHP内置了比较方便的文件拆分和拼接方法,因此服务端代码使用

c#大文件上传详解及实例代码

最近遇见一个需要上传百兆大文件的需求,调研了七牛和腾讯云的切片分段上传功能,因此在此整理前端大文件上传相关功能的实现. 在某些业务中,大文件上传是一个比较重要的交互场景,如上传入库比较大的Excel表格数据.上传影音文件等.如果文件体积比较大,或者网络条件不好时,上传的时间会比较长(要传输更多的报文,丢包重传的概率也更大),用户不能刷新页面,只能耐心等待请求完成. 下面从文件上传方式入手,整理大文件上传的思路,并给出了相关实例代码,由于PHP内置了比较方便的文件拆分和拼接方法,因此服务端代码使用

web大文件上传断点续传源码

总结一下大文件分片上传和断点续传的问题.因为文件过大(比如1G以上),必须要考虑上传过程网络中断的情况.http的网络请求中本身就已经具备了分片上传功能,当传输的文件比较大时,http协议自动会将文件切片(分块),但这不是我们现在说的重点,我们要做的事是保证在网络中断后1G的文件已上传的那部分在下次网络连接时不必再重传.所以我们本地在上传的时候,要将大文件进行分片,比如分成1024*1024B,即将大文件分成1M的片进行上传,服务器在接收后,再将这些片合并成原始文件,这就是分片的基本原理.断点续

html5+java大文件上传代码

<body> <input id="fileid" type="file" accept="video/*;capture=camera" onchange="onfile(this)"> <input id="btn" type="button" value="提交"> <script type="text/jav

JSP大文件上传断点续传解决方案

我们平时经常做的是上传文件,上传文件夹与上传文件类似,但也有一些不同之处,这次做了上传文件夹就记录下以备后用. 首先我们需要了解的是上传文件三要素: 1.表单提交方式:post (get方式提交有大小限制,post没有) 2.表单的enctype属性:必须设置为multipart/form-data. 3.表单必须有文件上传项:file,且文件项需要给定name值 上传文件夹需要增加一个属性webkitdirectory,像这样: <input id="fileFolder" n

php 大文件上传 redis+php resque 较低io消耗

在做视频站的时候存在这么一个情景,用户需要上传较大的视频文件,一般在两个G以上,且可能存在多人同时上传的情况. 经过查阅资料解决方案有如下几种: 1.调整php和nginx文件上传的最大限制 2.在前端将文件切片上传后再进行合并 经过我们的评估发现,方案1的做法并不合适,单纯的调大文件大小限制,会导致上传一个文件需要一个连续很长的时间, 占用一个php进程,且可能出现超时等各种情况. 所以我们选择方案二进行探索: 使用百度webuploader前端插件对大文件进行切片处理,等待所有文件全部上传完

局域网大文件上传详解及实例代码

javaweb上传文件 上传文件的jsp中的部分 上传文件同样可以使用form表单向后端发请求,也可以使用 ajax向后端发请求 1.通过form表单向后端发送请求 <form id="postForm" action="${pageContext.request.contextPath}/UploadServlet" method="post" enctype="multipart/form-data"> <

B/S大文件上传详解及实例代码

一.概述 所谓断点续传,其实只是指下载,也就是要从文件已经下载的地方开始继续下载.在以前版本的HTTP协议是不支持断点的,HTTP/1.1开始就支持了.一般断点下载时才用到Range和Content-Range实体头.HTTP协议本身不支持断点上传,需要自己实现. 二.Range 用于请求头中,指定第一个字节的位置和最后一个字节的位置,一般格式: Range:用于客户端到服务端的请求,可以通过改字段指定下载文件的某一段大小及其单位,字节偏移从0开始.典型格式: Ranges:    (unit=

asp.net web大文件上传带进度条实例代码

using System; using System.Data; using System.Configuration; using System.Collections; using System.Web; using System.Web.Security; using System.Web.UI; using System.Web.UI.WebControls; using System.Web.UI.WebControls.WebParts; using System.Web.UI.Ht