目录
一,前言
二,断点续传
三,断点续传流程:
四,java代码测试分块和合并
视频文件分块:
视频文件合并:
五,应用(简单了解)
一,前言
通常视频文件都比较大,项目中需要满足大文件的上传要求,http协议本身对上传文件大小没有限制,但是客户的网络质量,电脑硬件环境等参差不齐,如果一个大的文件上传过程中网断了没有上传完成,用户体验就会很差。所以对于大文件上传的要求最基本的就是断点续传。
二,断点续传
FTP(文件传输协议的简称)(File Transfer Protocol、 FTP)客户端软件断点续传指的是在下载或上传时,将下载或上传任务(一个文件或一个压缩包)人为的划分为几个部分,每一个部分采用一个线程进行上传或下载,如果碰到网络故障,可以从已经上传或下载的部分开始继续上传下载未完成的部分,而没有必要从头开始上传下载。用户可以节省时间,提高速度。
可以从中提炼出来两个点:
1.将下载上传任务人为的划分成几个部分,从大文件切割成小文件
2.如果出现故障,可以接着上次已经上传的部分继续上传,不用从头再来浪费时间
三,断点续传流程:
在项目里,文件分块是前端来完成的,后端接受分块并且将之按照顺序(重点)合并在一起。
如果上传发生了中断,那么会重新上传,后端会检查当前这一块是否已经上传过了,如果已经上传过了,就不会再上传。
四,java代码测试分块和合并
视频文件分块:
1.创建一个名为bigfile_test的文件夹,里面放上一个视频文件和等会分块放的文件夹chunk。(我的大概是30M)
2.分块流程:
1)根据指定的分块大小计算出分块数量
2)使用RandomAccessFile类来从源文件中读数据写到分块文件中,如果分块文件的长度达到了分块大小,写下一个分块
3)测试
3.编写分块代码:
@Test
public void testChunk() throws IOException {
//源文件路径
File sourcefile = new File("D:\\bigfile_test\\森林光影_丁达尔效应.mp4");
//分块文件存放的路径
File chunkpath = new File("D:\\bigfile_test\\chunk\\");
if (!chunkpath.exists()) {
chunkpath.mkdirs();
}
//指定分块的大小 1M = 1024k 1k=1024字节
int chunkSize = 1024 * 1024 * 1;
//分块总数
int chunkNums = (int) Math.ceil(1.0 * sourcefile.length() / chunkSize);
//流对象读取源文件 向分块文件写数据 当达到了分块大小 不再写
byte[] data = new byte[1024];
RandomAccessFile raf_read = new RandomAccessFile(sourcefile, "r");
for (int i = 0; i < chunkNums; i++) {
//创建空白文件
File file = new File(chunkpath.getPath() + "\\" + i);
boolean isok = file.createNewFile();//文件存在会创建失败
RandomAccessFile raf_write = new RandomAccessFile(file, "rw");
if (isok) {//向文件中写内容
int len = -1;
while ((len = raf_read.read(data)) != -1) {
raf_write.write(data, 0, len);
if (file.length() >= chunkSize) {//达到分块大小就不再写了
break;
}
}
}
raf_write.close();
}
raf_read.close();
}
4.打开chunk文件夹,可以看到分块,只有最后一块的大小不是1024KB,其他都是。
这个视频文件是30M,所以分成了31块。
视频文件合并:
接下来需要将上面的分块合并起来,检查是否能成功合成源文件。
1.合并流程:
1) 将chunk文件按照次序放到集合中(排序)
2)使用RandomAccessFile类将chunk文件数据依次写到merge文件中
3)检查是否合并成功
注意: 写的次序一定要按照分块号的次序
2.编写合并代码
@Test
public void testMerge() throws IOException {
//源文件
File sourceFile = new File("D:\\bigfile_test\\森林光影_丁达尔效应.mp4");//用于校验合并之后的视频文件是否正确
if (!sourceFile.exists()) sourceFile.createNewFile();
//分块文件目录
File chunkpath = new File("D:\\bigfile_test\\chunk\\");
if (!chunkpath.exists()) chunkpath.mkdirs();
//合并之后的文件
File mergeFile = new File("D:\\bigfile_test\\分块合并_森林光影_丁达尔效应.mp4");
if (mergeFile.exists()) mergeFile.delete();
//目录下所有的分块文件
File[] chunkFiles = chunkpath.listFiles();
List<File> chunkFileList = Arrays.asList(chunkFiles);
//必须按照序号的顺序进行合并
Collections.sort(chunkFileList, new Comparator<File>() {
@Override
public int compare(File o1, File o2) {
return Integer.parseInt(o1.getName()) - Integer.parseInt(o2.getName());
}
});
byte[] data = new byte[1024];
RandomAccessFile raf_write = new RandomAccessFile(mergeFile, "rw");//如果文件不存在会创建文件
for (File chunkFile : chunkFiles) {
RandomAccessFile raf_read = new RandomAccessFile(chunkFile, "r");
int len = -1;
while ((len = raf_read.read(data)) != -1) {
raf_write.write(data, 0, len);
}
}
//检验是否合并正确
FileInputStream sis = new FileInputStream(sourceFile);
FileInputStream mis = new FileInputStream(mergeFile);
String sMd5Hex = DigestUtils.md5DigestAsHex(sis);
String mMd5Hex = DigestUtils.md5DigestAsHex(mis);
if (sMd5Hex.equals(mMd5Hex)) {
System.out.println("视频文件合并成功");
} else {
System.out.println("视频文件合并失败");
}
}
3.查看合并成功的文件
五,应用(简单了解)
有时用户上传下载文件需要历时数小时,万一线路中断,不具备断点续传的FTP服务器或下载软件就只能从头重传,比较好的FTP服务器或下载软件具有FTP断点续传能力,允许用户从上传下载断线的地方继续传送,这样大大减少了用户的烦恼。
IE浏览器默认下载方式不支持断点续传。
常见的支持断点续传的上传、下载软件:QQ旋风、迅雷、快车(迷你快车)、web迅雷、影音传送带、快车、BitComet、电驴eMule、哇嘎Vagaa、RF[RaySourse/RayFile]、酷6、土豆、优酷、百度视频、新浪视频、腾讯视频、百度云等都支持断点续传。
在 *nix(Linux/Unix)系统下,常用支持断点续传的FTP客户端软件是lftp。