经验首页 前端设计 程序设计 Java相关 移动开发 数据库/运维 软件/图像 大数据/云计算 其他经验
当前位置:技术经验 » Java相关 » Java » 查看文章
Java实现文件切割拼接的实现代码
来源:jb51  时间:2018/11/25 19:39:18  对本文有异议

单线程实现

文件分割

在老的FAT32文件系统中,最大的单个文件大小必须保存在4G内,对于经常看电影的我这个是不能允许的。不过现在Windows有NTFS文件系统,Linux大部分发行版为Ext4文件系统,最大单个文件大小能大于4G。不过这二者并不能兼容。。格式化NTFS的U盘Linux不能识别,格式化Ext4的U盘Windows不能识别,只能用老的FAT32兼容二者。所以将文件分割,再进行拼接就很重要,文件经过分割了在网络上传输就十分方便,也能开多线程对每部分进行HASH提高处理效率。

最近看的BradPitt的《狂怒》

首先:对文件进行分割需要确定每一部分的大小,假设上面的 Fury.mkv 文件大小为 280M ,分割每一块设置默认大小为 64M ,所以:

对于最后一块,一般小于等于设定好的每块默认大小。 每块大小设置好了,接下来,就需要将文件的路径获取,代码中搭建输入流,将文件读入内存缓冲区中,再搭建输出流,将缓冲区输出到新的分割文件中。 再接下来实现就很简单了。 新建一个 FileSlice

类:有切割方法,拼接方法。

  1. public class FileSlice {
  2. /**
  3. * 分割文件
  4. * @param filePath 文件路径
  5. * @param filePieceSize 文件每块大小,单位为字节,为-1则默认为每块64M
  6. * @return 成功返回True,出错则返回False
  7. */
  8. public static boolean slice(Path filePath, int filePieceSize){
  9. return true;
  10. }
  11.  
  12. /**
  13. * 将分割好的文件重新链接
  14. * @param filePath 被分割好的其中之一文件路径,默认其他块与其在同一目录下
  15. * @param howManyParts 一共有多少块
  16. * @return 成功返回True,出错则返回False
  17. */
  18. public static boolean glue(Path filePath, int howManyParts){
  19. return true;
  20. }
  21. }

接下来实现单线程的分割方法: 用图解的话应该是这样:

代码实现: 进入函数首先判断文件是否存在:

  1. if (!Files.exists(filePath)){
  2. return false;
  3. }

接下来判断每块大小是否使用默认值:

  1. if(filePieceSize == -1){
  2. filePieceSize = 1024*1024*64;
  3. }

将路径转换为文件对象,再计算将分割多少块:

  1. File file = filePath.toFile();
  2. int howManyParts = (int) Math.ceil(file.length() / (double)filePieceSize);

初始化输入输出流,出错输出错误信息,返回false,获得当前目录:

  1. DataInputStream fileReader = null;
  2. try {
  3. fileReader = new DataInputStream(new FileInputStream(file));
  4. } catch (FileNotFoundException e) {
  5. e.printStackTrace();
  6. System.out.println("文件找不到!");
  7. return false;
  8. }
  9. DataOutputStream fileWriter;
  10. Path dir = filePath.getParent();

接下来读取文件,并且分别输出到各个part文件中:

  1. int readLength = -1;
  2. long total = 0;
  3.  
  4. try {
  5. for (int i = 1; i <= howManyParts ; i++){
  6. //新建文件part i
  7. Path temp = Files.createFile(dir.resolve(filePath.getFileName() + ".part" + i));
  8. //搭建输出流
  9. fileWriter = new DataOutputStream(new FileOutputStream(temp.toFile()));
  10. //读取文件并输出
  11. while ( (readLength = fileReader.read(buffer)) != -1){
  12. fileWriter.write(buffer,0,readLength);
  13. fileWriter.flush();
  14. total += readLength;
  15. if (total == filePieceSize){
  16. total = 0;
  17. break;
  18. }
  19. }
  20. //part i的文件已经输出完毕,关闭流
  21. fileWriter.close();
  22. }
  23. //读取完毕,关闭输入流
  24. fileReader.close();
  25. } catch (IOException e) {
  26. e.printStackTrace();
  27. System.out.println("IO错误!");
  28. return false;
  29. }

该函数已经实现完毕,接下来测试(由于电影Fury有14G。。太大了。。还是换个吧):

我是大哥大第5集,有729M,大概能分个12个part吧。

  1. public static void main(String[] args) throws IOException {
  2. double before = System.currentTimeMillis();
  3.  
  4. Path bigboss = Paths.get("D:\\Video\\我是大哥大\\我是大哥大.Kyou.kara.Ore.wa.Ep05.Chi_Jap.HDTVrip.1280X720.mp4");
  5.  
  6. FileSlice.slice(bigboss,-1);
  7.  
  8. double after = System.currentTimeMillis();
  9.  
  10. System.out.println("分割文件我是大哥大.Kyou.kara.Ore.wa.Ep05.Chi_Jap.HDTVrip.1280X720.mp4," + Files.size(bigboss) + "字节,总用时" + (after - before) + "ms" );
  11.  
  12. }

运行结果:

分割文件我是大哥大.Kyou.kara.Ore.wa.Ep05.Chi_Jap.HDTVrip.1280X720.mp4,765321889字节,总用时16335.0ms

速度还是挺慢的。。 下次还是换成多线程来实现,再来测试下速度。在单线程情况下一个普通的40分钟日剧都要15-30s左右,要是mkv格式的电影都要好久了。。不过其实极限应该不在CPU中执行的速度,而是在硬盘IO中,如果是普通硬盘那么就算是多线程也应该提速不了多少。。

文件拼接

这个就很简单了,和分割相反就OK。 直接上完整代码:

  1. public static boolean glue(Path filePath, int howManyParts){
  2. if (!Files.exists(filePath)){
  3. return false;
  4. }
  5. //获取原始文件名
  6. String filename = getOriginalFileName(filePath.getFileName().toString());
  7.  
  8. if (filename == null){
  9. System.out.println("传入part文件名解析出错!");
  10. return false;
  11. }
  12. //初始化缓冲区
  13. byte [] buffer = new byte[1024 * 8];
  14. //获取文件存储的路径
  15. Path dir = filePath.getParent();
  16.  
  17. try {
  18. DataInputStream fileReader = null;
  19. //创建原始文件
  20. Files.createFile(dir.resolve(filename));
  21. //搭建原始文件输出流
  22. DataOutputStream fileWriter = new DataOutputStream(new FileOutputStream(dir.resolve(filename).toFile()));
  23.  
  24. int readLength = -1;
  25. for (int i = 1; i <= howManyParts ; i++){
  26. //得到part i文件路径
  27. Path temp = dir.resolve(filename + ".part" + i);
  28. //搭建输入流
  29. fileReader = new DataInputStream(new FileInputStream(temp.toFile()));
  30. //读取文件并输出
  31. while ( (readLength = fileReader.read(buffer)) != -1){
  32. fileWriter.write(buffer,0,readLength);
  33. fileWriter.flush();
  34. }
  35. //part i的文件已经读入完毕,关闭流
  36. fileReader.close();
  37. }
  38. //写入完毕,关闭输出流
  39. fileWriter.close();
  40. } catch (IOException e) {
  41. e.printStackTrace();
  42. System.out.println("IO错误!");
  43. return false;
  44. }
  45. return true;
  46. }

再测试刚刚分割好的我是大哥大第5集

  1. public static void main(String[] args) throws IOException {
  2. double before = System.currentTimeMillis();
  3.  
  4. Path bigboss = Paths.get("D:\\Video\\我是大哥大\\我是大哥大.Kyou.kara.Ore.wa.Ep05.Chi_Jap.HDTVrip.1280X720.mp4.part1");
  5.  
  6. FileSlice.glue(bigboss,12);
  7.  
  8. double after = System.currentTimeMillis();
  9.  
  10. System.out.println("拼接12个part,用时" + (after - before) + "ms");
  11.  
  12. }

结果输出,用12s左右,还行。

拼接12个part,用时12147.0ms

打开播放毫无问题,最后截张图。

未完待续。。下次来使用多线程进行实现。

以上就是本文的全部内容,希望对大家的学习有所帮助,也希望大家多多支持w3xue。

 友情链接:直通硅谷  点职佳  北美留学生论坛

本站QQ群:前端 618073944 | Java 606181507 | Python 626812652 | C/C++ 612253063 | 微信 634508462 | 苹果 692586424 | C#/.net 182808419 | PHP 305140648 | 运维 608723728

W3xue 的所有内容仅供测试,对任何法律问题及风险不承担任何责任。通过使用本站内容随之而来的风险与本站无关。
关于我们  |  意见建议  |  捐助我们  |  报错有奖  |  广告合作、友情链接(目前9元/月)请联系QQ:27243702 沸活量
皖ICP备17017327号-2 皖公网安备34020702000426号