python实现大文件分割与合并


Posted in Python onJuly 22, 2019

很多时候我们会面临大文件无法加载到内存,或者要传输大文件的问题。这时候就需要考虑将大文件分割为小文件进行处理了。

下面是一种用python分割与合并分件的实现。

import os
FILE_DIR = os.path.dirname(os.path.abspath(__file__))

#========================================================
# 文件操作
#========================================================
def get_filelist1(dir, postfix):
  '''
  按照后缀返回文件名列表
  INPUT -> 目录地址, 文件后缀
  OUTPUT -> 文件名列表
  '''
  return [os.path.join(dir, f) for f in os.listdir(dir) if f.endswith(postfix)]

def get_filelist2(dir, preffix):
  '''
  按照前缀返回文件名列表
  INPUT -> 目录地址, 文件前缀
  OUTPUT -> 文件名列表
  '''
  return [os.path.join(dir, f) for f in os.listdir(dir) if f.startswith(preffix)]

def get_file_postfix(filename):
  '''
  获取文件名后缀
  INPUT -> 文件名
  OUTPUT -> 文件后缀
  '''
  file = os.path.splitext(filename)
  preffix, postfix = file
  return postfix

def get_file_preffix(filename):
  '''
  获取文件名前缀
  INPUT -> 文件名
  OUTPUT -> 文件前缀
  '''
  file = os.path.splitext(filename)
  preffix, postfix = file
  return preffix

def file_chunkspilt(path, filename, chunksize):
  '''
  文件按照数据块大小分割为多个子文件
  INPUT -> 文件目录, 文件名, 每个数据块大小
  '''
  if chunksize > 0:
    filepath = path+'/'+filename
    partnum = 0
    inputfile = open(filepath, 'rb')
    while True:
      chunk = inputfile.read(chunksize)
      if not chunk:
        break
      partnum += 1
      newfilename = os.path.join(path, (filename+'_%04d' % partnum))
      sub_file = open(newfilename, 'wb')
      sub_file.write(chunk)
      sub_file.close()
    inputfile.close()
  else:
    print('chunksize must bigger than 0!')

def file_linespilt(path, filename, limit):
  '''
  文件按照行分割成多个子文件
  INPUT -> 文件目录, 文件名, 行数
  '''
  if limit > 0:
    preffix = get_file_preffix(filename)
    postfix = get_file_postfix(filename)
    file_count = 0
    l_list = []
    with open(path+'/'+filename, 'rb') as f:
      for line in f:
        l_list.append(line)
        if len(l_list) < limit:
          continue
        subfile = preffix+"_"+str(file_count)+"."+postfix
        with open(FILE_DIR+'/'+subfile, 'wb') as file:
          for l in l_list[:-1]:
            file.write(l)
          file.write(l_list[-1].strip())
          l_list=[]
          file_count += 1
  else:
    print('limit must bigger than 0!')

def file_combine(path, filename):
  '''
  子文件合并
  INPUT -> 文件目录, 文件名
  '''
  filepath = path+'/'+filename
  partnum = 0
  outputfile = open(filepath, 'wb')
  subfile_list = get_filelist2(FILE_DIR, filename+'_')
  for subfile in subfile_list:
    temp = open(subfile, 'rb')
    outputfile.write(temp.read())
    temp.close()
  outputfile.close()

以上就是本文的全部内容,希望对大家的学习有所帮助,也希望大家多多支持三水点靠木。

Python 相关文章推荐
自动化Nginx服务器的反向代理的配置方法
Jun 28 Python
python发送邮件实例分享
Jul 28 Python
Python实现PS滤镜碎片特效功能示例
Jan 24 Python
pandas的object对象转时间对象的方法
Apr 11 Python
对python中数据集划分函数StratifiedShuffleSplit的使用详解
Dec 11 Python
详解python深浅拷贝区别
Jun 24 Python
PyTorch中 tensor.detach() 和 tensor.data 的区别详解
Jan 06 Python
python 中的paramiko模块简介及安装过程
Feb 29 Python
django执行原始查询sql,并返回Dict字典例子
Apr 01 Python
Python文件夹批处理操作代码实例
Jul 21 Python
Python实现迪杰斯特拉算法过程解析
Sep 18 Python
python+selenium实现12306模拟登录的步骤
Jan 21 Python
cProfile Python性能分析工具使用详解
Jul 22 #Python
python实现大文本文件分割
Jul 22 #Python
python plotly绘制直方图实例详解
Jul 22 #Python
python分割一个文本为多个文本的方法
Jul 22 #Python
在linux系统下安装python librtmp包的实现方法
Jul 22 #Python
django搭建项目配置环境和创建表过程详解
Jul 22 #Python
对python中基于tcp协议的通信(数据传输)实例讲解
Jul 22 #Python
You might like
PHP CURL 内存泄露问题解决方法
2015/02/12 PHP
PHP版本的选择5.2.17 5.3.27 5.3.28 5.4 5.5兼容性问题分析
2016/04/04 PHP
php简单实现多维数组排序的方法
2016/09/30 PHP
详谈配置phpstorm完美支持Codeigniter(CI)代码自动完成(代码提示)
2017/04/07 PHP
Laravel实现autoload方法详解
2017/05/07 PHP
PHP的HTTP客户端Guzzle简单使用方法分析
2019/10/30 PHP
jquery下checked取值问题的解决方法
2012/08/09 Javascript
分享8款优秀的 jQuery 加载动画和进度条插件
2012/10/24 Javascript
基于jquery异步传输json数据格式实例代码
2013/11/23 Javascript
angularjs基础教程
2014/12/25 Javascript
jQuery中:checkbox选择器用法实例
2015/01/03 Javascript
jQuery插件Timelinr 实现时间轴特效
2015/10/04 Javascript
JavaScript对象数组的排序处理方法
2015/10/21 Javascript
JavaScript 弹出子窗体并返回结果到父窗体的实现代码
2016/05/28 Javascript
js实现tab切换效果
2017/02/16 Javascript
Node.js连接mongodb实例代码
2017/06/06 Javascript
利用 spin.js 生成等待效果(js 等待效果)
2017/06/25 Javascript
Vue上传组件vue Simple Uploader的用法示例
2017/08/25 Javascript
JS实现求5的阶乘示例
2019/01/21 Javascript
node.js文件操作系统实例详解
2019/11/05 Javascript
JS Ajax请求会话过期处理问题解决方法分析
2019/11/16 Javascript
[50:20]DOTA2上海特级锦标赛主赛事日 - 5 总决赛Liquid VS Secret第四局
2016/03/06 DOTA
用smtplib和email封装python发送邮件模块类分享
2014/02/17 Python
Python 描述符(Descriptor)入门
2016/11/20 Python
python 循环数据赋值实例
2019/12/02 Python
Python 余弦相似度与皮尔逊相关系数 计算实例
2019/12/23 Python
Python 列表的清空方式
2020/01/13 Python
Django自定义列表 models字段显示方式
2020/04/03 Python
基于python实现复制文件并重命名
2020/09/16 Python
mui几种页面跳转方式对比总结概括
2017/08/18 HTML / CSS
AmazeUI 导航条的实现示例
2020/08/14 HTML / CSS
Crocs美国官方网站:卡骆驰洞洞鞋
2017/08/04 全球购物
班会关于环保演讲稿
2013/12/29 职场文书
党建工作经验交流材料
2014/05/25 职场文书
python实现自动清理文件夹旧文件
2021/05/10 Python
golang为什么要统一错误处理
2022/04/03 Golang