利用python在大量数据文件下删除某一行的例子


Posted in Python onAugust 21, 2019

python修改大数据文件时,如果全加载到内存中,可能会导致内存溢出。因此可借用如下方法,将分件分段读取修改。

with open('file.txt', 'r') as old_file:
  with open('file.txt', 'r+') as new_file:

    current_line = 0

    # 定位到需要删除的行
    while current_line < (3 - 1): #(del_line - 1)
      old_file.readline()
      current_line += 1

    # 当前光标在被删除行的行首,记录该位置
    seek_point = old_file.tell()

    # 设置光标位置
    new_file.seek(seek_point, 0)

    # 读需要删除的行,光标移到下一行行首
    old_file.readline()

    # 被删除行的下一行读给 next_line
    next_line = old_file.readline()

    # 连续覆盖剩余行,后面所有行上移一行
    while next_line:
      new_file.write(next_line)
      next_line = old_file.readline()

    # 写完最后一行后截断文件,因为删除操作,文件整体少了一行,原文件最后一行需要去掉
    new_file.truncate()

注:truncate()函数括号可以加数字,表示删除数字之后的字符串,如果不加 就从当前光标处开始截断删除

以上这篇利用python在大量数据文件下删除某一行的例子就是小编分享给大家的全部内容了,希望能给大家一个参考,也希望大家多多支持三水点靠木。

Python 相关文章推荐
python使用百度翻译进行中翻英示例
Apr 14 Python
改进Django中的表单的简单方法
Jul 17 Python
Django admin实现图书管理系统菜鸟级教程完整实例
Dec 12 Python
快速了解Python相对导入
Jan 12 Python
django ajax json的实例代码
May 29 Python
pygame游戏之旅 创建游戏窗口界面
Nov 20 Python
python查询文件夹下excel的sheet名代码实例
Apr 02 Python
python颜色随机生成器的实例代码
Jan 10 Python
python实现一个猜拳游戏
Apr 05 Python
PyPDF2读取PDF文件内容保存到本地TXT实例
May 12 Python
python设置中文界面实例方法
Oct 27 Python
python实现定时发送邮件
Dec 23 Python
Python 仅获取响应头, 不获取实体的实例
Aug 21 #Python
详解用Python为直方图绘制拟合曲线的两种方法
Aug 21 #Python
Python 使用指定的网卡发送HTTP请求的实例
Aug 21 #Python
Python turtle绘画象棋棋盘
Aug 21 #Python
Python随机函数库random的使用方法详解
Aug 21 #Python
Django+zTree构建组织架构树的方法
Aug 21 #Python
python的移位操作实现详解
Aug 21 #Python
You might like
PHP 常用数组内部函数(Array Functions)介绍
2013/06/05 PHP
php表单提交实例讲解
2015/11/12 PHP
PHP对称加密函数实现数据的加密解密
2016/10/27 PHP
PHP迭代与递归实现无限级分类
2017/08/28 PHP
JQuery UI DatePicker中z-index默认为1的解决办法
2010/09/28 Javascript
jQuery实现带幻灯的tab滑动切换风格菜单代码
2015/08/27 Javascript
JavaScript的MVVM库Vue.js入门学习笔记
2016/05/03 Javascript
jQuery监听浏览器窗口大小的变化实例
2017/02/07 Javascript
基于JS实现9种不同的面包屑和分布式多步骤导航效果
2017/02/21 Javascript
jQuery正则验证注册页面经典实例
2017/06/10 jQuery
jQuery简单实现向列表动态添加新元素的方法示例
2017/12/25 jQuery
JavaScript学习笔记之DOM基础操作实例小结
2019/01/09 Javascript
解决antd Form 表单校验方法无响应的问题
2020/10/27 Javascript
Python中使用Queue和Condition进行线程同步的方法
2016/01/19 Python
解读! Python在人工智能中的作用
2017/11/14 Python
深入理解Python3 内置函数大全
2017/11/23 Python
NetworkX之Prim算法(实例讲解)
2017/12/22 Python
numpy.std() 计算矩阵标准差的方法
2018/07/11 Python
使用celery和Django处理异步任务的流程分析
2020/02/19 Python
python GUI库图形界面开发之PyQt5控件QTableWidget详细使用方法与属性
2020/02/25 Python
python3 deque 双向队列创建与使用方法分析
2020/03/24 Python
详解python3 GUI刷屏器(附源码)
2021/02/18 Python
Keras保存模型并载入模型继续训练的实现
2021/02/20 Python
超酷炫 CSS3垂直手风琴菜单
2016/06/28 HTML / CSS
html5+css3进度条倒计时动画特效代码【推荐】
2016/03/08 HTML / CSS
La Redoute英国官网:法国时尚品牌
2017/04/27 全球购物
美国紧身牛仔裤品牌:NYDJ
2017/05/24 全球购物
房地产销售计划书
2014/01/10 职场文书
2014年五一劳动节社区活动总结
2014/04/14 职场文书
残疾人小组计划书
2014/04/27 职场文书
充分就业社区汇报材料
2014/05/07 职场文书
社区服务标语
2014/07/01 职场文书
音乐教育专业自荐信
2014/09/18 职场文书
2014年“世界无车日”活动方案
2014/09/21 职场文书
市委召开党的群众路线教育实践活动总结大会报告
2014/10/21 职场文书
Python数据分析之绘图和可视化详解
2021/06/02 Python