利用python在大量数据文件下删除某一行的例子


Posted in Python onAugust 21, 2019

python修改大数据文件时,如果全加载到内存中,可能会导致内存溢出。因此可借用如下方法,将分件分段读取修改。

with open('file.txt', 'r') as old_file:
  with open('file.txt', 'r+') as new_file:

    current_line = 0

    # 定位到需要删除的行
    while current_line < (3 - 1): #(del_line - 1)
      old_file.readline()
      current_line += 1

    # 当前光标在被删除行的行首,记录该位置
    seek_point = old_file.tell()

    # 设置光标位置
    new_file.seek(seek_point, 0)

    # 读需要删除的行,光标移到下一行行首
    old_file.readline()

    # 被删除行的下一行读给 next_line
    next_line = old_file.readline()

    # 连续覆盖剩余行,后面所有行上移一行
    while next_line:
      new_file.write(next_line)
      next_line = old_file.readline()

    # 写完最后一行后截断文件,因为删除操作,文件整体少了一行,原文件最后一行需要去掉
    new_file.truncate()

注:truncate()函数括号可以加数字,表示删除数字之后的字符串,如果不加 就从当前光标处开始截断删除

以上这篇利用python在大量数据文件下删除某一行的例子就是小编分享给大家的全部内容了,希望能给大家一个参考,也希望大家多多支持三水点靠木。

Python 相关文章推荐
python聊天程序实例代码分享
Nov 18 Python
python基于BeautifulSoup实现抓取网页指定内容的方法
Jul 09 Python
深入浅析Python中join 和 split详解(推荐)
Jun 30 Python
解决PyCharm控制台输出乱码的问题
Jan 16 Python
Python实现打砖块小游戏代码实例
May 18 Python
python字典一键多值实例代码分享
Jun 14 Python
Python 解决相对路径问题:&quot;No such file or directory&quot;
Jun 05 Python
基于matplotlib中ion()和ioff()的使用详解
Jun 16 Python
如何用Matlab和Python读取Netcdf文件
Feb 19 Python
python 经纬度求两点距离、三点面积操作
Jun 03 Python
基于python定位棋子位置及识别棋子颜色
Jul 26 Python
Python编程源码报错解决方法总结经验分享
Oct 05 Python
Python 仅获取响应头, 不获取实体的实例
Aug 21 #Python
详解用Python为直方图绘制拟合曲线的两种方法
Aug 21 #Python
Python 使用指定的网卡发送HTTP请求的实例
Aug 21 #Python
Python turtle绘画象棋棋盘
Aug 21 #Python
Python随机函数库random的使用方法详解
Aug 21 #Python
Django+zTree构建组织架构树的方法
Aug 21 #Python
python的移位操作实现详解
Aug 21 #Python
You might like
可以在线执行PHP代码包装修正版
2008/03/15 PHP
使用Sphinx对索引进行搜索
2013/06/25 PHP
php session_start()出错原因分析及解决方法
2013/10/28 PHP
在Laravel 的 Blade 模版中实现定义变量
2019/10/14 PHP
jQuery客户端分页实例代码
2013/11/18 Javascript
Node.js中调用mysql存储过程示例
2014/12/20 Javascript
js实现的牛顿摆效果
2015/03/31 Javascript
JS模式之简单的订阅者和发布者模式完整实例
2015/06/30 Javascript
js实现仿京东2级菜单效果(带延时功能)
2015/08/27 Javascript
在Html中使用Requirejs进行模块化开发实例详解
2016/04/15 Javascript
Jqprint实现页面打印
2017/01/06 Javascript
jQuery实现单击按钮遮罩弹出对话框效果(2)
2017/02/20 Javascript
jQuery访问浏览器本地存储cookie、localStorage和sessionStorage的基本用法
2017/10/20 jQuery
vue中的计算属性的使用和vue实例的方法示例
2017/12/04 Javascript
javascript trie前缀树的示例
2018/01/29 Javascript
JS基于开关思想实现的数组去重功能【案例】
2019/02/18 Javascript
Vue.js中的extend绑定节点并显示的方法
2019/06/20 Javascript
Auto.JS实现抖音刷宝等刷视频app,自动点赞,自动滑屏,自动切换视频功能
2020/05/08 Javascript
JavaScript快速调试的两个技巧
2020/11/04 Javascript
Vue实现简单购物车功能
2020/12/13 Vue.js
Python中使用urllib2防止302跳转的代码例子
2014/07/07 Python
用python写一个windows下的定时关机脚本(推荐)
2017/03/21 Python
python爬虫入门教程--优雅的HTTP库requests(二)
2017/05/25 Python
Mac 上切换Python多版本
2017/06/17 Python
Python调用C++,通过Pybind11制作Python接口
2018/10/16 Python
python:解析requests返回的response(json格式)说明
2020/04/30 Python
部署Django到阿里云服务器教程示例
2020/06/03 Python
The Hut美国/加拿大:英国领先的豪华在线百货商店
2019/03/26 全球购物
资深地理教师自我评价
2013/09/21 职场文书
市场营销专科应届生求职信
2013/11/24 职场文书
施工资料员的岗位职责
2013/12/22 职场文书
担保书怎么写
2014/04/01 职场文书
私人委托书格式
2014/09/10 职场文书
2014大学生批评与自我批评思想汇报
2014/09/21 职场文书
地下停车场租赁协议范本
2014/10/07 职场文书
pytorch DataLoader的num_workers参数与设置大小详解
2021/05/28 Python