python批量读取txt文件为DataFrame的方法


Posted in Python onApril 03, 2018

我们有时候会批量处理同一个文件夹下的文件,并且希望读取到一个文件里面便于我们计算操作。比方我有下图一系列的txt文件,我该如何把它们写入一个txt文件中并且读取为DataFrame格式呢?

python批量读取txt文件为DataFrame的方法

首先我们要用到glob模块,这个python内置的模块可以说是非常的好用。

glob.glob('*.txt')

得到如下结果:

python批量读取txt文件为DataFrame的方法

all.txt是我最后得到的结果文件。可以见返回的是一个包含txt文件名称的列表,当然如果你的文件夹下面只有txt文件,那么你用os.listdir()可以得到一个一样的列表

然后读取的时候只要注意txt文件的编码格式(可以用notepad++打开记事本查看)和间隔符的形式就好了,完整的代码如下:

import os
import pandas
import codecs
import glob
import pandas as pd
os.getcwd()
os.chdir('D:\AAAASXQ\python study\data preprocessing')
def txtcombine():
 
 files = glob.glob('*.txt')
 
 all = codecs.open('all.txt','a')
 
 for filename in flist: 
 print(filename) 
 fopen=codecs.open(filename,'r',encoding='utf-8') 
 lines=[] 
 lines=fopen.readlines() 
 fopen.close() 
 i=0 
 for line in lines: 
  for x in line: 
  all.write(x)
 #读取为DataFrame格式
 all1 = pd.read_csv('all.txt',sep=' ',encoding='GB2312')
 #保存为csv格式
 all1.to_csv('all.csv',encoding='GB2312')
 
if __name__ == '__main__': 
 txtcombine()

以上这篇python批量读取txt文件为DataFrame的方法就是小编分享给大家的全部内容了,希望能给大家一个参考,也希望大家多多支持三水点靠木。

Python 相关文章推荐
python函数的5种参数详解
Feb 24 Python
python实现机械分词之逆向最大匹配算法代码示例
Dec 13 Python
Python实现去除列表中重复元素的方法小结【4种方法】
Apr 27 Python
python实现dijkstra最短路由算法
Jan 17 Python
Python实现Linux监控的方法
May 16 Python
python 3.74 运行import numpy as np 报错lib\site-packages\numpy\__init__.py
Oct 06 Python
Python OpenCV视频截取并保存实现代码
Nov 30 Python
如何把外网python虚拟环境迁移到内网
May 18 Python
python中列表的含义及用法
May 26 Python
python实现mask矩阵示例(根据列表所给元素)
Jul 30 Python
超级实用的8个Python列表技巧
Aug 24 Python
pytorch 把图片数据转化成tensor的操作
Mar 04 Python
python逐行读写txt文件的实例讲解
Apr 03 #Python
Python实现的计算马氏距离算法示例
Apr 03 #Python
python2.7无法使用pip的解决方法(安装easy_install)
Apr 03 #Python
快速解决安装python没有scripts文件夹的问题
Apr 03 #Python
Python中将变量按行写入txt文本中的方法
Apr 03 #Python
python使用tensorflow深度学习识别验证码
Apr 03 #Python
使用python获取csv文本的某行或某列数据的实例
Apr 03 #Python
You might like
php读取大文件示例分享(文件操作类)
2014/04/13 PHP
PHP获取数组长度或某个值出现次数的方法
2015/02/11 PHP
php使用Jpgraph创建折线图效果示例
2017/02/15 PHP
JavaScript 闭包深入理解(closure)
2009/05/27 Javascript
JS 实现完美include载入实现代码
2010/08/05 Javascript
ie8 不支持new Date(2012-11-10)问题的解决方法
2013/07/31 Javascript
jquery ajax应用中iframe自适应高度问题解决方法
2014/04/12 Javascript
在页面加载完成后通过jquery给多个span赋值
2014/05/21 Javascript
javascript搜索框效果实现方法
2015/05/14 Javascript
JavaScript提升性能的常用技巧总结【经典】
2016/06/20 Javascript
关于Javascript回调函数的一个妙用
2016/08/29 Javascript
原生JS:Date对象全面解析
2016/09/06 Javascript
微信小程序 点击控件后选中其它反选实例详解
2017/02/21 Javascript
vue中子组件调用兄弟组件方法
2018/07/06 Javascript
傻瓜式vuex语法糖kiss-vuex整理
2018/12/21 Javascript
vue实现后台管理权限系统及顶栏三级菜单显示功能
2019/06/19 Javascript
如何给element添加一个抽屉组件的方法步骤
2019/07/14 Javascript
Python实现的异步代理爬虫及代理池
2017/03/17 Python
Numpy数据类型转换astype,dtype的方法
2018/06/09 Python
对python中的six.moves模块的下载函数urlretrieve详解
2018/12/19 Python
Python使用reportlab模块生成PDF格式的文档
2019/03/11 Python
python面向对象法实现图书管理系统
2019/04/19 Python
python交互模式下输入换行/输入多行命令的方法
2019/07/02 Python
Python 绘制酷炫的三维图步骤详解
2019/07/12 Python
Django中多种重定向方法使用详解
2019/07/17 Python
python列表返回重复数据的下标
2020/02/10 Python
django orm模块中的 is_delete用法
2020/05/20 Python
python文件排序的方法总结
2020/09/13 Python
关于PyCharm安装后修改路径名称使其可重新打开的问题
2020/10/20 Python
解决pytorch 保存模型遇到的问题
2021/03/03 Python
美国男士和女士奢侈品折扣手表购物网站:Certified Watch Store
2018/06/13 全球购物
信用卡逾期证明示例
2014/09/13 职场文书
中学生旷课检讨书500字
2014/10/29 职场文书
督导岗位职责
2015/02/04 职场文书
王亚平太空授课观后感
2015/06/12 职场文书
幼儿园中班教学反思
2016/03/03 职场文书