利用pandas向一个csv文件追加写入数据的实现示例


Posted in Python onApril 23, 2020

我们越来越多的使用pandas进行数据处理,有时需要向一个已经存在的csv文件写入数据,传统的方法之前我也有些过,向txt,excel文件写入数据,传送门:Python将二维列表(list)的数据输出(TXT,Excel)

pandas to_csv()只能在新文件写数据?当然不是!

pandas to_csv() 是可以向已经存在的具有相同结构的csv文件增加dataframe数据。

df.to_csv('my_csv.csv', mode='a', header=False)

to_csv()方法mode默认为w,我们加上mode='a',便可以追加写入数据。

pandas读写文件,处理数据的效率太高了,所以我们尽量使用pandas的进行输出。

下面让我们来看一下示例

# -*- coding:utf-8 -*-
import os
import time
import pandas as pd
 
from multiprocessing import Pool
 
def merge(filename):
  return pd.read_csv('./fun_data/'+filename)
 
if __name__ == "__main__":
  file_list = os.listdir('./fun_data')
  e1 = time.time()
 
  pool = Pool(20)
  result = pool.map(merge,file_list)
  pool.close()
  pool.join()
 
  e2 = time.time()
  print(e2 - e1)
 
  for i in result:
    i.to_csv('./static.csv',mode='a',encoding='utf-8',header=False,index=False)
  e3 = time.time()
  print(e3-e2)

到此这篇关于利用pandas向一个csv文件追加写入数据的实现示例的文章就介绍到这了,更多相关pandas csv追加写入内容请搜索三水点靠木以前的文章或继续浏览下面的相关文章希望大家以后多多支持三水点靠木! 

Python 相关文章推荐
Django实现自定义404,500页面教程
Mar 26 Python
老生常谈Python startswith()函数与endswith函数
Sep 08 Python
Python反射用法实例简析
Dec 22 Python
Python3 queue队列模块详细介绍
Jan 05 Python
python实现快速排序的示例(二分法思想)
Mar 12 Python
Python3.4解释器用法简单示例
Mar 22 Python
python fuzzywuzzy模块模糊字符串匹配详细用法
Aug 29 Python
Python容器使用的5个技巧和2个误区总结
Sep 26 Python
Python和Sublime整合过程图示
Dec 25 Python
pycharm 2019 最新激活方式(pycharm破解、激活)
Sep 22 Python
python中前缀运算符 *和 **的用法示例详解
May 28 Python
python实现PolynomialFeatures多项式的方法
Jan 06 Python
在matplotlib中改变figure的布局和大小实例
Apr 23 #Python
Python将二维列表list的数据输出(TXT,Excel)
Apr 23 #Python
Python基于DB-API操作MySQL数据库过程解析
Apr 23 #Python
详解pandas绘制矩阵散点图(scatter_matrix)的方法
Apr 23 #Python
Python matplotlib实时画图案例
Apr 23 #Python
windows下的pycharm安装及其设置中文菜单
Apr 23 #Python
使用python+poco+夜神模拟器进行自动化测试实例
Apr 23 #Python
You might like
非常好用的两个PHP函数 serialize()和unserialize()
2012/02/04 PHP
Laravel5.3+框架定义API路径取消CSRF保护方法详解
2020/04/06 PHP
javascript 读取XML数据,在页面中展现、编辑、保存的实现
2009/10/27 Javascript
JavaScript Event学习第七章 事件属性
2010/02/07 Javascript
悄悄用脚本检查你访问过哪些网站的代码
2010/12/04 Javascript
javascript中apply和call方法的作用及区别说明
2014/02/14 Javascript
href下载文件根据id取url并下载
2014/05/28 Javascript
javascript的BOM汇总
2015/07/16 Javascript
jquery动态增加删减表格行特效
2015/11/20 Javascript
jQuery对checkbox 复选框的全选全不选反选的操作
2016/08/09 Javascript
微信小程序 animation API详解及实例代码
2016/10/08 Javascript
js实现省市级联效果分享
2017/08/10 Javascript
使用DataTable插件实现异步加载数据
2017/11/19 Javascript
JavaScript生成随机验证码代码实例
2019/09/28 Javascript
Vue脚手架编写试卷页面功能
2020/03/17 Javascript
JavaScript ES 模块的使用
2020/11/12 Javascript
从零学Python之hello world
2014/05/21 Python
python3.0 模拟用户登录,三次错误锁定的实例
2017/11/02 Python
python实现感知器
2017/12/19 Python
scrapy爬虫实例分享
2017/12/28 Python
Python从零开始创建区块链
2018/03/06 Python
对python制作自己的数据集实例讲解
2018/12/12 Python
对Python中的条件判断、循环以及循环的终止方法详解
2019/02/08 Python
使用Python制作表情包实现换脸功能
2019/07/19 Python
pandas条件组合筛选和按范围筛选的示例代码
2019/08/26 Python
安装2019Pycharm最新版本的教程详解
2019/10/22 Python
python爬虫开发之PyQuery模块详细使用方法与实例全解
2020/03/09 Python
python+selenium 脚本实现每天自动登记的思路详解
2020/03/11 Python
Python调用OpenCV实现图像平滑代码实例
2020/06/19 Python
高职教师岗位职责
2013/12/24 职场文书
单位未婚证明范本
2014/01/18 职场文书
伦敦奥运会的口号
2014/06/21 职场文书
学习“七一”讲话精神体会
2014/07/08 职场文书
员工安全责任协议书
2016/03/22 职场文书
导游词之永泰公主墓
2019/12/04 职场文书
Python音乐爬虫完美绕过反爬
2021/08/30 Python