利用pandas向一个csv文件追加写入数据的实现示例


Posted in Python onApril 23, 2020

我们越来越多的使用pandas进行数据处理,有时需要向一个已经存在的csv文件写入数据,传统的方法之前我也有些过,向txt,excel文件写入数据,传送门:Python将二维列表(list)的数据输出(TXT,Excel)

pandas to_csv()只能在新文件写数据?当然不是!

pandas to_csv() 是可以向已经存在的具有相同结构的csv文件增加dataframe数据。

df.to_csv('my_csv.csv', mode='a', header=False)

to_csv()方法mode默认为w,我们加上mode='a',便可以追加写入数据。

pandas读写文件,处理数据的效率太高了,所以我们尽量使用pandas的进行输出。

下面让我们来看一下示例

# -*- coding:utf-8 -*-
import os
import time
import pandas as pd
 
from multiprocessing import Pool
 
def merge(filename):
  return pd.read_csv('./fun_data/'+filename)
 
if __name__ == "__main__":
  file_list = os.listdir('./fun_data')
  e1 = time.time()
 
  pool = Pool(20)
  result = pool.map(merge,file_list)
  pool.close()
  pool.join()
 
  e2 = time.time()
  print(e2 - e1)
 
  for i in result:
    i.to_csv('./static.csv',mode='a',encoding='utf-8',header=False,index=False)
  e3 = time.time()
  print(e3-e2)

到此这篇关于利用pandas向一个csv文件追加写入数据的实现示例的文章就介绍到这了,更多相关pandas csv追加写入内容请搜索三水点靠木以前的文章或继续浏览下面的相关文章希望大家以后多多支持三水点靠木! 

Python 相关文章推荐
Python文件夹与文件的操作实现代码
Jul 13 Python
python PyTorch参数初始化和Finetune
Feb 11 Python
Python3.6通过自带的urllib通过get或post方法请求url的实例
May 10 Python
python修改txt文件中的某一项方法
Dec 29 Python
Python3远程监控程序的实现方法
Jul 15 Python
用Python徒手撸一个股票回测框架搭建【推荐】
Aug 05 Python
python爬取Ajax动态加载网页过程解析
Sep 05 Python
Python使用__new__()方法为对象分配内存及返回对象的引用示例
Sep 20 Python
python实现的Iou与Giou代码
Jan 18 Python
Python+kivy BoxLayout布局示例代码详解
Dec 28 Python
pycharm2021激活码使用教程(永久激活亲测可用)
Mar 30 Python
python如何正确使用yield
May 21 Python
在matplotlib中改变figure的布局和大小实例
Apr 23 #Python
Python将二维列表list的数据输出(TXT,Excel)
Apr 23 #Python
Python基于DB-API操作MySQL数据库过程解析
Apr 23 #Python
详解pandas绘制矩阵散点图(scatter_matrix)的方法
Apr 23 #Python
Python matplotlib实时画图案例
Apr 23 #Python
windows下的pycharm安装及其设置中文菜单
Apr 23 #Python
使用python+poco+夜神模拟器进行自动化测试实例
Apr 23 #Python
You might like
简单介绍下 PHP5 中引入的 MYSQLI的用途
2007/03/19 PHP
PHP中的str_repeat函数在JavaScript中的实现
2013/09/16 PHP
PHP随机获取未被微信屏蔽的域名(微信域名检测)
2017/03/19 PHP
javascript编程起步(第五课)
2007/01/10 Javascript
jquery1.4.2 for Visual studio 2010 模板文件
2010/07/14 Javascript
解析jquery中的ajax缓存问题
2013/12/19 Javascript
javascript白色简洁计算器
2015/05/04 Javascript
js实现卡片式项目管理界面UI设计效果
2015/12/08 Javascript
基于jquery编写分页插件
2016/03/07 Javascript
JavaScript数据绑定实现一个简单的 MVVM 库
2016/04/08 Javascript
ExtJs异步无法向外传值和赋值的完美解决办法
2017/06/14 Javascript
激动人心的 Angular HttpClient的源码解析
2017/07/10 Javascript
Angular 2 利用Router事件和Title实现动态页面标题的方法
2017/08/23 Javascript
微信小程序仿美团城市选择
2018/06/06 Javascript
JavaScript插入排序算法原理与实现方法示例
2018/08/06 Javascript
教你使用vue-cli快速构建的小说阅读器
2019/05/13 Javascript
微信小程序wepy框架学习和使用心得详解
2019/05/24 Javascript
js实现贪吃蛇游戏(简易版)
2020/09/29 Javascript
Python 条件判断的缩写方法
2008/09/06 Python
videocapture库制作python视频高速传输程序
2013/12/23 Python
详解appium+python 启动一个app步骤
2017/12/20 Python
kaggle+mnist实现手写字体识别
2018/07/26 Python
pandas的排序和排名的具体使用
2019/07/31 Python
python实现批处理文件
2020/07/28 Python
AmazeUI 网格的实现示例
2020/08/13 HTML / CSS
Allsole美国/加拿大:英国一家专门出售品牌鞋子的网站
2018/10/21 全球购物
罗技英国官方网站:Logitech UK
2020/11/03 全球购物
医药销售求职信范文
2014/02/01 职场文书
大二法学专业职业生涯规划范文
2014/02/12 职场文书
四查四看整改措施
2014/09/19 职场文书
自查自纠工作情况报告
2014/10/29 职场文书
研究生个人学年总结
2015/02/14 职场文书
画展观后感
2015/06/17 职场文书
奠基仪式致辞
2015/07/30 职场文书
2015年幼儿园师德师风建设工作总结
2015/10/23 职场文书
导游词之山西关帝庙
2019/11/01 职场文书