利用pandas向一个csv文件追加写入数据的实现示例


Posted in Python onApril 23, 2020

我们越来越多的使用pandas进行数据处理,有时需要向一个已经存在的csv文件写入数据,传统的方法之前我也有些过,向txt,excel文件写入数据,传送门:Python将二维列表(list)的数据输出(TXT,Excel)

pandas to_csv()只能在新文件写数据?当然不是!

pandas to_csv() 是可以向已经存在的具有相同结构的csv文件增加dataframe数据。

df.to_csv('my_csv.csv', mode='a', header=False)

to_csv()方法mode默认为w,我们加上mode='a',便可以追加写入数据。

pandas读写文件,处理数据的效率太高了,所以我们尽量使用pandas的进行输出。

下面让我们来看一下示例

# -*- coding:utf-8 -*-
import os
import time
import pandas as pd
 
from multiprocessing import Pool
 
def merge(filename):
  return pd.read_csv('./fun_data/'+filename)
 
if __name__ == "__main__":
  file_list = os.listdir('./fun_data')
  e1 = time.time()
 
  pool = Pool(20)
  result = pool.map(merge,file_list)
  pool.close()
  pool.join()
 
  e2 = time.time()
  print(e2 - e1)
 
  for i in result:
    i.to_csv('./static.csv',mode='a',encoding='utf-8',header=False,index=False)
  e3 = time.time()
  print(e3-e2)

到此这篇关于利用pandas向一个csv文件追加写入数据的实现示例的文章就介绍到这了,更多相关pandas csv追加写入内容请搜索三水点靠木以前的文章或继续浏览下面的相关文章希望大家以后多多支持三水点靠木! 

Python 相关文章推荐
Python实现获取操作系统版本信息方法
Apr 08 Python
简化Python的Django框架代码的一些示例
Apr 20 Python
Python 通过pip安装Django详细介绍
Apr 28 Python
Python装饰器实现几类验证功能做法实例
May 18 Python
Python设计模式之代理模式简单示例
Jan 09 Python
python+numpy+matplotalib实现梯度下降法
Aug 31 Python
Python实现带下标索引的遍历操作示例
May 30 Python
Python使用get_text()方法从大段html中提取文本的实例
Aug 27 Python
对pytorch的函数中的group参数的作用介绍
Feb 18 Python
浅析python标准库中的glob
Mar 13 Python
Pyecharts地图显示不完成问题解决方案
May 11 Python
详解Python多线程下的list
Jul 03 Python
在matplotlib中改变figure的布局和大小实例
Apr 23 #Python
Python将二维列表list的数据输出(TXT,Excel)
Apr 23 #Python
Python基于DB-API操作MySQL数据库过程解析
Apr 23 #Python
详解pandas绘制矩阵散点图(scatter_matrix)的方法
Apr 23 #Python
Python matplotlib实时画图案例
Apr 23 #Python
windows下的pycharm安装及其设置中文菜单
Apr 23 #Python
使用python+poco+夜神模拟器进行自动化测试实例
Apr 23 #Python
You might like
php构造函数与析构函数
2016/04/23 PHP
Laravel学习教程之路由模块
2017/08/18 PHP
PHP Post获取不到非表单数据的问题解决办法
2018/02/27 PHP
yii2多图上传组件的使用教程
2018/05/10 PHP
php支付宝系列之电脑网站支付
2018/05/30 PHP
ie和firefox中img对象区别的困惑
2006/12/27 Javascript
通过Jquery遍历Json的两种数据结构的实现代码
2011/01/19 Javascript
8个超棒的学习 jQuery 的网站 推荐收藏
2011/04/02 Javascript
javascript获取系统当前时间的方法
2015/11/19 Javascript
关于动态执行代码(js的Eval)实例详解
2016/08/15 Javascript
微信小程序 Button 组件详解及简单实例
2017/01/10 Javascript
原生JS实现不断变化的标签
2017/05/22 Javascript
BootStrap 动态表单效果
2017/06/02 Javascript
mui back 返回刷新页面的实例
2017/12/06 Javascript
解决js ajax同步请求造成浏览器假死的问题
2018/01/18 Javascript
jquery ajaxfileuplod 上传文件 essyui laoding 效果【防止重复上传文件】
2018/05/26 jQuery
浅析Vue项目中使用keep-Alive步骤
2018/07/27 Javascript
JavaScript find()方法及返回数据实例
2020/04/30 Javascript
OpenLayer3自定义测量控件MeasureTool
2020/09/28 Javascript
vue实现点击出现操作弹出框的示例
2020/11/05 Javascript
JavaScript实现网页tab栏效果制作
2020/11/20 Javascript
pandas使用get_dummies进行one-hot编码的方法
2018/07/10 Python
500行代码使用python写个微信小游戏飞机大战游戏
2019/10/16 Python
Python序列对象与String类型内置方法详解
2019/10/22 Python
Python 3.8 新功能大揭秘【新手必学】
2020/02/05 Python
pandas读取csv文件提示不存在的解决方法及原因分析
2020/04/21 Python
CSS3教程(4):网页边框和网页文字阴影
2009/04/02 HTML / CSS
你应该知道的30个css选择器
2014/03/19 HTML / CSS
俄罗斯汽车零件和配件在线商店:CarvilleShop
2019/11/29 全球购物
自我评价中英文语句
2013/11/30 职场文书
通用求职信范文模板分享
2013/12/27 职场文书
运动会致辞稿50字
2014/02/04 职场文书
校庆活动策划方案
2014/06/05 职场文书
节约每一滴水演讲稿
2014/09/09 职场文书
2015年小学生新年寄语
2014/12/08 职场文书
html中两种获取标签内的值的方法
2022/06/16 jQuery