利用pandas向一个csv文件追加写入数据的实现示例


Posted in Python onApril 23, 2020

我们越来越多的使用pandas进行数据处理,有时需要向一个已经存在的csv文件写入数据,传统的方法之前我也有些过,向txt,excel文件写入数据,传送门:Python将二维列表(list)的数据输出(TXT,Excel)

pandas to_csv()只能在新文件写数据?当然不是!

pandas to_csv() 是可以向已经存在的具有相同结构的csv文件增加dataframe数据。

df.to_csv('my_csv.csv', mode='a', header=False)

to_csv()方法mode默认为w,我们加上mode='a',便可以追加写入数据。

pandas读写文件,处理数据的效率太高了,所以我们尽量使用pandas的进行输出。

下面让我们来看一下示例

# -*- coding:utf-8 -*-
import os
import time
import pandas as pd
 
from multiprocessing import Pool
 
def merge(filename):
  return pd.read_csv('./fun_data/'+filename)
 
if __name__ == "__main__":
  file_list = os.listdir('./fun_data')
  e1 = time.time()
 
  pool = Pool(20)
  result = pool.map(merge,file_list)
  pool.close()
  pool.join()
 
  e2 = time.time()
  print(e2 - e1)
 
  for i in result:
    i.to_csv('./static.csv',mode='a',encoding='utf-8',header=False,index=False)
  e3 = time.time()
  print(e3-e2)

到此这篇关于利用pandas向一个csv文件追加写入数据的实现示例的文章就介绍到这了,更多相关pandas csv追加写入内容请搜索三水点靠木以前的文章或继续浏览下面的相关文章希望大家以后多多支持三水点靠木! 

Python 相关文章推荐
实例解析Python的Twisted框架中Deferred对象的用法
May 25 Python
Python获取某一天是星期几的方法示例
Jan 17 Python
Python 基础之字符串string详解及实例
Apr 01 Python
python OpenCV学习笔记之绘制直方图的方法
Feb 08 Python
python 实现多线程下载m3u8格式视频并使用fmmpeg合并
Nov 15 Python
python中提高pip install速度
Feb 14 Python
ubuntu 安装pyqt5和卸载pyQt5的方法
Mar 24 Python
Keras 使用 Lambda层详解
Jun 10 Python
浅谈matplotlib中FigureCanvasXAgg的用法
Jun 16 Python
.img/.hdr格式转.nii格式的操作
Jul 01 Python
解决pip安装的第三方包在PyCharm无法导入的问题
Oct 15 Python
Python实现我的世界小游戏源代码
Mar 02 Python
在matplotlib中改变figure的布局和大小实例
Apr 23 #Python
Python将二维列表list的数据输出(TXT,Excel)
Apr 23 #Python
Python基于DB-API操作MySQL数据库过程解析
Apr 23 #Python
详解pandas绘制矩阵散点图(scatter_matrix)的方法
Apr 23 #Python
Python matplotlib实时画图案例
Apr 23 #Python
windows下的pycharm安装及其设置中文菜单
Apr 23 #Python
使用python+poco+夜神模拟器进行自动化测试实例
Apr 23 #Python
You might like
Yii查询生成器(Query Builder)用法实例教程
2014/09/04 PHP
PHP的PDO操作简单示例
2016/03/30 PHP
PHP自定义图片缩放函数实现等比例不失真缩放的方法
2016/08/19 PHP
php+js实现的无刷新下载文件功能示例
2019/08/23 PHP
Laravel中validation验证 返回中文提示 全局设置的方法
2019/09/29 PHP
js 无提示关闭浏览器页面的代码
2010/03/09 Javascript
基于jQuery的倒计时插件代码
2011/05/07 Javascript
jquery限制输入字数,并提示剩余字数实现代码
2012/12/24 Javascript
Jquery的hide及toggle方法让超链接慢慢消失
2013/09/06 Javascript
JavaScript中的Math 使用介绍
2014/04/21 Javascript
jQuery实现鼠标滚轮动态改变样式或效果
2015/01/05 Javascript
使用JavaScript开发IE浏览器本地插件实例
2015/02/18 Javascript
DOM中事件处理概览与原理的全面解析
2016/08/16 Javascript
jQuery实现的放大镜效果示例
2016/09/13 Javascript
微信小程序 JS动态修改样式的实现代码
2017/02/10 Javascript
如何解决vue与传统jquery插件冲突
2017/03/20 Javascript
vue自定义过滤器创建和使用方法详解
2017/11/06 Javascript
微信小程序实现图片预览功能
2018/01/31 Javascript
vue中阻止click事件冒泡,防止触发另一个事件的方法
2018/02/08 Javascript
vue生成token并保存到本地存储中
2018/07/17 Javascript
解决vue keep-alive 数据更新的问题
2018/09/21 Javascript
[38:23]2014 DOTA2国际邀请赛中国区预选赛 5 23 CIS VS LGD第一场
2014/05/24 DOTA
[02:05]2014DOTA2西雅图国际邀请赛 BBC第二天小组赛总结
2014/07/11 DOTA
尝试使用Python多线程抓取代理服务器IP地址的示例
2015/11/09 Python
python处理大日志文件
2019/07/23 Python
Python 面向对象部分知识点小结
2020/03/09 Python
Python JSON常用编解码方法代码实例
2020/09/05 Python
如何用Python绘制3D柱形图
2020/09/16 Python
舒适的豪华鞋:Taryn Rose
2018/05/03 全球购物
会计自荐书
2013/12/02 职场文书
客服工作职责
2013/12/11 职场文书
加拿大留学自荐信
2014/01/28 职场文书
高中军训感言200字
2014/02/23 职场文书
学习礼仪心得体会
2014/09/01 职场文书
党员组织生活会发言材料
2014/10/17 职场文书
Go gRPC进阶教程gRPC转换HTTP
2022/06/16 Golang