利用pandas向一个csv文件追加写入数据的实现示例


Posted in Python onApril 23, 2020

我们越来越多的使用pandas进行数据处理,有时需要向一个已经存在的csv文件写入数据,传统的方法之前我也有些过,向txt,excel文件写入数据,传送门:Python将二维列表(list)的数据输出(TXT,Excel)

pandas to_csv()只能在新文件写数据?当然不是!

pandas to_csv() 是可以向已经存在的具有相同结构的csv文件增加dataframe数据。

df.to_csv('my_csv.csv', mode='a', header=False)

to_csv()方法mode默认为w,我们加上mode='a',便可以追加写入数据。

pandas读写文件,处理数据的效率太高了,所以我们尽量使用pandas的进行输出。

下面让我们来看一下示例

# -*- coding:utf-8 -*-
import os
import time
import pandas as pd
 
from multiprocessing import Pool
 
def merge(filename):
  return pd.read_csv('./fun_data/'+filename)
 
if __name__ == "__main__":
  file_list = os.listdir('./fun_data')
  e1 = time.time()
 
  pool = Pool(20)
  result = pool.map(merge,file_list)
  pool.close()
  pool.join()
 
  e2 = time.time()
  print(e2 - e1)
 
  for i in result:
    i.to_csv('./static.csv',mode='a',encoding='utf-8',header=False,index=False)
  e3 = time.time()
  print(e3-e2)

到此这篇关于利用pandas向一个csv文件追加写入数据的实现示例的文章就介绍到这了,更多相关pandas csv追加写入内容请搜索三水点靠木以前的文章或继续浏览下面的相关文章希望大家以后多多支持三水点靠木! 

Python 相关文章推荐
python使用pil生成图片验证码的方法
May 08 Python
python实现合并两个数组的方法
May 16 Python
Python向日志输出中添加上下文信息
May 24 Python
python利用pandas将excel文件转换为txt文件的方法
Oct 23 Python
浅谈pyqt5在QMainWindow中布局的问题
Jun 21 Python
python yield关键词案例测试
Oct 15 Python
Python基于Socket实现简单聊天室
Feb 17 Python
基于python实现FTP文件上传与下载操作(ftp&sftp协议)
Apr 01 Python
Python3爬虫关于识别检验滑动验证码的实例
Jul 30 Python
Python自定义sorted排序实现方法详解
Sep 18 Python
Scrapy中如何向Spider传入参数的方法实现
Sep 28 Python
python使用Windows的wmic命令监控文件运行状况,如有异常发送邮件报警
Jan 30 Python
在matplotlib中改变figure的布局和大小实例
Apr 23 #Python
Python将二维列表list的数据输出(TXT,Excel)
Apr 23 #Python
Python基于DB-API操作MySQL数据库过程解析
Apr 23 #Python
详解pandas绘制矩阵散点图(scatter_matrix)的方法
Apr 23 #Python
Python matplotlib实时画图案例
Apr 23 #Python
windows下的pycharm安装及其设置中文菜单
Apr 23 #Python
使用python+poco+夜神模拟器进行自动化测试实例
Apr 23 #Python
You might like
微信支付开发告警通知实例
2016/07/12 PHP
PHP正则判断一个变量是否为正整数的方法
2019/02/27 PHP
强制设为首页代码
2006/06/19 Javascript
javascript获取当前ip的代码
2009/05/10 Javascript
使用JavaScript构建JSON格式字符串实现步骤
2013/03/22 Javascript
jquery()函数的三种语法介绍
2013/10/09 Javascript
JavaScript对表格或元素按文本,数字或日期排序的方法
2015/05/26 Javascript
jQuery简单实现iframe的高度根据页面内容自适应的方法
2016/08/01 Javascript
js实现统计字符串中特定字符出现个数的方法
2016/08/02 Javascript
使用Bootstrap + Vue.js实现添加删除数据示例
2017/02/27 Javascript
浅谈在koa2中实现页面渲染的全局数据
2017/10/09 Javascript
vue2.0与bootstrap3实现列表分页效果
2017/11/28 Javascript
浅谈Vue.js路由管理器 Vue Router
2018/08/16 Javascript
vue使用prop可以渲染但是打印台报错的解决方式
2019/11/13 Javascript
[01:10:49]Secret vs VGJ.S 2018国际邀请赛淘汰赛BO3 第二场 8.24
2018/08/25 DOTA
Python EOL while scanning string literal问题解决方法
2020/09/18 Python
Python运算符重载用法实例
2015/05/28 Python
wxpython中Textctrl回车事件无效的解决方法
2016/07/21 Python
解决pycharm每次新建项目都要重新安装一些第三方库的问题
2019/01/17 Python
opencv3/C++图像像素操作详解
2019/12/10 Python
Python devel安装失败问题解决方案
2020/06/09 Python
使用python修改文件并立即写回到原始位置操作(inplace读写)
2020/06/28 Python
解决django migrate报错ORA-02000: missing ALWAYS keyword
2020/07/02 Python
Python生成器generator原理及用法解析
2020/07/20 Python
Ubuntu20.04环境安装tensorflow2的方法步骤
2021/01/29 Python
收集的7个CSS3代码生成工具
2010/04/17 HTML / CSS
char型变量中能不能存贮一个中文汉字
2015/07/08 面试题
Linux如何命名文件--使用文件名时应注意
2012/01/22 面试题
银行出纳岗位职责
2013/11/25 职场文书
财务会计专业推荐信
2013/11/30 职场文书
亲戚结婚的请假条
2014/02/11 职场文书
家庭教育的心得体会
2014/09/01 职场文书
初婚初育证明范本
2014/11/24 职场文书
小班教师个人总结
2015/02/05 职场文书
SQL Server内存机制浅探
2022/04/06 SQL Server
MySQL中JOIN连接的基本用法实例
2022/06/05 MySQL