利用pandas向一个csv文件追加写入数据的实现示例


Posted in Python onApril 23, 2020

我们越来越多的使用pandas进行数据处理,有时需要向一个已经存在的csv文件写入数据,传统的方法之前我也有些过,向txt,excel文件写入数据,传送门:Python将二维列表(list)的数据输出(TXT,Excel)

pandas to_csv()只能在新文件写数据?当然不是!

pandas to_csv() 是可以向已经存在的具有相同结构的csv文件增加dataframe数据。

df.to_csv('my_csv.csv', mode='a', header=False)

to_csv()方法mode默认为w,我们加上mode='a',便可以追加写入数据。

pandas读写文件,处理数据的效率太高了,所以我们尽量使用pandas的进行输出。

下面让我们来看一下示例

# -*- coding:utf-8 -*-
import os
import time
import pandas as pd
 
from multiprocessing import Pool
 
def merge(filename):
  return pd.read_csv('./fun_data/'+filename)
 
if __name__ == "__main__":
  file_list = os.listdir('./fun_data')
  e1 = time.time()
 
  pool = Pool(20)
  result = pool.map(merge,file_list)
  pool.close()
  pool.join()
 
  e2 = time.time()
  print(e2 - e1)
 
  for i in result:
    i.to_csv('./static.csv',mode='a',encoding='utf-8',header=False,index=False)
  e3 = time.time()
  print(e3-e2)

到此这篇关于利用pandas向一个csv文件追加写入数据的实现示例的文章就介绍到这了,更多相关pandas csv追加写入内容请搜索三水点靠木以前的文章或继续浏览下面的相关文章希望大家以后多多支持三水点靠木! 

Python 相关文章推荐
python字符串排序方法
Aug 29 Python
python判断windows系统是32位还是64位的方法
May 11 Python
python 打印对象的所有属性值的方法
Sep 11 Python
tensorflow 使用flags定义命令行参数的方法
Apr 23 Python
Linux CentOS Python开发环境搭建教程
Nov 28 Python
Numpy之random函数使用学习
Jan 29 Python
python快速排序的实现及运行时间比较
Nov 22 Python
python 比较字典value的最大值的几种方法
Apr 17 Python
python模拟哔哩哔哩滑块登入验证的实现
Apr 24 Python
详解Python牛顿插值法
May 11 Python
Python 数据可视化之Matplotlib详解
Nov 02 Python
python小型的音频操作库mp3Play
Apr 24 Python
在matplotlib中改变figure的布局和大小实例
Apr 23 #Python
Python将二维列表list的数据输出(TXT,Excel)
Apr 23 #Python
Python基于DB-API操作MySQL数据库过程解析
Apr 23 #Python
详解pandas绘制矩阵散点图(scatter_matrix)的方法
Apr 23 #Python
Python matplotlib实时画图案例
Apr 23 #Python
windows下的pycharm安装及其设置中文菜单
Apr 23 #Python
使用python+poco+夜神模拟器进行自动化测试实例
Apr 23 #Python
You might like
中东人咖啡哲学
2021/03/03 咖啡文化
PHP中redis的用法深入解析
2014/02/20 PHP
php常用数学函数汇总
2014/11/21 PHP
php头像上传预览实例代码
2017/05/02 PHP
PHP addAttribute()函数讲解
2019/02/03 PHP
PHP高并发和大流量解决方案整理
2021/03/09 PHP
jQuery 1.2.x 升? 1.3.x 注意事项
2009/05/06 Javascript
jQuery 位置函数offset,innerWidth,innerHeight,outerWidth,outerHeight,scrollTop,scrollLeft
2010/03/23 Javascript
javascript innerHTML使用分析
2010/12/03 Javascript
纯JS实现的批量图片预览加载功能
2011/08/14 Javascript
JSuggest自动匹配下拉框使用方法(示例代码)
2013/12/27 Javascript
$(document).ready(function() {})不执行初始化脚本
2014/06/19 Javascript
使用documentElement正确取得当前可见区域的大小
2014/07/25 Javascript
jquery实现对联广告的方法
2015/02/05 Javascript
javascript转换日期字符串为Date日期对象的方法
2015/02/13 Javascript
jQuery打字效果实现方法(附demo源码下载)
2015/12/18 Javascript
Underscore源码分析
2015/12/30 Javascript
js实现分页功能
2017/05/24 Javascript
node.js中http模块和url模块的简单介绍
2017/10/06 Javascript
浅谈vue父子组件怎么传值
2018/07/21 Javascript
[34:47]完美世界DOTA2联赛PWL S2 Magma vs LBZS 第一场 11.18
2020/11/18 DOTA
Python 专题五 列表基础知识(二维list排序、获取下标和处理txt文本实例)
2017/03/20 Python
python OpenCV学习笔记之绘制直方图的方法
2018/02/08 Python
利用Python如何批量修改数据库执行Sql文件
2018/07/29 Python
Python读取csv文件分隔符设置方法
2019/01/14 Python
对YOLOv3模型调用时候的python接口详解
2019/08/26 Python
Python中Selenium模块的使用详解
2020/10/09 Python
Python numpy大矩阵运算内存不足如何解决
2020/11/19 Python
详解rem 适配布局
2018/10/31 HTML / CSS
毕业生的自我鉴定该怎么写
2013/12/02 职场文书
优秀学生干部先进事迹材料
2014/05/26 职场文书
节水标语大全
2014/06/11 职场文书
幼儿园教师师德师风演讲稿:我自豪我是一名幼师
2014/09/10 职场文书
2015年美容师个人工作总结
2015/10/14 职场文书
表扬稿表扬信的格式及范文
2019/06/24 职场文书
改造DE1103三步曲
2022/04/07 无线电