利用pandas向一个csv文件追加写入数据的实现示例


Posted in Python onApril 23, 2020

我们越来越多的使用pandas进行数据处理,有时需要向一个已经存在的csv文件写入数据,传统的方法之前我也有些过,向txt,excel文件写入数据,传送门:Python将二维列表(list)的数据输出(TXT,Excel)

pandas to_csv()只能在新文件写数据?当然不是!

pandas to_csv() 是可以向已经存在的具有相同结构的csv文件增加dataframe数据。

df.to_csv('my_csv.csv', mode='a', header=False)

to_csv()方法mode默认为w,我们加上mode='a',便可以追加写入数据。

pandas读写文件,处理数据的效率太高了,所以我们尽量使用pandas的进行输出。

下面让我们来看一下示例

# -*- coding:utf-8 -*-
import os
import time
import pandas as pd
 
from multiprocessing import Pool
 
def merge(filename):
  return pd.read_csv('./fun_data/'+filename)
 
if __name__ == "__main__":
  file_list = os.listdir('./fun_data')
  e1 = time.time()
 
  pool = Pool(20)
  result = pool.map(merge,file_list)
  pool.close()
  pool.join()
 
  e2 = time.time()
  print(e2 - e1)
 
  for i in result:
    i.to_csv('./static.csv',mode='a',encoding='utf-8',header=False,index=False)
  e3 = time.time()
  print(e3-e2)

到此这篇关于利用pandas向一个csv文件追加写入数据的实现示例的文章就介绍到这了,更多相关pandas csv追加写入内容请搜索三水点靠木以前的文章或继续浏览下面的相关文章希望大家以后多多支持三水点靠木! 

Python 相关文章推荐
python字符串连接的N种方式总结
Sep 17 Python
详解使用Python处理文件目录的相关方法
Oct 16 Python
Python 元类实例解析
Apr 04 Python
Python字典的核心底层原理讲解
Jan 24 Python
python查询文件夹下excel的sheet名代码实例
Apr 02 Python
python实现接口并发测试脚本
Jun 25 Python
python/Matplotlib绘制复变函数图像教程
Nov 21 Python
Python 装饰器原理、定义与用法详解
Dec 07 Python
python 使用opencv 把视频分割成图片示例
Dec 12 Python
python 安装教程之Pycharm安装及配置字体主题,换行,自动更新
Mar 13 Python
基于python判断字符串括号是否闭合{}[]()
Sep 21 Python
python爬虫基础之urllib的使用
Dec 31 Python
在matplotlib中改变figure的布局和大小实例
Apr 23 #Python
Python将二维列表list的数据输出(TXT,Excel)
Apr 23 #Python
Python基于DB-API操作MySQL数据库过程解析
Apr 23 #Python
详解pandas绘制矩阵散点图(scatter_matrix)的方法
Apr 23 #Python
Python matplotlib实时画图案例
Apr 23 #Python
windows下的pycharm安装及其设置中文菜单
Apr 23 #Python
使用python+poco+夜神模拟器进行自动化测试实例
Apr 23 #Python
You might like
【COS正片】蕾姆睡衣cos,纯洁可爱被治愈了 cn名濑弥七
2020/03/02 日漫
NOD32 v2.70.32 简体中文封装版 提供下载了
2007/02/27 PHP
php木马webshell扫描器代码
2012/01/25 PHP
自己在做项目过程中学到的PHP知识收集
2012/08/20 PHP
使用PHP如何实现高效安全的ftp服务器(二)
2015/12/30 PHP
javascript URL锚点取值方法
2009/02/25 Javascript
javascript 正则替换 replace(regExp, function)用法
2010/05/22 Javascript
jquery 全局AJAX事件使用代码
2010/11/05 Javascript
检测input每次的输入是否合法遇到汉字输入就有问题
2012/05/23 Javascript
Jquery EasyUI中弹出确认对话框以及加载效果示例代码
2014/02/13 Javascript
javascript实现的固定位置悬浮窗口实例
2015/04/30 Javascript
Jquery解析json字符串及json数组的方法
2015/05/29 Javascript
javascript闭包(Closure)用法实例简析
2015/11/30 Javascript
jQuery+ajax简单实现文件上传的方法
2016/06/03 Javascript
终于实现了!精彩的jquery弹幕效果
2016/07/18 Javascript
bootstrap制作jsp页面(根据值让table显示选中)
2017/01/05 Javascript
JS基于对象的特性实现去除数组中重复项功能详解
2017/11/17 Javascript
node.js命令行教程图文详解
2019/05/27 Javascript
JavaScript实现简单计算器功能
2019/12/19 Javascript
Python并行分布式框架Celery详解
2018/10/15 Python
记录Python脚本的运行日志的方法
2019/06/05 Python
详解Python在使用JSON时需要注意的编码问题
2019/12/06 Python
Python模块future用法原理详解
2020/01/20 Python
django rest framework serializers序列化实例
2020/05/13 Python
Python之字符串的遍历的4种方式
2020/12/08 Python
利用HTML5画出一个坦克的形状具体实现代码
2013/06/20 HTML / CSS
美国指甲油品牌:Deco Miami
2017/01/30 全球购物
美国用餐电影院:Alamo Drafthouse Cinema
2020/01/23 全球购物
远东集团网络工程师面试题
2014/10/20 面试题
应届生的求职推荐信范文
2013/11/30 职场文书
模特大赛策划方案
2014/05/28 职场文书
汽车广告策划方案
2014/05/31 职场文书
房产协议书范本2014
2014/09/30 职场文书
阿凡达观后感
2015/06/10 职场文书
数学备课组工作总结
2015/08/12 职场文书
Java tomcat手动配置servlet详解
2021/11/27 Java/Android